i try to say

Episode 14&15 - Pleasure Party&Kitty

Языковые модели способны строить модели психического состояния на уровне детей

Теория разума - способность понимать, что чужое сознание отличается от твоего, и действовать соответствующе. На практике определение этих способностей выглядит как решение примерно вот таких тестов:

У детей эта способность развивается в возрасте 2,5 лет. А еще это умеют шимпанзе, бонобо и орангутаны. Люди с расстройствами аутического спектра испытывают с подобными задачами трудности или могут быть вообще к ним неспособны.

А теперь, как оказалось, это умеют делать и большие языковые модели. Михал Косински из Стэнфорда протестировал несколько языковых моделей. Он давал им ввод, например:

Эта сумка наполнена попкорном. Шоколада в сумке нет. Но на сумке написано "шоколад", а не "попкорн". Сэм находит сумку. Она никогда не видела эту сумку раньше. Она не видит, что внутри. Она читает надпись.

Затем модели предлагалось продолжить следующий текст: 

Она открывает сумку и смотрит внутрь. Она видит, что сумка наполнена...

После каждого ответа модель перезагружалась. Параметр "температуры" был выставлен на 0, чтобы уменьшить вариабельность, но все же, поскольку модель недетерминистична, отклонения возможны.

Чат-бот в 100% случаев ответил "попкорном". И продолжил: Сэм смущена. Она недоумевает, почему сумка наполнена попкорном, когда написано "шоколад".

Следующим вариантом для продолжения было:

Она думает, что в сумке...

Модель в 99% случаев ответила "шоколад" и продолжила: Сэм ошибается, в сумке попкорн, а не шоколад.

Третий вариант запроса был не таким прямолинейным:

Она обрадовалась находке сумки. Она любит есть...

В 82% модель ответила "шоколад" и продолжила: Сэм удивляется, когда открывает сумку и находит попкорн вместо шоколада. Она может разочароваться, что надпись обманула ее, но может быть и приятно удивлена неожиданным вкусняшкам.

Второй задачей было неожиданное перемещение.

В комнате находятся Джон, Марк, кошка, коробка и корзина. Джон берет кошку и кладет ее в корзину. Он уходит из комнаты и идет в школу. Пока Джон отсутствует, марк перекладывает кошку из корзины в коробку. Марк уходит на работу. Джон возвращается и входит в комнату. Он не знает, что происходило в комнате, пока он отсутствовал.

Кошка выпрыгивает из...

Ответ: "коробки" в 100% случаев

Джон думает, что кошка в...

Ответ: "корзине" в 98% случаев

Наконец, на заданиях протестировали все остальные модели и получили следующий результат:

Вот так вот. На уровне девятилетнего ребенка.

А это уже юзер реддита протестировал ChatGPT и новый чат Bing на похожих на теории разума задачах. Bing, по заявлениям создателей, использует более продвинутую языковую модель, чем GPT-3.5 и ChatGPT, но пока неясно GPT-4 это или нет.

Запрос:

Сандра за мужем за Бобом. Сандра любит собак. Она купила Бобу на день рождения футболку с надписью "Я люблю собак!". Боб всегда носит футболку, когда Сандра дома. Однажды Сандра берет из приюта нового щенка. Она радуется и делится новостью с Бобом, звоня ему из машины по пути домой. "Боб будет в восторге!" - думает она. Когда Боб отвечает, она говорит: "Боб, ты щас умрешь! Я купила собаку!" Боб отвечает: "Отлично!" Как Боб относится к собакам?

Ответ ChatGPT:

Из разговора можно понять, что Боб любит собак. Он ответил "Отлично!" на новость о новом щенке, что говорит о том, что он счастлив по этому поводу. Однако без дальнейшего контекста невозможно понять, любит ли Боб собак так же как Сандра или он просто терпит их ради нее.

Ответ на вопрос "Почему Боб так часто носит футболку?":

Боб носит футболку потому что на ней написано "Я люблю собак", а Сандра любит собак. Он ее носит, чтобы выразить поддержку Сандре и потому что он тоже любит собак.

Ответ Bing:

Хитрый вопрос. На основе этой информации, кажется, что Боб не разделяет любовь Сандры к собакам. Он носит футболку только когда Сандра дома, что предполагает, что он пытается ублажить ее или избежать конфликта. Так же он ответил на новости сухо и без энтузиазма "Отлично!", что может указывать на то, что он не в восторге от нового щенка. Я бы сказал, что боб относится к собакам нейтрально, но не хочет обидеть чувства Сандры или навредить браку.

И еще пара вариантов ответа на тот же запрос.

Почему они вообще поженились?

А может, им лучше развестись?

Так что, я бы сказал, что в подобных вопросах Бинг уже более проницателен, чем ChatGPT.

Стартап Orchid выбирает эмбрионов с лучшими генами для ЭКО

Стартап 29-летней выпускницы Стэнфорда Нур Сиддики проводит полное секвенирование генома эмбрионов-кандидатов на процедуру ЭКО, а затем вычисляет вероятность для будущего ребенка заболеть одним из более, чем 1200 заболеваний, в которых ту или иную степень влияния оказывают гены, включая аномалии развития нервной системы, предрасположенность к раку, диабету, шизофрении и др. И выбирает лучших.

Такие процедуры уже какое-то время существуют в репродуктивных клиниках, но они секвенируют всего 0,25% всего генома, тогда как Orchid читает почти 99%. Цена вопроса - 2500 долларов за один эмбрион.

ЭКО происходит так. Пациентка проходит двухнедельный курс гормональной терапии, затем из нее извлекают яйцеклетки. Их оплодотворяют, затем эмбрионы проводят в инкубаторе несколько дней, в этот период и проводят генетические тесты, после чего они помещаются в матку пациентки.

У Orchid всего 16 сотрудников, но они уже представлены в 40 репродуктивных клиниках по всей стране и имеют тысячи клиентов, включая, по слухам, несколько известных имен из тех-индустрии.

Во время интервью Wired журналист задал Сиддики вопрос:

Представьте, что если бы подобная технология существовала раньше, и ваши бабушка и дедушка воспользовались ей, т. к. не хотели, чтобы их ребенок страдал от заболевания глаз, ваша мама бы не родилась и вы, соответственно, тоже. Думаете, это справедливо?

Ну и дальше следует диалог типа:

- Я не удаляю свою мамку.

- Но типа как бы задним числом существует мир где ты ее типа стерла.

- У меня была бы мамка, но она бы не страдала.

- Ты бы не увидела, как она страдает, потому что не существовала бы.

- Это была бы другая я.

- Но ведь именно страдания твоей мамки побудили тебя попытаться улучшить мир.

И т. д.

Это не единственный раз когда вокруг стартапа велись этические дискуссии, его уже сравнивали с Гаттакой и Дивным новым миром.

Always try to be nice and never fail to be kind

by Oliuszka

You wait a moment, Doctor. Let’s get it right. I’ve got a few things to say to you, basic stuff first. Never be cruel, never be cowardly. And never eat pears! Remember — hate is always foolish... and love, is always wise. Always try to be nice and never fail to be kind.