The OpenAI Files. Темная сторона одного из лидеров главной гонки в истории человечества
The OpanAI Files - исследовательский доклад по открытым источникам об OpenAI и, в частности, Сэме Альтмане.
Об Альтмане
Его дважды пытались сместить с руководства его первым стартапом Loopt за "лживое и хаотичное" поведение.
Из Y Combinator его уволили за прогулы и погоню за личным обогащением.
Альтман утверждал, что не знал о схеме принуждения сотрудников к крайне ограничительным соглашениям о неразглашении информации, однако, он подписал документы, дающие OpenAI полномочия отзывать принадлежащие сотрудникам акции, если они не подпишут соглашения о неразглашении.
Неоднократно лгал членам совета директоров: например, утверждал, что юридическая группа одобрила исключение из правил безопасности, хотя на самом деле этого не было, и сообщал, что один член совета директоров хотел отстранить другого члена совета директоров, хотя это было не так.
Илья Суцкевер (сооснователь и бывший ведущий ученый OpenAI, теперь завел свой стартап): "Я не думаю, что Сэм - это тот, кто должен держать руку на кнопке сильного ИИ".
У Суцкевера ушли годы, чтобы понять паттерн поведения Альтмана. Альтман сначала говорил ему одно, затем утверждал обратное и вел себя так, будто это была случайностью. "Должно быть, я оговорился". Суцкевер считает, что Альтман лжет и сеет хаос, что стало бы проблемой для любого генерального директора, но особенно для того, кто отвечает за технологию, способную изменить цивилизацию.
Мира Мурати (бывший технический директор OpenAI, тоже рулит стартапом): "Мне не нравится, что к сильному ИИ нас ведет Сэм".
Мурати рассказала, как токсичный стиль управления Альтмана создавал проблемы в течение многих лет, особенно когда обострялась его тревожность, как в последние месяцы. У Альтмана был простой сценарий: сначала сказать все, что нужно, чтобы заставить вас сделать то, что он хотел, а потом, если это не сработало, подорвать ваш авторитет и разрушить репутацию. Альтман говорил людям то, что они хотели услышать, даже если это означало пообещать двум конкурирующим людям одну и ту же работу или дать Microsoft почву для переговоров, которые она месяцами пыталась получить. Мурати давала Альтману обратную связь по всем этим пунктам в прошлом. Альтман в ответ на это в течение нескольких недель приводил главу HR Дайан Юн на их личные встречи, пока Мурати наконец не сказала ему, что не намерена делиться этой обратной связью с советом директоров.
Джеффри Ирвинг (бывший сотрудник техперсонала): "Я категорически против Альтмана после двух лет в OpenAI. Во-первых, он всегда был добр ко мне. Во-вторых, он неоднократно лгал мне. В-третьих, он лгал, манипулировал и деал вещи даже похуже по отношению к моим друзьям. А ко мне был добр не без причины".
Скотт Ааронсон (бывший сотрудник команды безопасности): "Самая большая ирония в том, что если вы хотите призвать Альтмана к ответственности, вам не придется говорить ничего, что он сам не говорил бы еще несколько лет назад".
Дарио и Даниэла Амодей (бывшие вице-президенты по исследованиям и по безопасности соответственно, Дарио сейчас CEO Anthropic, одного из главных конкурентов OpenAI) описывают поведение Альтмана как "газлайтинг" и "психологическое насилие".
О реструктуризации
Раньше существовало условие, что если OpenAI сможет создать ИИ, способный автоматизировать весь человеческий труд, прибыль инвесторов ограничивается потолком в 100х, а все, что сверх - тратится на благо всего человечества. Теперь это ограничение снято.
OpenAI говорит, что вернула контроль некоммерческого совета, но на деле у совета уже нет достаточных рычагов, чтобы держать компанию в рамках заявленной миссии.
Изменения в структуре компании, включая и неограниченную прибыль, сделаны под давлением инвесторов.
О прозрачности и безопасности
OpenAI принуждала сотрудников подписывать сверхжесткие соглашения о неразглашении и неочернении компании, грозившие потерей всех полученных акций, - даже после увольнения.
Чтобы уложиться в сроки запуска продуктов, компания ускоряла оценку рисков своих моделей ИИ и значительно сокращала время и ресурсы, выделенные на тестирование безопасности.
Инсайдеры говорят о культуре безрассудства и секретности. Сотрудники утверждают, что OpenAI не выполняет собственных обещаний и систематически отговаривает работников от поднятия тревожных вопросов.
Еще
Хотя Альтман говорил перед Конгрессом, что у него нет доли в OpenAI, он, хоть и не напрямую, владеет долей через фонды Sequoia и Y Combinator.
По слухам, Альтман может получить 7% в реструктурированной компании. Это около $20 миллиардов.
Альтман лично владеет фондом стартапов OpenAI, но не раскрывал этого перед правлением годами.
OpenAI, на словах поддерживая регулирование ИИ, скрытно лоббировала ослабление Регламента Евросоюза об ИИ.
Альтман, когда-то призывавший к государственному контролю над ИИ, теперь называет его катастрофой.
Это далеко не все, там еще много.
Отличный комментарий!