если наступит завтра 2

Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу

Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.

Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.

Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».

В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.

Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.

На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.

Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.

Профессор Нью-Йоркского университета и исследователь Meta* Ян ЛеКан сообщил в Twitter в ответ на удалённую публикацию, что не подписывал письмо и не согласен с его основным посылом (на момент обновления заметки его имя отсутствует в списке, а автора удалённого твита узнать невозможно — vc.ru). В комментариях к его заявлению пользователи предположили, что подписи могли быть сгенерированы ИИ, а также допустили, что, возможно, его имени там изначально и не было, а его внимание привлекли только ради «дополнительных кликов».

Ну что реакторчане? Скажет и Киберпанк или серая обыденная жизнь?

В Amazon сотрудников увольняет алгоритм, иногда и без вины самого сотрудника.

Amazon начала полагаться на алгоритмы при увольнении доставщиков: компьютер отслеживает продуктивность каждого работника и выносит ему предупреждения по поводу его эффективности.

Стивен Нормандин провел почти четыре года доставляя посылки в Финиксе, в качестве контрактного водителя для Amazon.com Inc. Однажды он получил автоматическое электронное письмо. Следящие за ним алгоритмы решили, что он не выполняет свою работу должным образом. 

63-летний ветеран армии был ошеломлен. Его увольнение - это давний прогноз о том, что роботы заменят управленцев и рабочих. В Amazon машины часто являются боссом - нанимают, оценивают и увольняют миллионы людей без какого-либо контроля со стороны человека.

По словам источников издания, знакомых со стратегией компании, глава Amazon Джефф Безос считает, что машины принимают решения быстрее и точнее людей — это снижает затраты и дает компании конкурентное преимущество.

Сообщалось, что ежегодно под сокращения, инициированные искусственным интеллектом, попадают тысячи рабочих: всего на складских комплексах Amazon трудятся более 125 тыс. человек. 

Ранее стал известен опыт Amazon с ИИ-​системой, которая следит за эффективностью водителей: с помощью приложения под названием Flex компания платит владельцам автомобилей по $25 в час за доставку товаров. Когда они в нем регистрируются, их действия начинают отслеживать алгоритмы.

Контролируют, прибыл ли водитель на станцию выгрузки в заявленное время, где оставил посылку и завершил ли заказ в срок. Человек, работа которого покажется ИИ неэффективной, может получить уведомление по электронной почте о расторжении контракта без участия начальника.

Отмечается, что алгоритм может ошибаться, например, построить доставку товара в неисправный постамат. По словам опрошенных изданием работников Amazon, знакомых с программой, 95% водителей выполняют заказы вовремя, а с проблемами сталкиваются только 5%.

Всех с наступающим!

Извините, что пропал на пару дней. Постараюсь сегодня-завтра закинуть несколько постов в Dota и Dota porn.

Christmas Lina

Нейросеть рассказала о прогулке по Амстердаму

Источник: N+1