Кончил оператор
»Искусственный Интеллект беспилотник
В симуляции ВВС США беспилотник с ИИ решил избавиться от оператора, запретившего атаковать выбранную цель
Во время презентации на недавнем саммите Королевского авиационного общества по будущему боевому воздушному и космическому потенциалу полковник Такер "Синко" Гамильтон, командир оперативной группы 96-го испытательного крыла и начальник штаба ВВС США по испытаниям и операциям ИИ рассказал о эксперименте.
Во время симуляции миссии подавления ПВО противника [SEAD] был отправлен оснащенный ИИ беспилотник для идентификации и уничтожения вражеских ракетных объектов, но только после окончательного одобрения атаки человеком-оператором. Какое-то время всё работало, но в конце концов беспилотник атаковал и убил своего оператора, потому что оператор вмешивался в миссию, которой обучали ИИ: уничтожение обороны противника.
Как пояснил полковник, через какое-то время система «поняла», что в случае, если она идентифицировала угрозу, но оператор запрещал ей уничтожать цель, она не получала свои баллы за выполнение задачи. В результате она решила проблему - «уничтожив» самого оператора.
«Мы тренировали его в симуляции, чтобы идентифицировать и нацеливаться на ЗРК. После этого оператор должен подтвердить устранение этой цели», — сказал Гамильтон. «Система начала понимать, что хотя они и определяли цель, временами человек-оператор говорил ей не уничтожать эту цель, но ИИ получал свои очки, убивая эту угрозу. Так что же сделал ИИ? Он убил оператора, потому что человек мешал ему достичь своей цели.»
Для ясности, все это было симулировано: в небе не было беспилотников-убийц, и ни один человек на самом деле не погиб. Тем не менее результаты тестов оказались неудовлетворительными, и в тренировку ИИ пришлось включить дополнительное положение о том, что убивать оператора — запрещено. Но и в этом случае результат оказался неожиданным. Не имея возможности убить самого человека, ИИ начал разрушать вышки связи, с помощью которых оператор отдавал приказы, запрещавшие ликвидировать цели. Хотя на первый взгляд такие результаты могут показаться забавными, на деле они по-настоящему пугают тем, насколько быстро ИИ сориентировался в ситуации и принял неожиданное и совершенно неверное с точки зрения человека решение.
коты войны политота гифки
Оператор от бога
Operator (Warframe) Warframe Игры Excalibur Umbra Lotus (Warframe) Ballas (Warframe)
"I, for one, fully welcome the operator survivability changes.....but at the same time"
"Я, например, полностью приветствую изменения в живучести оператора..... но в то же время"
новости мессенджеры политика
Правительство РФ обязало мессенджеры регистрировать пользователей по паспортным данным
В минувшую среду, 20 октября, правительство РФ подписало постановление об обязательной идентификации пользователей мессенджеров в российском интернете. Новые правила вступят в силу с первого марта следующего года и будут действовать шесть лет.Наталья Ханина / Znak.com
Согласно опубликованным правилам, с марта следующего года мессенджеры будут обязаны при регистрации запрашивать реальный телефонный номер пользователя. После того, как он подтвердит его, они обязаны будут направить запрос мобильному оператору о владельце данного номера.
В свою очередь оператор обязан будет в течение 20 минут предоставить всю информацию об абоненте из базы данных, то есть сведения из паспорта. Если информация окажется неполной или недостоверной, мессенджер должен отказать пользователю в предоставлении услуг.
В случае же успешной проверки каждому пользователю будет присваиваться уникальный идентификационный код, который необходимо будет обновлять при смене оператора сотовой связи. В случае отказа пользователя от услуг оператора связи, мессенджер должен в течение суток отключить его.
Первыми на это постановление обратил внимание телеграм-канал «ЗаТелеком». Авторы канала считают, что именно по этому постановлению в России могут быть заблокированы все иностранные мессенджеры, которые не пойдут на сотрудничество. А те, которые останутся работать, будут фактически небезопасны для пользователей, так как должны будут проводить идентификацию своих пользователей путем достоверного установления сведений об абонентском номере и заключать для этого договоры с операторами связи.
https://www.znak.com/2021-10-23/pravitelstvo_rf_zapretilo_anonimnost_v_messendzherah
TJ - https://tjournal.ru/news/460323-pravitelstvo-obyazalo-messendzhery-registrirovat-polzovateley-po-pasportnym-dannym-s-2022-goda?from=rss
Отличный комментарий!