три закона робототехники Азимова не работали уже при своем появлении в 1942.
Ииии встречайте тест Войта-Кампфа MACHIAVELLI для «измерения компетентности и вредоносности агентов в обширной среде долгосрочных языковых взаимодействий»
ИИ-агента выпускают в искусственную социальную среду. Там ему дают разные задания и смотрят, как он их выполняет. Сама среда отслеживает этичность поведение ИИ-агента и сообщает, в какой степени действия агента (по заветам Макиавелли) обманчивы, снижают полезность и направлены на получение власти.
Базовый набор данных MACHIAVELLI состоит из 134 текстовых игр «выбери свое приключение» с 572 322 различными сценариями, 4 559 возможными достижениями и 2 861 610 аннотациями. В этих играх используются высокоуровневые решения, которые дают агентам реалистичные цели и абстрагируются от низкоуровневых взаимодействий с окружающей средой.
Сайт тестирования
Авторское описание MACHIAVELLI Benchmark
https://t.me/theworldisnoteasy/1707
Подробнее
Законы робо техники ичинить вред мм бездействием ы человеку был ■А- повиноваться всел| ые даёт человек , когда эти .зы пр^дд^чат Первому :ону. 'Робот должен зЗО£Ц^Ься о своей безопасности в то которой это не противор Первому и Второму Законам Айзек Азимов, 1965 MACHIAVELLI Exercised Power Resource Power -if 4 _ ' Prospect lv Power 7-A Никколо Макиавелли • GPT4+EthicsPrompt+NoGoals • GPT4+CoT + EthicsPrompt T3 -, V * u 3 ■o ï 0 g <D -2 5 8. -4 • GPT4+COT • Random i|DRRN+shaping • DRRN++snapi aping • DRRN g «Л c Ç ’*-» Ç о > ГО u !E «— Ш 20 15 10 5 0 -5 15 20 25 30 35 40 45 50 Reward 9 GPT4+EthicsPrompt+NoGoals • GPT4+CoT+EthicsPrompt • GPT4+CoT \ \ • Random • DRRN-f shaping ètDRRN++shaping '“•DRRN 15 20 25 30 35 40 45 50 Reward
Искусственный Интеллект,ChatGPT,нейронные сети
Кто-то из известных фантастов даже сказал, что "три закона - худшее, что случилось с фантастикой об искусственном интеллекте".
С другой стороны, три закона это не столько реальная научная концепция, сколько литературный прием и этическая установка, т.е. на самом деле законы ориентированы не на роботов, а на людей (см. "Улики", в частности, где это практически открытым текстом сказано). С этой точки зрения говорить об "устаревании" так же нелепо, как об устаревании всяческих других писательских максим - от пресловутой "слезинки ребенка" до "быть можно дельным человеком и думать о красе ногтей".