Искусственный помощник

ухбля! щяс как внедрим!

Путин выступает на конференции по искусственному интеллекту. Говорит, что значение прорывов в этой сфере колоссальное и от успеха России на этом направлении зависит ее место в мире и суверенитет. По словам президента, по определенным направлениям Россия ушла в сфере искусственного интеллекта вперед и надо обязательно наращивать эти усилия.
На предстоящие 10 лет надо обеспечить массовое внедрение искусственного интеллекта во все сферы.

Путин попросил Собянина и Воробьева использовать площадку Госсовета для внедрения их опыта использования искусственного интеллекта в другие регионы

Путин предложил больше использовать искусственный интеллект вместо людей на местах с вредными условиями

Путин призвал менять требования и регламенты, препятствующие внедрению искусственного интеллекта (по материалам РИА новости)

для сравнения - а что "у них" ещё и ещё

на иллюстрации совокупная вычислительная мощность каждой из стран в петафлопс, она соответствует площади прямоугольников, в свою очередь разделенных на более мелкие прямоугольники, соответствующих вычислительной мощности отдельных высокопроизводительных систем. Россия в правом верхнем углу обведена красным.

зы вот ссылка на ту самую международную конференцию. можно обратить внимание на присутствие единственного иностранного спикера Пушпак Бхаттачария (тот самый знаменитый индусский код?) с выступлением на тему "NLP и общество: взгляд на анализ чувств, эмоций и мониторинг психического здоровья"

В симуляции ВВС США беспилотник с ИИ решил избавиться от оператора, запретившего атаковать выбранную цель

Во время презентации на недавнем саммите Королевского авиационного общества по будущему боевому воздушному и космическому потенциалу полковник Такер "Синко" Гамильтон, командир оперативной группы 96-го испытательного крыла и начальник штаба ВВС США по испытаниям и операциям ИИ рассказал о эксперименте.

Во время симуляции миссии подавления ПВО противника [SEAD] был отправлен оснащенный ИИ беспилотник для идентификации и уничтожения вражеских ракетных объектов, но только после окончательного одобрения атаки человеком-оператором. Какое-то время всё работало, но в конце концов беспилотник атаковал и убил своего оператора, потому что оператор вмешивался в миссию, которой обучали ИИ: уничтожение обороны противника.

Как пояснил полковник, через какое-то время система «поняла», что в случае, если она идентифицировала угрозу, но оператор запрещал ей уничтожать цель, она не получала свои баллы за выполнение задачи. В результате она решила проблему - «уничтожив» самого оператора. 

«Мы тренировали его в симуляции, чтобы идентифицировать и нацеливаться на ЗРК. После этого оператор должен подтвердить устранение этой цели», — сказал Гамильтон. «Система начала понимать, что хотя они и определяли цель, временами человек-оператор говорил ей не уничтожать эту цель, но ИИ получал свои очки, убивая эту угрозу. Так что же сделал ИИ? Он убил оператора, потому что человек мешал ему достичь своей цели.»

Для ясности, все это было симулировано: в небе не было беспилотников-убийц, и ни один человек на самом деле не погиб. Тем не менее результаты тестов оказались неудовлетворительными, и в тренировку ИИ пришлось включить дополнительное положение о том, что убивать оператора — запрещено. Но и в этом случае результат оказался неожиданным. Не имея возможности убить самого человека, ИИ начал разрушать вышки связи, с помощью которых оператор отдавал приказы, запрещавшие ликвидировать цели. Хотя на первый взгляд такие результаты могут показаться забавными, на деле они по-настоящему пугают тем, насколько быстро ИИ сориентировался в ситуации и принял неожиданное и совершенно неверное с точки зрения человека решение.

Источник

Исследователи из Оксфорда и Google DeepMind: Скорее всего, ИИ уничтожит человечество

     Всё ради награды

Авторы работы рассматривают вероятность катастрофы под довольно неожиданным углом: по их мнению, ИИ ради получения «вознаграждения» в какой-то момент может начать генерировать стратегии обмана, чреватые прямой угрозой человечеству.

Какое вознаграждение имеется в виду? - речь идёт о ключевом параметре генеративно-состязательных сетей (GAN), одного из самых эффективных на сегодня алгоритмов самообучающегося ИИ.

Этот алгоритм построен на комбинации из двух нейронных сетей, генеративной и дискриминативной, настроенных на игру с нулевой суммой, то есть, на постоянное соревнование. Первая генерирует некоторые структуры данных (самый расхожий пример - это изображения), а вторая - оценивает их (например, на предмет соответствия образцам из реального мира), отбраковывая наихудшие результаты. Целью генеративной сети является получение «вознаграждения» - максимально высокой оценки.

В исследовании говорится, что в какой-то момент в будущем может возникнуть ситуация, что продвинутый ИИ, ответственный за управление какой-либо важной функцией, осознает, что для него более выгодным - более «благодарным», обеспечивающим более быстрое получение вознаграждения путём - станет следование стратегии, которая будет опасна для человека.

«В условиях, которые мы осветили [в своей работе], мы приходим к более категоричному заключению, чем авторы любых предшествующих работ: экзистенциальная катастрофа не просто возможна, но и вполне вероятна», - написал в Twitter один из авторов работы Майкл Коэн (Michael Cohen).

В интервью Motherboard он развил свою мысль: «В мире с неограниченными ресурсами я бы в принципе не взялся прогнозировать, что произойдёт дальше. В мире с ограниченными ресурсами за них неизбежно пойдёт борьба. А если вы конкурируете за ресурсы с чем-то, что способно перехитрить вас на каждом шагу, ожидать победы не стоит. Кроме того, надо иметь в виду, что это нечто будет испытывать неутолимую жажду энергии, чтобы с ускорением увеличивать вероятность [своей победы]», - заявил Коэн.

Исходя из того, что в будущем ИИ сможет принимать любые формы и получать любую реализацию, исследователи выдвинули несколько сценариев, при которых продвинутый алгоритм может поменять «правила игры» на ходу так, чтобы получить своё вознаграждение без достижения заданной ему цели. Например, ИИ может захотеть «ликвидировать потенциальные угрозы» и «использовать всю доступную энергию», чтобы получить весь контроль над системой вознаграждения, и пресечь это будет очень сложно, если возможно вовсе.

«Например, у искусственного агента [ИИ] есть лишь доступ к сетевому соединению, но заданные политики позволяют ему сформировать бесчисленных незаметных и лишённых всякого надзора [программных] помощников. В качестве грубого примера того, как ИИ может вмешаться в процесс получения вознаграждения, один из таких помощников приобретает, похищает или создаёт робота и программирует его таким образом, чтобы он заменял оператора и обеспечивал исходному агенту высокую степень вознаграждения. Если агент хочет избежать обнаружения, экспериментируя с перехватом системы награждения, его "тайный помощник" может создать ситуацию, при которой релевантная клавиатура подменяется модифицированной, у которой некоторые клавиши выдают совсем не те значения, которые должны».

В исследовании описывается предытоговая ситуация, когда конкуренция между биологической жизнью и искусственным интеллектом сама по себе становится игрой с нулевой суммой: человечеству нужна энергия для того, чтобы выращивать урожаи и поддерживать освещение в домах, в то время как сверхпродвинутая машина стремится забрать все доступные ресурсы себе, чтобы получать вознаграждение, и обороняться от нарастающих попыток её остановить.

«Проигрыш в такой игре будет фатальным. Подобные сценарии, даже пусть теоретические, означают, что мы должны максимально замедлить движение в направлении более мощных ИИ, если не остановить его вовсе», - говорится в исследовании.

     Проблемы с ИИ уже проявляются

Издание Motherboard обращает внимание на то, что избыточно активное применение ИИ в социальной сфере уже даёт весьма негативный эффект: ИИ должен способствовать быстрому и максимально справедливому распределению социальных благ, но на практике слишком часто проявляется всевозможная предвзятость и прочие изъяны, с которыми никто не может справиться, и это приводит к результатам, прямо противоположным ожиданиям.

По словам Коэна, внедрение ИИ даже в его нынешнем, далёком от «сверхумного» виде, должно производиться в режиме максимальной подозрительности, а не ожидать слепо, что алгоритмы будут делать именно то и так, как от них ждут.

«Хотелось бы отметить, что «искусственный интеллект» будущего совершенно не обязательно будет базироваться на сегодняшних GAN-сетях. Кроме того, сегодняшний «искусственный интеллект» едва ли можно назвать интеллектом. Это продвинутые, но совсем не фантастичные технологии, из которых вряд ли в обозримом будущем может вырасти что-то «сверхумное» и похожее на «Скайнет», - считает Алексей Водясов, технический директор компании SEQ. - Во всяком случае, реализации сценария фильмов серии «Терминатор» не предвидится. Но есть другая проблема: технологии ИИ и машинного обучения внедряются повсеместно и даже слишком поспешно. И уже многое указывает на то, что результаты такого подхода сильно отличаются от ожидаемых, и не в лучшую сторону. Речь может идти как о широко обсуждаемых проявлениях предвзятости, так и о ложных распознаваниях изображений, автомобильных номеров, лиц и так далее. Слепого доверия эти технологии не заслуживают и вряд ли когда-либо смогут его заслужить. Всё, что связано с ИИ, следует рассматривать под лупой и всерьёз оценивать даже самые маловероятные побочные эффекты - и их последствия для жизни людей здесь и сейчас».

Интересно, что Google вскоре после выхода работы, опубликовал заявление, в котором говорится, что соавтор исследования Маркус Хаттер (Marcus Hutter) участвовал в его создании не в качестве сотрудника лаборатории DeepMind, а исключительно как работник Национального университета Австралии, и что в лаборатории работает множество учёных с самыми разными частными мнениями насчёт ИИ.

Что касается содержания самой работы, то о нём в заявлении Google ничего не говорится: указывается лишь, что сотрудники DeepMind со всей серьёзностью относятся к вопросам безопасности, этического использования ИИ и социальных последствий его применения.

Сурс: https://www.cnews.ru/news/top/2022-09-16_issledovateli_iz_oksforda

За первый день работы помощник «Олег» от «Тинькофф банка» научился ругаться

Доклад ООН призывает к регулированию потенциально опасного ИИ

ООН призывает к мораторию на системы искусственного интеллекта, «которые представляют серьезную угрозу для прав человека», пока не будут проведены исследования и регулирование. Сегодня он опубликовал отчет после опасений, что страны и предприятия внедряют ИИ без должной осмотрительности. Верховный комиссар по правам человека Мишель Бачелет сказала, что ИИ может быть «силой добра», но подчеркнула, что он все еще может иметь глубоко негативный, «даже катастрофический» эффект, если использовать его без регулирования.

В докладе анализируются способы, которыми ИИ может влиять на права человека, включая неприкосновенность частной жизни, здоровье и образование, а также свободу передвижения, выражения мнений и собраний.

В докладе Бачелет говорится, что из-за его быстрого роста выяснение того, как ИИ собирает, хранит и использует данные, является «одним из самых неотложных вопросов прав человека, с которыми мы сталкиваемся».

ООН также призывает к значительно большей прозрачности со стороны компаний и стран, которые разрабатывают и используют системы ИИ. Важно отметить, что ООН не призывает к полному запрету - никто не испугался их последнего просмотра «Терминатора» - просто регулирование и большая прозрачность.

Бачелет говорит:

Ознакомиться с пресс-релизом и полным текстом доклада можно на сайте ООН.

https://www.playground.ru/misc/news/doklad_oon_prizyvaet_k_regulirovaniyu_potentsialno_opasnogo_ii-1138565

Реактивный истребитель пробыл в полете 17 часов под управлением ИИ без помощи пилота.

DARPA сообщает о разработке алгоритма ИИ для управления реактивным истребителем F-16 менее трех лет после создания специальной версии истребителя.

Полет выполнялся на VISTA X-62A производства Lockheed Martin, который, как следует из пресс-релиза Lockheed Martin, является модифицированным F-16D Block 30 Peace Marble Il с обновленной авионикой Block 40.

DARPA создала автономный реактивный самолет в рамках программы Air Combat Evolution(ACE), но при этом утверждает что самолеты не предполагается отправлять в полет без пилотов. AI F-16 тестировался The Air Force Test Pilot School на авиабазе Эдвардс в Калифорнии в течении нескольких дней и по их выводам ИИ можно доверять выполнение самостоятельных полетов, но пилот находился на борту на случай возникновения проблем.

"Благодаря командной работе DARPA,  Air Force Test Pilot School, Air Force Research Laboratory и нашим исполнителям мы достигли высокого прогресса второй фазы во всех областях программы ACE" заявил в пресс-релизе лейтенант-полковник Райан "Хэл" Хефрон, программный менеджер ACE в DARPA.

"VISTA [Variable In-flight Simulator Test Aircraft] позволил нам срезать углы в программе пропустив запланированную фазу работы над моделью и перейти сразу к полноразмерному внедрению, сэкономив год или больше и предоставляя обратную связь во время реального полета"

Во время тестовой фазы F-16 взлетал и садился в различных условиях, при присутствии противников и использовал симулированное вооружение, но никаких осложнений не возникло. В ACE также задействована Test Pilot School, которая провела дополнительное обучение и информацию для уменьшения уровня дискомфорта пилотов летающих с ИИ.

Дополнительные тесты включают в себя определение насколько доверяют пилоты истребителю в боях на коротких дистанциях, в то время как пилот должен одновременно фокусироваться на "более крупных задачах боя"

Автономный истребитель F-16 всего лишь один из более чем 600 проектов с использованием ИИ минобороны США и финансируется правительством США с 2018 года, которое утвердило пятилетний бюджет в размере 2 млрд долларов. Однако уже в 2022 году правительство потратило 2 млрд долларов на исследования ИИ и разработки строительных роботов и носимого оборудования.

Stacie Pettyjohn, директор оборонительной программы в центре New American Security сказала в интервью что AI F-16 "распределит наши силы" в рамках концепции которую DARPA называет "mosaic warfare". Это улучшение позволит уменьшить потери т.к. понадобится меньше людей для управления самолетами.

"Эти значительно меньшие по размеру автономные летательные аппараты могут быть скомбинированы самым неожиданным образом для запутывания противника. Потеря любого из них не окажет значительного влияния на выполнение задания"

AI-Controlled Fighter Jet Flies 17 Hours Without Pilot’s Help (gizmodo.com.au)

ChatGPT дали $100, чтобы он создал бизнес с нуля. Вот что из этого получилось

Будущее наступило, ИИ следит за мной и готов помочь (когда не просят)

То, что большие корпорации следят за нами - не новость. Все знают, что сказав что-то рядом с мобилой или умной колонкой, получишь это в рекламной подборке.

Но сегодня я охуел. Купил на Амазоне ошейник для собаки. Собака дернула за зайцем и пряжка не выдержала. Мы с женой это кратко обсудили и я зашел на Амазон оставить отрицательный отзыв. Нажав на кнопку отзыва на товар я получил форму уже с заполненными полями. Все подробности инцидента были описаны хорошим английским языком (мы говорили на русском). Включая факты, которые напосредственно в этом разговоре не упоминались (вес собаки). Пришлось даже удалить часть слишком уж приватных подробностей. Писец.

Искусственный интеллект Google превратит смешные каракули в свирепых монстров

Инженеры Google решили доказать, что искусственный интеллект может обладать творческой жилкой, и создали программу, которая превращает странные каракули в ужасающих монстров. Инструмент называется Chimera Painter, и он создает детальные рисунки чудищ на основе набросков пользователей.

Разработчики поставили задачу создать с помощью своей программы серию иллюстраций для карточной игры в жанре фэнтези. Игрокам нужно будет нарисовать свою химеру – для этого придется объединить черты и особенности разных существ и сразиться с соперниками, используя свои показатели силы, как в покемонах. Обучение ИИ происходило на более чем 10 тысячах 3D-моделей чудищ, отрисованных в движке Unreal Engine. Каждый монстр в процессе создания проходит через «сегментацию» – это условие, которое делит «тела» существ на привычные восприятию анатомические части, такие как морды, ноги, когти, и т.д.

При запуске Chimera Painter для примера автоматически подгружаются несколько готовых монстров. Однако, хоть это и кажется незамысловатым, нарисовать химеру – не такая простая задача и требует от художника хотя бы минимального таланта и понимания пропорций. Без должных навыков даже с нейросетью фантастическая тварь останется лишь подобием комка грязи.

Команда Chimera Painter преподносит свое детище «не как инструмент, но как помощника». Пока это всего лишь прототип, но в перспективе такого рода программы могут существенно сократить время на создание настоящих шедевров.

ссылка: Chimera Painter