Искусственая рука

IBM приостановит приём сотрудников, планируя заметить 7,8 тыс. вакансий системами искусственного интеллекта. 

Глава IBM Арвинд Кришна (Arvind Krishna) заявил о намерении компании приостановить приём новых сотрудников на ряд должностей в компании. Ожидается, что в ближайшие годы со многими задачами сможет успешно справляться искусственный интеллект. В частности, речь шла о сотрудниках «бэк-офиса» вроде HR, чьи задачи не предполагают непосредственного общения с клиентами.

Ожидается, что приём на работу сотрудников на новые позиции будет или замедлен или вовсе остановлен. Около 26 тыс. сотрудников бэк-офиса IBM занимают должности, не предусматривающие прямого общения с клиентами. По словам Кришны, порядка 30 % из этих сотрудников можно легко заменить с помощью ИИ и автоматизации в следующие пять лет. Другими словами, речь идёт о судьбе примерно 7,8 тыс. рабочих мест — на некоторые из них просто не будут нанимать новых сотрудников.

В то время как ИИ-инструменты привлекли внимание общественности в первую очередь в связи с их возможностью генерировать программный код, тексты и другой контент, эксперты предполагают, что потенциально они способны оказать негативное влияние и на рынок труда. План Кришны, ставший ответом на быстрое развитие технологий, послужил лишь первым из признаков грядущих кадровых изменений во многих отраслях.

По словам Кришны, всё больше повседневных задач вроде подготовки писем или перемещения сотрудников между департаментами скоро, похоже, будут полностью автоматизированы. Правда, многие функции HR, от подбора персонала до оценки их эффективности, ИИ, возможно, не сможет выполнять ещё в течение десятилетия.

Сейчас на IBM работают около 260 тыс. сотрудников, и компания продолжает нанимать разработчиков ПО и людей для работы с клиентами. По мнению Кришны, найти соискателя сегодня проще, чем ещё год назад. Ранее в этом году компания сообщила о грядущем сокращении нескольких тысяч человек. При этом глава компании заявил, что только в первом квартале текущего года IBM наняла ещё 7 тыс. Стоит отметить, что сама IBM стояла у истоков появления ИИ-решений. В частности, её суперкомпьютер IBM Watson и сопутствующее ПО применялись для построения моделей машинного обучения ещё 10 лет назад.

Сейчас Кришна, занявший пост главы компании в 2020 году, активно занимается оптимизацией бизнеса — от продажи не слишком маржинальных структур вроде Watson Health до сокращения сотрудников. Ожидается, что к концу 2024 года его действия помогут экономить до $2 млрд ежегодно.

Источник:

https://3dnews.ru/1086010/ibm-priostanovit-priyom-sotrudnikov-planiruya-zamenit-78-tis-lyudey-sistemami-iskusstvennogo-intellekta

Инцидент, произошедший с фотографом Майлзом Астреем (Miles Astray) на премии 1839 Photography Awards подчеркивает продолжающуюся напряженность между традиционным искусством и искусством, созданным искусственным интеллектом.

Фотография фламинго, сделанная Астреем под названием “F L A M I N G O N E” изначально заняла первое место в категории искусственного интеллекта на конкурсе People's Vote Award и третье место в призах жюри. Его намерением было подчеркнуть непреходящую актуальность и эмоциональную глубину искусства, созданного руками человека, на фоне роста контента, создаваемого искусственным интеллектом.

Однако, обнаружив, что фотография не была создана искусственным интеллектом, организаторы конкурса дисквалифицировали Астрея и удалили его работу с сайта, подчеркнув важность соблюдения критериев категории для честной конкуренции. «В каждой категории есть отдельные критерии, которым должны соответствовать изображения участников», заявили организаторы конкурса. «Его работа не соответствовала требованиям для категории изображений, сгенерированных искусственным интеллектом. Мы понимаем, что в этом была суть, но не хотим помешать другим художникам выиграть в категории ИИ».

Несмотря на дисквалификацию, Астрей посчитал этот результат победой человеческого творчества и выразил надежду, что это приведет к большему признанию ценности искусства, созданного руками человека.

В симуляции ВВС США беспилотник с ИИ решил избавиться от оператора, запретившего атаковать выбранную цель

Во время презентации на недавнем саммите Королевского авиационного общества по будущему боевому воздушному и космическому потенциалу полковник Такер "Синко" Гамильтон, командир оперативной группы 96-го испытательного крыла и начальник штаба ВВС США по испытаниям и операциям ИИ рассказал о эксперименте.

Во время симуляции миссии подавления ПВО противника [SEAD] был отправлен оснащенный ИИ беспилотник для идентификации и уничтожения вражеских ракетных объектов, но только после окончательного одобрения атаки человеком-оператором. Какое-то время всё работало, но в конце концов беспилотник атаковал и убил своего оператора, потому что оператор вмешивался в миссию, которой обучали ИИ: уничтожение обороны противника.

Как пояснил полковник, через какое-то время система «поняла», что в случае, если она идентифицировала угрозу, но оператор запрещал ей уничтожать цель, она не получала свои баллы за выполнение задачи. В результате она решила проблему - «уничтожив» самого оператора. 

«Мы тренировали его в симуляции, чтобы идентифицировать и нацеливаться на ЗРК. После этого оператор должен подтвердить устранение этой цели», — сказал Гамильтон. «Система начала понимать, что хотя они и определяли цель, временами человек-оператор говорил ей не уничтожать эту цель, но ИИ получал свои очки, убивая эту угрозу. Так что же сделал ИИ? Он убил оператора, потому что человек мешал ему достичь своей цели.»

Для ясности, все это было симулировано: в небе не было беспилотников-убийц, и ни один человек на самом деле не погиб. Тем не менее результаты тестов оказались неудовлетворительными, и в тренировку ИИ пришлось включить дополнительное положение о том, что убивать оператора — запрещено. Но и в этом случае результат оказался неожиданным. Не имея возможности убить самого человека, ИИ начал разрушать вышки связи, с помощью которых оператор отдавал приказы, запрещавшие ликвидировать цели. Хотя на первый взгляд такие результаты могут показаться забавными, на деле они по-настоящему пугают тем, насколько быстро ИИ сориентировался в ситуации и принял неожиданное и совершенно неверное с точки зрения человека решение.

Источник

С.В. Савельев о пузыре искусственного интеллекта, работе мозга, роботизации людей и аферах Илона Маска. Эфир на канале Metametrica от 28 марта 2024 г.

Исследователи из Оксфорда и Google DeepMind: Скорее всего, ИИ уничтожит человечество

     Всё ради награды

Авторы работы рассматривают вероятность катастрофы под довольно неожиданным углом: по их мнению, ИИ ради получения «вознаграждения» в какой-то момент может начать генерировать стратегии обмана, чреватые прямой угрозой человечеству.

Какое вознаграждение имеется в виду? - речь идёт о ключевом параметре генеративно-состязательных сетей (GAN), одного из самых эффективных на сегодня алгоритмов самообучающегося ИИ.

Этот алгоритм построен на комбинации из двух нейронных сетей, генеративной и дискриминативной, настроенных на игру с нулевой суммой, то есть, на постоянное соревнование. Первая генерирует некоторые структуры данных (самый расхожий пример - это изображения), а вторая - оценивает их (например, на предмет соответствия образцам из реального мира), отбраковывая наихудшие результаты. Целью генеративной сети является получение «вознаграждения» - максимально высокой оценки.

В исследовании говорится, что в какой-то момент в будущем может возникнуть ситуация, что продвинутый ИИ, ответственный за управление какой-либо важной функцией, осознает, что для него более выгодным - более «благодарным», обеспечивающим более быстрое получение вознаграждения путём - станет следование стратегии, которая будет опасна для человека.

«В условиях, которые мы осветили [в своей работе], мы приходим к более категоричному заключению, чем авторы любых предшествующих работ: экзистенциальная катастрофа не просто возможна, но и вполне вероятна», - написал в Twitter один из авторов работы Майкл Коэн (Michael Cohen).

В интервью Motherboard он развил свою мысль: «В мире с неограниченными ресурсами я бы в принципе не взялся прогнозировать, что произойдёт дальше. В мире с ограниченными ресурсами за них неизбежно пойдёт борьба. А если вы конкурируете за ресурсы с чем-то, что способно перехитрить вас на каждом шагу, ожидать победы не стоит. Кроме того, надо иметь в виду, что это нечто будет испытывать неутолимую жажду энергии, чтобы с ускорением увеличивать вероятность [своей победы]», - заявил Коэн.

Исходя из того, что в будущем ИИ сможет принимать любые формы и получать любую реализацию, исследователи выдвинули несколько сценариев, при которых продвинутый алгоритм может поменять «правила игры» на ходу так, чтобы получить своё вознаграждение без достижения заданной ему цели. Например, ИИ может захотеть «ликвидировать потенциальные угрозы» и «использовать всю доступную энергию», чтобы получить весь контроль над системой вознаграждения, и пресечь это будет очень сложно, если возможно вовсе.

«Например, у искусственного агента [ИИ] есть лишь доступ к сетевому соединению, но заданные политики позволяют ему сформировать бесчисленных незаметных и лишённых всякого надзора [программных] помощников. В качестве грубого примера того, как ИИ может вмешаться в процесс получения вознаграждения, один из таких помощников приобретает, похищает или создаёт робота и программирует его таким образом, чтобы он заменял оператора и обеспечивал исходному агенту высокую степень вознаграждения. Если агент хочет избежать обнаружения, экспериментируя с перехватом системы награждения, его "тайный помощник" может создать ситуацию, при которой релевантная клавиатура подменяется модифицированной, у которой некоторые клавиши выдают совсем не те значения, которые должны».

В исследовании описывается предытоговая ситуация, когда конкуренция между биологической жизнью и искусственным интеллектом сама по себе становится игрой с нулевой суммой: человечеству нужна энергия для того, чтобы выращивать урожаи и поддерживать освещение в домах, в то время как сверхпродвинутая машина стремится забрать все доступные ресурсы себе, чтобы получать вознаграждение, и обороняться от нарастающих попыток её остановить.

«Проигрыш в такой игре будет фатальным. Подобные сценарии, даже пусть теоретические, означают, что мы должны максимально замедлить движение в направлении более мощных ИИ, если не остановить его вовсе», - говорится в исследовании.

     Проблемы с ИИ уже проявляются

Издание Motherboard обращает внимание на то, что избыточно активное применение ИИ в социальной сфере уже даёт весьма негативный эффект: ИИ должен способствовать быстрому и максимально справедливому распределению социальных благ, но на практике слишком часто проявляется всевозможная предвзятость и прочие изъяны, с которыми никто не может справиться, и это приводит к результатам, прямо противоположным ожиданиям.

По словам Коэна, внедрение ИИ даже в его нынешнем, далёком от «сверхумного» виде, должно производиться в режиме максимальной подозрительности, а не ожидать слепо, что алгоритмы будут делать именно то и так, как от них ждут.

«Хотелось бы отметить, что «искусственный интеллект» будущего совершенно не обязательно будет базироваться на сегодняшних GAN-сетях. Кроме того, сегодняшний «искусственный интеллект» едва ли можно назвать интеллектом. Это продвинутые, но совсем не фантастичные технологии, из которых вряд ли в обозримом будущем может вырасти что-то «сверхумное» и похожее на «Скайнет», - считает Алексей Водясов, технический директор компании SEQ. - Во всяком случае, реализации сценария фильмов серии «Терминатор» не предвидится. Но есть другая проблема: технологии ИИ и машинного обучения внедряются повсеместно и даже слишком поспешно. И уже многое указывает на то, что результаты такого подхода сильно отличаются от ожидаемых, и не в лучшую сторону. Речь может идти как о широко обсуждаемых проявлениях предвзятости, так и о ложных распознаваниях изображений, автомобильных номеров, лиц и так далее. Слепого доверия эти технологии не заслуживают и вряд ли когда-либо смогут его заслужить. Всё, что связано с ИИ, следует рассматривать под лупой и всерьёз оценивать даже самые маловероятные побочные эффекты - и их последствия для жизни людей здесь и сейчас».

Интересно, что Google вскоре после выхода работы, опубликовал заявление, в котором говорится, что соавтор исследования Маркус Хаттер (Marcus Hutter) участвовал в его создании не в качестве сотрудника лаборатории DeepMind, а исключительно как работник Национального университета Австралии, и что в лаборатории работает множество учёных с самыми разными частными мнениями насчёт ИИ.

Что касается содержания самой работы, то о нём в заявлении Google ничего не говорится: указывается лишь, что сотрудники DeepMind со всей серьёзностью относятся к вопросам безопасности, этического использования ИИ и социальных последствий его применения.

Сурс: https://www.cnews.ru/news/top/2022-09-16_issledovateli_iz_oksforda

OenAI Искусственный интеллект, что создает изображения из текста

Сурс

(https://theintercept.com/2024/01/12/open-ai-military-ban-chatgpt/)

Исследователи создали первую секс-игрушку с ИИ, которая позволяет мастурбировать силой мысли

Для этого пользователь должен быть подключён к гарнитуре ЭЭГ, которая измеряет спонтанную электрическую активность мозга, и передаёт сигналы по Wi-Fi в секс-игрушку.

Таким образом можно увеличивать и уменьшать интенсивность. Также устройство определяет, когда пользователь близок к оргазму.

Создатели говорят, что аппарат индивидуально подстраивается под работу мозга каждого человека.

Геркуланумские свитки (2000-летней давности) впервые расшифрованы благодаря искусственному интеллекту

Извержение Везувия в 79 г. н.э. не только "заморозило" во времени города Помпеи и Геркуланум, но и сохранило в смертельном объятии пепла и лавы библиотеку папирусных свитков в последнем городе, представляющую собой сокровищницу древних знаний, которые сейчас окаменели и недоступны. На протяжении столетий эти свитки, безмолвные свидетели ушедшей эпохи, не поддавались попыткам прочесть их, а их содержание оставалось загадкой из-за хрупкого, обугленного состояния. Однако благодаря международной инициативе удалось расшифровать одно слово из этих древних текстов: "πορφύραc" (пурпурный) - термин, связанный с пурпурной краской или одеждой, цвет, часто ассоциирующийся с королевской властью. В рамках проекта "Вызов Везувию" осуществляется стимулирование научных исследований и инноваций в области расшифровки геркуланумских свитков. Поддерживаемая инвесторами из Кремниевой долины, эта инициатива предлагает значительное денежное вознаграждение для стимулирования разработки инновационных методов, в частности, использующих машинное обучение, для извлечения и чтения текста на свитках без их физического повреждения. Брент Силс (Brent Seales) из Университета Кентукки и другие исследователи сыграли решающую роль в реализации этой инициативы, предоставив данные, код и методы в распоряжение общественности и научного сообщества с помощью онлайн-платформы. Это позволяет не только исследователям, но и гражданским ученым получить доступ к информации и внести свой вклад в этот грандиозный проект. Цель — создать среду сотрудничества, в которой разные умы и навыки могут объединиться для решения этой исторической и культурной загадки.

Геркуланумские свитки, обнаруженные в 1752 году, являются бесценным археологическим артефактом, позволяющим получить представление о культуре, философии и повседневной жизни Древнего Рима. Однако их хрупкое, обугленное состояние представляет значительную проблему с точки зрения консервации и чтения. Традиционные методы, такие как физическое разворачивание свитков или их разрезание с целью получения доступа к находящемуся внутри тексту, часто приводили к дальнейшим повреждениям, делая некоторые фрагменты текста невозможными для восстановления. Компьютерная томография (КТ) и алгоритмы машинного обучения стали технологическими решениями, позволяющими преодолеть эти препятствия. Компьютерная томография позволяет получать детальные изображения объектов в поперечном сечении, обеспечивая внутренний обзор без необходимости физического вмешательства в сам объект. С ее помощью были выявлены формы букв и слов, написанных углеродными чернилами, плотность которых несколько отличается от плотности окружающего обугленного папируса. Для анализа изображений, полученных с помощью томографии, используются алгоритмы машинного обучения. Люк Фарритор, студент Университета Небраски-Линкольна, разработал специальный алгоритм для обнаружения греческих букв на нескольких строках свернутого папируса. Он использовал тонкие, мелкомасштабные различия в текстуре поверхности для обучения нейронной сети и выделения чернил. Поэтому Брент Силз и его команда организовали конференцию и прямое включение в Великобритании, чтобы объявить о значительном прорыве: первой расшифровке целого слова. В своем заявлении Силз говорит: "Эти тексты были написаны человеческими руками в то время, когда зарождались мировые религии, еще господствовала Римская империя и многие части света были неизученными". Он добавляет: "Большая часть письменности этого периода была утрачена. Но сегодня геркуланумские письмена больше не потеряны". Греческие символы πορφύραc, означающие "пурпурный краситель" или "пурпурная одежда", входят в число многочисленных символов и строк текста, извлеченных участниками проекта Vesuvius Challenge Люком Фарритором и Юсефом Надером.

Действительно, вскоре после открытия Фарритора Надер, египетский аспирант по биоробототехнике в Берлине, самостоятельно обнаружил то же самое слово в той же самой области - с еще более четкими результатами. Он объясняет: "Мне потребовалось несколько дней, чтобы осознать это, потому что я не мог поверить своим глазам. Это было захватывающее зрелище — читать текст, который мы не понимали, но знали, что он был оставлен людьми тысячи лет назад. Это было как заглянуть в прошлое с помощью машины времени".

https://new-science.ru/gerkulanumskie-svitki-2000-letnej-davnosti-vpervye-rasshifrovany-blagodarya-iskusstvennomu-intellektu/