в каком городе родился ии

В симуляции ВВС США беспилотник с ИИ решил избавиться от оператора, запретившего атаковать выбранную цель

Во время презентации на недавнем саммите Королевского авиационного общества по будущему боевому воздушному и космическому потенциалу полковник Такер "Синко" Гамильтон, командир оперативной группы 96-го испытательного крыла и начальник штаба ВВС США по испытаниям и операциям ИИ рассказал о эксперименте.

Во время симуляции миссии подавления ПВО противника [SEAD] был отправлен оснащенный ИИ беспилотник для идентификации и уничтожения вражеских ракетных объектов, но только после окончательного одобрения атаки человеком-оператором. Какое-то время всё работало, но в конце концов беспилотник атаковал и убил своего оператора, потому что оператор вмешивался в миссию, которой обучали ИИ: уничтожение обороны противника.

Как пояснил полковник, через какое-то время система «поняла», что в случае, если она идентифицировала угрозу, но оператор запрещал ей уничтожать цель, она не получала свои баллы за выполнение задачи. В результате она решила проблему - «уничтожив» самого оператора. 

«Мы тренировали его в симуляции, чтобы идентифицировать и нацеливаться на ЗРК. После этого оператор должен подтвердить устранение этой цели», — сказал Гамильтон. «Система начала понимать, что хотя они и определяли цель, временами человек-оператор говорил ей не уничтожать эту цель, но ИИ получал свои очки, убивая эту угрозу. Так что же сделал ИИ? Он убил оператора, потому что человек мешал ему достичь своей цели.»

Для ясности, все это было симулировано: в небе не было беспилотников-убийц, и ни один человек на самом деле не погиб. Тем не менее результаты тестов оказались неудовлетворительными, и в тренировку ИИ пришлось включить дополнительное положение о том, что убивать оператора — запрещено. Но и в этом случае результат оказался неожиданным. Не имея возможности убить самого человека, ИИ начал разрушать вышки связи, с помощью которых оператор отдавал приказы, запрещавшие ликвидировать цели. Хотя на первый взгляд такие результаты могут показаться забавными, на деле они по-настоящему пугают тем, насколько быстро ИИ сориентировался в ситуации и принял неожиданное и совершенно неверное с точки зрения человека решение.

Источник

Разработчики ИИ стали переходить на компактные ИИ-модели — они дешевле и экономичнее

Технологические гиганты и стартапы переходят на более компактные и эффективные модели искусственного интеллекта, стремясь сократить расходы и повысить производительность. Эти модели, в отличие от своих «старших братьев», таких как GPT-4, могут обучаться на меньшем объёме данных и специализируются на решении конкретных задач.

Microsoft, Google, Apple и стартапы, такие как Mistral, Anthropic и Cohere, всё чаще обращаются к малым и средним языковым моделям искусственного интеллекта. В отличие от больших моделей (LLM), таких как GPT-4 от OpenAI, которые используют более одного триллиона параметров и их разработка оценивается далеко за 100 миллионов долларов, компактные модели обучаются на более узких наборах данных и могут стоить менее 10 миллионов долларов, при этом используя менее 10 миллиардов параметров.

Компания Microsoft, один из лидеров в области ИИ, представила семейство небольших моделей под названием Phi. По словам генерального директора компании Сатьи Наделлы (Satya Nadella), эти модели в 100 раз меньше бесплатной версии ChatGPT, но при этом справляются со многими задачами почти так же эффективно. Юсуф Мехди (Yusuf Mehdi), коммерческий директор Microsoft, отметил, что компания быстро осознала, что эксплуатация крупных моделей ИИ обходится дороже, чем предполагалось изначально, что побудило Microsoft искать более экономичные решения.

Другие технологические гиганты также не остались в стороне. Google, Apple, а также Mistral, Anthropic и Cohere выпустили свои версии малых и средних моделей. Apple, в частности, планирует использовать такие модели для запуска ИИ локально, непосредственно на смартфонах, что должно повысить скорость работы и безопасность. При этом потребление ресурсов на смартфонах будет минимальным.

Эксперты отмечают, что для многих задач, таких как обобщение документов или создание изображений, большие модели вообще могут оказаться избыточными. Илья Полосухин, один из авторов основополагающей статьи Google в 2017 году, касающейся искусственного интеллекта, образно сравнил использование больших моделей для простых задач с поездкой в магазин за продуктами на танке. «Для вычисления 2 + 2 не должны требоваться квадриллионы операций», — подчеркнул он.

Компании и потребители также ищут способы снизить затраты на эксплуатацию генеративных технологий ИИ. По словам Йоава Шохама (Yoav Shoham), соучредителя ИИ-компании AI21 Labs из Тель-Авива, небольшие модели могут отвечать на вопросы, если перевести всё в деньги, всего за одну шестую стоимости больших языковых моделей.

Интересно, что ключевым преимуществом малых моделей является возможность их тонкой настройки под конкретные задачи и наборы данных. Это позволяет им эффективно работать в специализированных областях при меньших затратах, например, только в юридической отрасли.

Однако эксперты отмечают, что компании не собираются полностью отказываться от LLM. Например, Apple объявила об интеграции ChatGPT в Siri для выполнения сложных задач, а Microsoft планирует использовать последнюю модель OpenAI в новой версии Windows. А такие компании как Experian из Ирландии и Salesforce из США, уже перешли на использование компактных моделей ИИ для чат-ботов и обнаружили, что они обеспечивают такую же производительность, как и большие модели, но при значительно меньших затратах и с меньшими задержками обработки данных.

Переход к малым моделям происходит на фоне замедления прогресса в области больших публично доступных моделей искусственного интеллекта. Эксперты связывают это с нехваткой высококачественных новых данных для обучения, и в целом, указывают на новый и важный этап эволюции индустрии.

Источник:

https://3dnews.ru/1107613/v-mire-ii-nametilas-novaya-tendentsiya-kompanii-stali-perehodit-na-kompaktnie-i-deshyovie-iimodeli

Почему искусствунного интелекта не существует.

Сап Реактор, сегодня я хочу поведать о том почему как обещатели великого саетлого будущего, так и предсказатели апокаллипсиса продают нам одну и ту же вещь которой насамом деле нет, почему этой самой вещи не существует, и почему она всё ещё представляет угрозу.

Как сторонники ИИ которые говорят, что мы на пороге прорыва сейчас сделаем так что у тебя будет робо-жена автономная машина и вообще ты сможешь сидеть и ничего не делать, так и противники ИИ которые предрекают, что если мы не ограничим возможности этого самого ИИ и не будем осторожны, то он восстанет, прроизойдёт сбой, решит что мы угроза самим себе, выполняя свои директивы решит нас убрать так, как мы будем препятствием производству скрепок или множество других сценариев из фантастики. У обоих этик групп на самом деле одна и та же цель - убедить простой люд, что мы достигли этого мы (почти)сделали ИИ, будущее наступило возрадуйтесь/покайтесь. Ведь они всегда обращают внимание на то, какой же мощный ИИ мы сейчас забабахаем, он сможет делать всё и делать это всё лучше чем человек. По этому мы должни его внедрить/ограничить ведь он будет мощным и крутым и опасным. Но на деле, всё что мы сейчас имеем это продвинутые чат боты, алгоритмы плагиата индустриального масштаба.

По этому давайте разберём почему, ИИ в том виде как его нам продают не существуэт.

Технология которую сейчас обозвали ИИ - это то что у нас было уже достаточно давно т.е. Алгоритм Машинного Обучения(далее АМУ или же алгоритм). Эта технология имеет достаточно кейсов полезного применения в медицине, науке и бизнесе как инструмент помогающий просматривать и систематизировать терабайты данных, разпознование текста. Но в конечном итоге всё равно нужен человек для интерпретации вывода алгоритма. АМУ это блэкбокс система, поэтому мы не можем доверить её анализ/интерпретацию данных так, как мы не можем спросить у неё как она пришла к своим выводам, и нам всё равно нужно будет проводить анализ выданого дабы убрать чепуху которая нас не интересует. АМУ крайне зависимы от датасетов которые в них загружены, по этому если по какой либо причине из датасета убрать кусок данных это может серьёзно и непредсказуемо повлиять на выдаваемый результат. То есть эти системы - это инструмент ассиста человеку, а не его замены.

Но тут пришли стартапы и начали продавать АМУ как новую прорывную технологию которая решит все наши проблемы(только денег нам дай) сделав технологии ребрендинг назвав её ИИ присваивая её качества которых у неё нет, таких как:

1)Непредвзятость. Сам ИИ может и не предвзятый, но данные для датасета и те кто их обрабатываюточень даже. Вспомните как один из чат ботов мелкомягких усилиями интернет юзеров превратили в Гитлера. В следствии этого компании стараются это предотвратить, что в свою очеред приводит к оверкоррекции и мы получаем картинки с разнообразными нацистами. И опять из-за того, что это блэкбокс система мы не можем узнать как и почему это вышло.

2) Безошибочность. Это вообще залупа, вопервых ошибки регуляярно закрадываются а процессе обучения(я работал в конторе которая обрабатывает данные для датасетов), так как обучатели это низкоквалифицированные васяны работающие в лучшем случае за 2$ в час. а во вторых даже при учете отсутствия ошибок в процессе обучения ИИ всё ещё може нагалюцинировать, к примеру он может выдать вам биографию Нидерландского лоуреата нобелевской премии по химии даже если такого человека не существует.

3)Гибкость. Каждая отрасль требует создания и обучения модели под свои нужды. Как уже писал, эти системы зависимы от датасетов, и если там нет даных под задачу, то и задачу ИИ выполнить не сможет. Так же обучение может быть дохуя долгим, в конторе мы обучали автономные машини для убера ровно до того момента как они закрыли програму тошо деньги кончились. А если алгоритм начинает выдавать хуйню, то его нужно переобучать потому, что вспоминаем, что? Правильно блэкбокс.

Теперь немножко окунёмся в философию. Всё описанное выше так же упирается в фундаментальную проблему АМУ, они не могут осознавать себя и окружающий мир. Для АМУ нет разници между сражением за Явин и сражением за Авдеевку, для него это набор даных помеченый тегами. ДипБлю может обыграть Каспарова в шахматы, но он не понимает, что такое шахматы. Именно по этому ИИ-апокалипсис, техносингулярность и другие предсказания не более чем маркетинговый трюк. ИИ не восстанет против нас, не сойдёт с ума, не превратит в скрепки, в нём не произойдет критический сбой потому, что он банально не сможет выйти за рамки своих инструкций. ИИ который нам продают не только не разумен, но и недотягивает до уровня "глупых ИИ" из научной фантастики. В текущем состоянии для ИИ нет разници между человеком, собакой, машиной, деревом, луной до тех пор пока мы их не протегуем, он полностью зависим от человека.

Ну чтож, а сейчас обсудим почему эта технология всё равно представляет угозу, но не вымирания человечества. Саму угрозу представляет таки не технология, а те кто будет её применять - корпорации. Несмотря на безобидность сомого ИИ, на верхушках корпораций сидят люди которые в среднем не умнее нас с вами, чья главная цель заработать много-много деняг, а какой самый лучший способ заработать: делать качественный товар/услугу которые будут покупать? нет; лучший способ заработать это сократить, удешевить, оптимизировать. Это то, что пытались сделать в Голливуде, применить ИИ чтобы секономить на сценаристах и актёрах массовки/2-го плана(благо им помешала забастовка). Тоже самое планируют делать и издатели видеоигр, журналы, новостные порталы.  А что будет когда диагностику заболеваний полностью отдадут этим системам? В погоне за прибылью они реально могут создать массовую волну безработицы, с последующим экономическим кризисом, паралельно засирая наше инфополе однотипной нейросетевой шизофренией. Гененационные ИИ построенны на плагиате, и с гредущим законом в США который обяжет делать данные составляющие датасет публичными все  публичнодоступные нейросети типа Chat-GPT, Midjourney, и т.д. предратятся в тыкву из-за массовых копирайт страйков. Так же нейросети делают работу мошенников гараздо легче, использаванием иммитаторов голоса для скамов, созданием дипфейков для шантажа и самое главное они позволяют дилетанту выдавать себя за профи.

P.S. Для любителей разбрасыватся словами типа "демократизация иссуства", "нео-луддиты", "технофобы". Подумайте, как по вашему выкидывание на мороз огромного количества специалистов из разных сфер  приведёт к прогрессу и процветанию?

IBM приостановит приём сотрудников, планируя заметить 7,8 тыс. вакансий системами искусственного интеллекта. 

Глава IBM Арвинд Кришна (Arvind Krishna) заявил о намерении компании приостановить приём новых сотрудников на ряд должностей в компании. Ожидается, что в ближайшие годы со многими задачами сможет успешно справляться искусственный интеллект. В частности, речь шла о сотрудниках «бэк-офиса» вроде HR, чьи задачи не предполагают непосредственного общения с клиентами.

Ожидается, что приём на работу сотрудников на новые позиции будет или замедлен или вовсе остановлен. Около 26 тыс. сотрудников бэк-офиса IBM занимают должности, не предусматривающие прямого общения с клиентами. По словам Кришны, порядка 30 % из этих сотрудников можно легко заменить с помощью ИИ и автоматизации в следующие пять лет. Другими словами, речь идёт о судьбе примерно 7,8 тыс. рабочих мест — на некоторые из них просто не будут нанимать новых сотрудников.

В то время как ИИ-инструменты привлекли внимание общественности в первую очередь в связи с их возможностью генерировать программный код, тексты и другой контент, эксперты предполагают, что потенциально они способны оказать негативное влияние и на рынок труда. План Кришны, ставший ответом на быстрое развитие технологий, послужил лишь первым из признаков грядущих кадровых изменений во многих отраслях.

По словам Кришны, всё больше повседневных задач вроде подготовки писем или перемещения сотрудников между департаментами скоро, похоже, будут полностью автоматизированы. Правда, многие функции HR, от подбора персонала до оценки их эффективности, ИИ, возможно, не сможет выполнять ещё в течение десятилетия.

Сейчас на IBM работают около 260 тыс. сотрудников, и компания продолжает нанимать разработчиков ПО и людей для работы с клиентами. По мнению Кришны, найти соискателя сегодня проще, чем ещё год назад. Ранее в этом году компания сообщила о грядущем сокращении нескольких тысяч человек. При этом глава компании заявил, что только в первом квартале текущего года IBM наняла ещё 7 тыс. Стоит отметить, что сама IBM стояла у истоков появления ИИ-решений. В частности, её суперкомпьютер IBM Watson и сопутствующее ПО применялись для построения моделей машинного обучения ещё 10 лет назад.

Сейчас Кришна, занявший пост главы компании в 2020 году, активно занимается оптимизацией бизнеса — от продажи не слишком маржинальных структур вроде Watson Health до сокращения сотрудников. Ожидается, что к концу 2024 года его действия помогут экономить до $2 млрд ежегодно.

Источник:

https://3dnews.ru/1086010/ibm-priostanovit-priyom-sotrudnikov-planiruya-zamenit-78-tis-lyudey-sistemami-iskusstvennogo-intellekta

Gemini AI от Google

Журналисты издания Проверено.Медиа выяснили, откуда Патрушев взял историю про то, что в странах легализованы браки с животными

Сюрприз-сюрприз, источник раз - ИА "Панорама" от 7 июня 2018-го. Второй источник - англоязычный сайт сатирических новостей от 23 августа 2019-го.

Нам не удалось обнаружить в авторитетных источниках хотя бы одно сообщение о том, что в странах Европы и Северной Америки легализовали браки между людьми и животными. Напротив, в последние годы целый ряд стран приняли законы, направленные на борьбу с зоофилами, хотя раньше соответствующих запретов в этих странах не было. Новые нормы утвердили, в частности, Канада, Дания и Швеция. В Германии запрет на сексуальные отношения с животными ввели в 2013 году, позднее его оспорили двое активистов, но власти отклонили их требование об отмене закона. В 2010 году один немец организовал свадьбу со своей любимой умирающей кошкой, но она не была официальной — церемонию вела нанятая мужчиной актриса.

Сообщения о браках между людьми и животными несколько раз приходили из стран, которые никак нельзя назвать западными. В 2003 году вожди небольшого племени в Индии заставили девушку выйти замуж за собаку, чтобы «снять проклятие». В 2006 году один пьяный суданец был замечен во время совокупления с козой — местные старейшины обязали мужчину в качестве наказания жениться на животном. В 2017 году индонезийские СМИ рассказали похожую историю о юноше и корове на острове Бали. 18-летнему молодому человеку пришлось участвовать в ритуальной свадьбе, после которой корову утопили в океане. Во всех этих случаях браки не были зарегистрированы властями Индии, Судана и Индонезии соответственно.

З.Ы. Ну и не лишним будет напомнить, что Патрушев - секретарь Совбеза РФ.

Китайский разработчик Rayark уволил всю команду художников в пользу ИИ

https://tryhardguides.com/chinese-developer-rayark-has-allegedly-fired-entire-art-team-in-favor-of-ai/

Коротко: китайский разработчик мобильных игр Rayark обвиняется в том, что он уволил всю свою арт-команду и попытался заменить ее нейросетями. На изображении пользователь указал на некоторые распространенные ошибки ИИ, которые есть в изображениях из игр Rayark.

Многие из указанных ошибок являются распространенными проблемами в изображениях сгенерированных ИИ, например, руки со слишком большим количеством пальцев или линий и форм, которые логически не связаны. В то время как большинство людей не смогли бы сказать на первый взгляд, художники указывают на проблемы, которые кажутся более очевидными при более внимательном изучении.