новости Искусственный интеллект geek
Искусственный интеллект научился писать трояны, невидимые для антивирусов.
Авторазработчик вирусов
Выступая на хакерской конференции DEF CON эксперт компании Endgame Хирам Андерсон(Hyrum Anderson) показал, как можно настроить систему машинного обучения так, что она будет разрабатывать вредоносное ПО.
Речь идет не о полноформатной разработке троянов, однако автору доклада удалось использовать систему машинного обучения так, чтобы она превращала легитимный код во вредоносный, но при этом антивирусные решения с высокой долей вероятности продолжали ее игнорировать.
В целом алгоритм выглядит так: система машинного обучения вносит небольшие изменения в двоичный код, прогоняет его через антивирусный движок, анализирует полученные от антивируса данные и, в соответствии с ними, производит новые модификации.
Система, созданная в Endgame, тренировалась таким образом в течение 15 часов, произведя на свет в общей сложности 100 тыс. вредоносных сэмплов. 16% из них оказались невидимыми для антивирусных движков.
По словам Хирама Андерсона, такой подход позволяет обманывать в том числе те антивирусные платформы, которые сами базируются на системах машинного обучения и AI (искусственном интеллекте).
С 2016 г. некоторые компании, занимающиеся разработками подобных антивирусов, начали злоупотреблять определениями «искусственный интеллект» в маркетинговых целях, утверждая, что их разработки - это «антивирусы следующего поколения».
Таким образом, теперь «антивирусам следующего поколения» придется бороться с вирусами следующего поколения.
«Как видим, AI вполне возможно использовать во вредоносных целях, и это, на самом деле, весьма безрадостное развитие событий», - считает Ксения Шилак, директор по продажам компании SEC Consult. - «Использование AI для усовершенствования скрытности вредоносных программ может перевести «гонку вооружений» между вирусописателями и антивирусными вендорами на принципиально новый уровень. Особенно если такое автоматическое улучшение будет поставлено на поток».
Система Endgame построена на основе фреймворка OpenAI, разработанного некоммерческой организацией, возглавляемой Элоном Маском(Elon Musk). В апреле 2016 г. эта организация опубликовала публичную бета-версию OpenAI Gym, платформы для разработки и сравнения алгоритмов «стимулированного обучения» искусственного интеллекта.
Именно на базе этой платформы Endgame и разработали свой «вредоносный AI». Ее исходники опубликованы на GitHub и доступны всем желающим для использования.
Мы всё ближе...
![[Пустой слот] Ранее растаявшая медалька. "Она таяла за твою погоду за окном. (Undertale)".](http://img1.joyreactor.cc/pics/award/795 "[Пустой слот] Ранее растаявшая медалька. \"Она таяла за твою погоду за окном. (Undertale)\".")
