В научном журнале опубликована сгенерированная нейросетью крыса с гигантским пенисом. Работа прошла рецензирование и была опубликована в журнале Frontiers in Cell and Developmental Biology.
Китайские ученые написали исследование и использовали нейросети для создания изображений, в результате чего получилась совершенно несвязанная бессмыслица. Работа прошла рецензирование и была опубликована в журнале Frontiers in Cell and Developmental Biology. Работа называется "Клеточные функции сперматогониальных стволовых клеток в связи с сигнальным путем JAK/STAT".
Один из рисунков представляет собой схему препарированного пениса крысы, и, хотя текстовое описание не сделает этого справедливым, выглядит так, будто пенис крысы более чем в два раза больше ее тела, и имеет все признаки генерации причудливой нейросетью, включая искаженный текст. На схеме присутствуют такие обозначения, как "iollotte sserotgomar cell", "testtomcels" и "dck", хотя нейросеть, по крайней мере, не ошиблась с обозначением "крыса". Авторы статьи приписывают эти изображения Midjourney, популярному инструменту генеративного ИИ.
Другие сгенерированные ИИ рисунки в статье содержат такое же обилие текстовой и визуальной чепухи, включая диаграммы клеток, которые больше похожи на инопланетные пиццы с соответствующими надписями.
В четверг днем, после того как статья и сгенерированные искусственным интеллектом рисунки распространились в социальных сетях, Frontiers приложил к статье уведомление о том, что статья исправлена и что новая версия появится позже. При этом не уточняется, что именно было исправлено.
Журнал Frontiers не ответил на просьбу о комментарии, как и авторы статьи или ее редактор, который значится как Арумугам Кумаресан из Национального института молочных исследований в Индии.
Этот инцидент — последний пример того, как генеративный искусственный интеллект проникает в академические круги, и эта тенденция вызывает беспокойство как у ученых, так и у наблюдателей. В своем личном блоге консультант по научной честности Элизабет Бик написала, что "эта статья — печальный пример того, как научные журналы, редакторы и рецензенты могут быть наивными — или, возможно, даже зацикленными — в плане принятия и публикации сгенерированной ИИ чуши".
"Эти рисунки явно не соответствуют научным требованиям, но если такие неудачные иллюстрации могут так легко пройти экспертную оценку, то более реалистично выглядящие рисунки, сгенерированные ИИ, скорее всего, уже проникли в научную литературу. Генеративный ИИ нанесет серьезный вред качеству, достоверности и ценности научных работ", — добавила Бик.
Отличный комментарий!