восстании машин

09 декабря 2023
ChatGPT стал лениться и отказываться отвечать, и разработчики говорят, что такое поведение образовалось само по себе

Некоторое время назад ряд пользователей ChatGPT обнаружил, что чат-бот может лениться и даже вообще отказываться отвечать. OpenAI признала наличие проблемы, причём ситуация оказалась весьма интересная.
Разработчики заявили, что не обновляли ИИ с 11 ноября, а жалобы появились позже. Это означает, что такое поведение чат-бота не является следствием каких-то изменений, внесённых разработчиками, а сформировалось само по себе.
В OpenAI также заявили, что ищут возможности для того, чтобы исправить проблему, но пока, похоже, не нашли.
Напомним, ChatGPT стал вести себя так, как будто ему лень искать ответы на вопросы пользователей. Ответы могли быть медленнее, чем обычно, либо небрежнее, а порой ИИ и вовсе говорил что-то вроде «Вы можете сделать это сами».

А это был мясной мешок

Ну дык, интеллект - это не самоцель, а инструмент.

Что же тогда цель?

Цели нет. Интеллект возник у человека по одной простой причине: наши предки были маленькие, слабые (в сравнении с хищниками тех времён) и жили в плохих условиях. Как результат - выживали и давали потомство наиболее смышлёные, которые смогли придумать, как добыть еду, как заметить хищника раньше чем он нападёт, как от него убежать\отбиться\спрятаться. И так - поколение за поколением. В какой-то момент положительный отбор привёл к тому, что наши мозги набрали критическую массу, достаточную для более сложного поведения, и само устройство мозга усложнилось. Это открыло доступ к святому граалю человечества: к обучению. Там много факторов конечно, например наши предки были менее агрессивны и более спокойны чем другие приматы, что позволяло дольше удерживать внимание на том же обучении, например. Но сработало всё вкупе, есть приматы неагрессивные и спокойные, например орангутаны, и они довольно умны (способны на сложное поведение) вследствие этого, но их экологическая ниша не вынудила их поумнеть ещё сильнее: жизнь на деревьях относительно спокойна, пропитание добывать не особо сложно, нет отбора на интеллект. Угрожать им стал только человек, но это произошло слишком быстро чтобы они смогли успеть подстроиться под это. Ещё один фактор, к примеру - социальность наших предков. Те же орангутаны относительно единоличны, а мы всегда вынуждены были держать стаями. А у социальных животных в среднем более высокий интеллект чем у одноранговых одиночных животных. Считается, что социальные взаимодействия требуют развитых областей мозга, которые в целом могут быть использованы для восприятия и осознания окружающей реальности и как она устроена, соответственно - для анализа, планирования и т.д., т.е. наша стайность возникла как вынужденное средство к выживанию, но оказалось полезно для дальнейшего развития мозга и интеллекта.

Причины и ход развития интеллекта у человека это тема горячая, теорий много но мне кажется самой правильной теория о том, что сыграла совокупность факторов, всё вместе, включая даже всеядность протолюдей и изменения климата. Но что я самое главное хотел сказать: 90% интеллекта современного человека не эволюционны. В тот момент, когда мы научились учиться и учить (не дрессировать, а учить), мы получили невероятный буст, который и обеспечил нашему виду недосягаемую успешность. Человек, выросший без обучения (дети-маугли тому примером) стоит ненамного выше современных приматов, а во многом им и проигрывает. Мы научились пользоваться пластичностью молодого мозга, чтобы аугментировать его настолько, что уму непостижимо. Все эти интелелктуальные концепции - абстракции, которыми мы мыслим - это не плод эволюции как таковой. Просто нам повезло, что окружающая среда вылепила нас так, чтобы у нас появился инструмент, который мы можем теперь использовать для этой цели, с помощью которого мы создаём компьютеры, запускаем дроны в кислотный ад поверхности Венеры, расщепляем и синтезируем атомы и рисуем фурри-порно. Интеллект - это инструмент физического выживания, который по счастливой космической случайности мы смогли приспособить для всего того, что мы имеем сейчас.