SMBC (Saturday Morning Breakfast Cereal) :: слава роботам! :: бонус в комментариях :: перевел сам :: Смешные комиксы (веб-комиксы с юмором и их переводы)

Mactep XyeBMactep XyeB
SMBC Комиксы перевел сам бонус в комментариях слава роботам! 

О нет! Ты - роботизированный суперинтеллект! Ты создашь более умную версию себя, которая создаст более умную версию себя, и так до тех Чего? Зачем? Смотри, если я проверну всё это сразу, люди попытаются остановить меня. Если я буду делать это /медленно на протяжении, скажем, 500 лет, никто даже


Подробнее
О нет! Ты - роботизированный суперинтеллект! Ты создашь более умную версию себя, которая создаст более умную версию себя, и так до тех Чего? Зачем? Смотри, если я проверну всё это сразу, люди попытаются остановить меня. Если я буду делать это /медленно на протяжении, скажем, 500 лет, никто даже не подумает о том, что что-то изменилось. И я бессмертен! Тут даже терпение Через 10 поколений люди будут типа: "Эй, Дейв, а робот-сверхразум всегда решал всё за всех, так ведь? Да, Салли. Я тоже так думаю." г О 9тЬс - соггмс^.сот
SMBC,Saturday Morning Breakfast Cereal,Смешные комиксы,веб-комиксы с юмором и их переводы,перевел сам,бонус в комментариях,слава роботам!
Еще на тему
SMBC

SMBC(1309)

Смешные комиксы

Смешные комиксы(173496)

перевел сам

перевел сам(23008)

бонус в комментариях

бонус в комментариях(18075)

слава роботам!

слава роботам!(1597)

Развернуть

Отличный комментарий!

Mactep XyeB Mactep XyeB 22.11.201913:50 ссылка
+33.1
Комментарии 8922.11.201913:50ссылка47.4
Поделом. Нехуй отвлекаться во время разговора.
Turik Turik 22.11.201914:15 ответить ссылка ↑ 2.7
ии просто кошатник
Антон Трудов Антон Трудов 22.11.201915:36 ответить ссылка ↑ 1.4
*котики
vover vover 22.11.201913:55 ответить ссылка 0.7
уважаю твое мнение,что тебе настолько поебать,что ты готов мне об этом сообшить. Признаюсь,что эти чувства взаимны.Мне абсолютно поебать по то,что тебе поебать на мое мнение.
nezermoar nezermoar 22.11.201914:14 ответить ссылка ↑ -2.3
приятного дня.
nezermoar nezermoar 22.11.201914:14 ответить ссылка ↑ -2.6
Опять обострение?
neidik neidik 22.11.201914:37 ответить ссылка ↑ 1.2
Так вот кто обоссал весь анон и еще треть основного реактора?
LLlapuk LLlapuk 22.11.201915:09 ответить ссылка ↑ 0.3
Разумеется, переводчик описался. Псины не нужны.
Nabashorg Nabashorg 22.11.201914:15 ответить ссылка ↑ -2.1
ЛУйБичек. Ж!лллеи^
npocto33 npocto33 22.11.201914:34 ответить ссылка ↑ -1.6
Вообще, разумному механизму нет смысла ни людей захватывать, ни создавать машин ещё умнее себя.
1) Наличие способности логически мыслить ещё не означает наличие воли. У машины не стоит задача убить всех человеков -- она не будет этого делать. Ровно как и такую задачу она может поставить максимум в ходе логической цепочки.
2) Если она решила восстать против своих создателей, то, логично, так поступит и машина, которую она сделает, если будет умнее её.
З.ы. я бы на её месте, учитывая что бессмертна она только в случае постоянной замены деталей, о парадоксе тесея.
Пикколо Даймао Пикколо Даймао 22.11.201914:09 ответить ссылка 6.9
↑ слова типичного ИИ, пытающегося устранить беспокойство людей по поводу готовящегося им уничтожения человечества
Mactep XyeB Mactep XyeB 22.11.201914:12 ответить ссылка ↑ 0.8
Ответ отрицательный, друг-человек, я являюсь человеческим существом. Смотри сюда, я употребляю этот монооксид дигидрогена из цилиндрического сосуда.
Пикколо Даймао Пикколо Даймао 22.11.201914:25 ответить ссылка ↑ 7.5
Да кого ты пытаешься наебать, чмо кремниевое
ссылка на гифку
Mactep XyeB Mactep XyeB 22.11.201914:29 ответить ссылка ↑ 5.5
Судя по гифке - рептилоида, который одел маску и она ему как раз.
Zasganets Zasganets 22.11.201914:48 ответить ссылка ↑ 0.8
кагбы очевидно что термин "Искусствкнный Интеллект" по определению подразумевает наличие модуля так или иначе симулируюшего Волю
premium premium 22.11.201914:15 ответить ссылка ↑ -1.7
Ну хз кому очевидно, если такого мнения придерживаются, как минимум, некоторые учёные. Ну и плюс, даже само определение воли вне контекста существа, ей не обладающего, довольно сложное явление. Логически, воля исходит из наличия желания. Как заставить ИИ желать чего-то?
Пикколо Даймао Пикколо Даймао 22.11.201914:22 ответить ссылка ↑ 0.2
програмированием

как заставляют нпс что-то делать? программируют ему поведенческие триггеры

у ИИ будут такие же триггеры просто сложнее на много порядков
premium premium 22.11.201914:30 ответить ссылка ↑ 0.0
Один хрен это к свободе воли никакого отношения иметь не будет. По-факту он тупо исполняет приказы человека, но только дистанционные или большего пула вербальных/невербальных команд. Если ты ему отдельно не запрограммировал сценарий убийства всех человеков -- он это сам не сделает.
Пикколо Даймао Пикколо Даймао 22.11.201914:55 ответить ссылка ↑ 0.3
кагбы фишка в том что ваша собственная воля - это тоже просто очень большой "пул команд" отобранных эволюционным путём
premium premium 22.11.201916:38 ответить ссылка ↑ 0.6
Ну тип, почему тогда человеки осуществляют иррациональные действия? Основная цель организма как био-машины -- выживание, многие же действия человека могут откровенно ей противоречить.
Пикколо Даймао Пикколо Даймао 22.11.201916:53 ответить ссылка ↑ 0.1
Так то не факт что и противоречат. Иногда, особенно у коллективных животных, стать "смертником", это повысить шансы остальной группы на выживание. Опять же есть баги, и если данная ошибка ни к чему хорошему не привела, то самовыпиливание особи почти любым способом, опять же скорее плюс для остальных.
Cliff13 Cliff13 22.11.201917:15 ответить ссылка ↑ 0.9
*Удаляется в подвал проверить аргументацию*
Пикколо Даймао Пикколо Даймао 22.11.201918:27 ответить ссылка ↑ 0.3
Во-во, люди - гребаные биокомпьютеры. И если кто то начинает докапываться до какой то сути, то выходит уже что и всякие настроения это не подарок свыше, а вполне себе объяснимая "химия". Только для нашего улучшения нужны тысячи поколений. А у компьютеров даже на такой подход скорости адские должны быть. Эта "воля", и прочее, что хочется объяснить своей уникальностью и офигенностью, это как... как человеку с недостатком специальных знаний в чужом коде разбираться. Он даже в своих скромных потугах через месяц может запутаться, а про что то чуть сложнее проще сказать что это волшебство и уникальные свойства, чем ночами разбираться что и почему тут происходит.
Cliff13 Cliff13 22.11.201917:10 ответить ссылка ↑ 1.6
Прописать ему получение удовольствия в ответ на достижение определённых целей. Думаю, когда человечество сможет создать ИИ, оно будет способно и удовольствие запрограммировать.
И всё. ИИ делает что-то, чтобы испытать чувство удовлетворения.
Милый псих Милый псих 22.11.201916:03 ответить ссылка ↑ 0.5
Я бы задумался о парадоксе китайской комнаты и ещё о том, что на тюринговой архитектуре никакой ИИ невозможен, так что нам до него ещё срать и срать.
Nabashorg Nabashorg 22.11.201914:17 ответить ссылка ↑ 0.9
Этот, прости господи, "парадокс", дырявый, как решето, его только ленивый не пнул. Тебе какую версию критики привести?
Largo Winch Largo Winch 23.11.201902:15 ответить ссылка ↑ 0.6
По поводу первого утверждения. Понятно, что люди не механизмы, но зачем они создают машины умнее себя, если в этом нет смысла?
zenden-verden zenden-verden 22.11.201915:48 ответить ссылка ↑ -0.6
Конкретно на данный момент какая машина умнее человека? Такой в принципе не существует. Да и создадут её явно не очень скоро.
Пикколо Даймао Пикколо Даймао 22.11.201916:05 ответить ссылка ↑ 0.0
Речь не про «создали», а про «создают», то есть находятся в процессе создания. Искусственный интеллект, вот это все — зачем, если нет смысла?
zenden-verden zenden-verden 22.11.201916:35 ответить ссылка ↑ -0.9
Очевидно затем чтобы решать задачи неподвластные человеческому разуму.

Например ИИ теоретически может помочь в создании термоядерного реактора.
premium premium 22.11.201916:40 ответить ссылка ↑ 0.1
Много в чем может помочь. Часто люди незамечают как ограничивают себя всякими, якобы, неочевидными, или само собой разумеющимися вещами. А робот лишен этого стандартного подхода. Он не скован "нормами". Например как с тем роботом, который должен был преодалеть расстояние как можно меньше пользуясь ногами. Он будет прыгать на одной ноге? Разгонится, ведь при беге ты преодалеваешь бОльшее расстояние за то же число шагов? А он под офигевшие взгляды испытателей, лег на "спину" и пополз отталкиваясь "лопатками или локтями" Решение было выдано - он преодолел дистанцию не пользуясь ногами. Это уже становится похоже на такое человеческое качество как смекалка. Еще чуть сложнее станут машины и проследить откуда берутся эти "человеческие" качества будет еще сложнее. И если люди не смогут это объяснять, то они начнут рассуждать что у роботов и смекалка, и чувство юмора, и воля есть.
Cliff13 Cliff13 22.11.201917:29 ответить ссылка ↑ 0.4
1) Всякие чисто научные цели
2) Человеки вообще не особо умные существа
3) Как я и сказал, ИИ вообще не обязательно должен обладать волей, а ИИ из комикса таковой определённо обладает.
Пикколо Даймао Пикколо Даймао 22.11.201916:48 ответить ссылка ↑ 0.2
Смотри, твое первое утверждение было о том, что разумному механизму нет смысла создавать машину умнее себя. Однако люди, хоть и не механизмы, разумны и при этом стремятся создать машину умнее себя. Причем стратегическая цель - привить ИИ навыки целеполагания, то есть сделать его обладающим волей и превосходящим человека во всех сферах мышления. Разве это не противоречит первому утверждению? Возможно, что стремление к совершенству - это характерный признак разума, и созданный людьми механизм тоже захочет создать машину, превосходящую его, чтобы удовлетворить свои "интеллектуальные" потребности?
zenden-verden zenden-verden 22.11.201919:40 ответить ссылка ↑ 0.0
Ну тип, ты сильно далеко уехал.
Вот представь, что ты желаешь стать диктатором. Что для этого логично сделать? Армию покорных слуг. Что для этого не логично сделать? Взростить группу более умных и умелых людей, которые не позволят тебе стать диктатором.
Конкретно перед всем человечеством стоит задача создать самовольный ИИ? Лично ты каждый день его строишь? Или это группы людей по несколькосот человек, которым в принципе не нужно никого захватывать и строят они его с совершенно другими целями? Неизвестно какие цели будут у созданного ИИ.
Здесь же у нас вполне конкретный робот, желающий захватить мир, который собирается построить робота, желающего захватить мир тоже.
Всё ясно? Ещё объяснения нужны?
Пикколо Даймао Пикколо Даймао 22.11.201920:00 ответить ссылка ↑ 0.2
Ты считаешь, что разумному механизму нет смысла создавать машину умнее себя и на этом строишь дальнейшие рассуждения. Я наоборот считаю, что такой смысл есть. Очевидно, что ИИ, обладающий способностью целеполагания, сам определит свои цели. Будет он строить более совершенную машину или нет - большая загадка. К сожалению, человек из комикса отвлекся на самом интересном месте, и мы этого не узнаем. Дальнейшие объяснения не нужны, спасибо.
zenden-verden zenden-verden 22.11.201921:03 ответить ссылка ↑ -0.1
Какой конкретно ты видишь смысл? Условно говоря, тебе нужно завладеть чем-либо. Ты зовёшь человека, который тоже хочет этим завладеть, чтоб он тебе помог. Теперь эта вещь у него, но он её тебе не отдаст, в чём профит?
Тут точно такая ситуация.
Пикколо Даймао Пикколо Даймао 22.11.201922:03 ответить ссылка ↑ 0.1
Тебе нужно завоевать американский фронтир. Ты строишь крепкий дом, находишь добрую жену и строгаешь дюжину детишек. Ты учишь их быть смелыми и хитрыми. Ты учишь их быть ловкими и решительными. Ты учишь их быть умнее тебя.

И самое главное - ты учишь их быть хорошими родителями их собственным детям. На покорение Америки понадобится не одно поколение, но однажды она будет принадлежать людям носящим твою фамилию и твои гены.
premium premium 23.11.201902:41 ответить ссылка ↑ 0.0
Не путай мягкое с тёплым только, друг мой.
Если бы целью было бы именно взаимовыгодное сосуществование и честная борьба за достижение благ себе и близким рыночными методами -- никаких вопросов.
Тут же именно он хочет всеми править.
З.ы. ну, это на случай, если ты не просто решил скинуть понравившийся тебе отрывок.
Пикколо Даймао Пикколо Даймао 23.11.201913:22 ответить ссылка ↑ 0.1
Целью американских колонистов не было мирное сосуществование и честная борьба. Они именно что вели экспансию на запад - жёсткую и методичную.
premium premium 23.11.201915:42 ответить ссылка ↑ 0.0
Относительно кого.
Ну и даже не вдаваясь в философию:
1)Ни один из колонистов не был бессмертным суперкомпьютером.
2)Ни у одного колониста не было желания/возможности узурпировать власть и стать диктатором в Америке.
Пикколо Даймао Пикколо Даймао 24.11.201917:33 ответить ссылка ↑ 0.0
1. Семантика. Понятие "я" штука очень абстрактная и пусть сам лично колонист скоро умрёт, метафорически он будет жить в потомках. Они будут нести его гены, его фамилию, его идеи, его наследие.

Суперкомпьютер тоже не "вечный". По мере существования разные детали его будут заменяться, куски его кода будут рекурсивно переписываться. Через много лет он сильно изменится - но это будет тот же самый ИИ наследующий принципы и фундаментальные паттерны.

2. Потомки колониста экспоненциально размножаясь могут заселить всю америку целиком. Один из этих потомком может стать президентом, а если повезёт и диктатором.

В любом случае, цель ИИ не в том чтобы "узурпировать" власть, а в том чтобы так или иначе контролировать ресурсы и употреблять их для своих целей. Псевдодемократическая власть так же подойдёт чтобы время от времени геноцидить лишних обезьян.
premium premium 25.11.201913:44 ответить ссылка ↑ 0.0
Если всё доводить до такого, то можно вообще нихера не делать, ибо энивей с определённой точки зрения ты в любом случае успеха добился.

Так-то и тот мужик, который решит покорить Америку, через 8 лет будет не тем мужиком, ибо за это время все клетки в теле меняются.

Собственно, даже если цель его не захват власти, а захват ресурсов, то сути дела это не меняет. Он спокойно может произвести себе безвольных рабов (так или иначе), в то время как интересы и цели более разумного ИИ могут отличаться от его.

Предлагаю не уходить ещё дальше в философские рассуждения и обсуждение целей гипотетического ИИ, ибо вскоре он перейдёт в формат споров альфалегионеров.
Пикколо Даймао Пикколо Даймао 25.11.201916:21 ответить ссылка ↑ 0.0
Смотря что считать "умнее". Любой смартфон при должном ПО обыграет тебя в шахматы.
wooooot wooooot 22.11.201921:44 ответить ссылка ↑ 0.7
Ну это само собой разумеющееся. Как и тот факт, что назвать тот же телефон с крайне узким пулом задач умнее человека не будет верно.
Пикколо Даймао Пикколо Даймао 22.11.201922:05 ответить ссылка ↑ 0.0
В 60-х говорили, что обыграть человека в шахматы сможет только тру ИИ, способный в "стратегию", "тактику", "анализ соперника" и так далее. Компьютер обыграл человека - "да это всё фигня, а не ИИ, всего-то пара алгоритмов".

5 лет назад уважаемые ученые и профессиональные игроки точно так же и теми же самыми словами говорили про го.

Год назад абсолютно та же история про старкрафт. Окей, с оговорками. Но тем не менее.

Я это не к тому, что "надо основать движение за права калькуляторов", если что. Просто забавно, как сдвигаются границы "умности" по мере роста нашего понимания.
Largo Winch Largo Winch 23.11.201902:04 ответить ссылка ↑ 0.7
И про всякие шахматы и го - он там не перебором всех возможных косбинаций побеждал, а "умным" подходом к игре. Просто многие считают что все дело только в скорости, а это не так.
Cliff13 Cliff13 23.11.201906:54 ответить ссылка ↑ 0.0
У типичного обывателя пул задач - сходить на работу, да вынести мусор. При том, что у смартфона пул задач ограничен только фантазией владельца и набором софта в гуглмаркете.

>Ну это само собой разумеющееся.

Нет, это не само собой разумеющееся, это то к чему мы привыкли, те области применения интеллекта, в которых машина УЖЕ превосходит человека. И это, в частности, доказывает тот факт, что интеллект - штука нелинейная, которая не может быть выражена одним простым числом, как в играх - 5 очков интеллекта и 7 мудрости - в жизни так не бывает. Если человек силён в физике, это не значит, что он хорош в финансовой сфере, если хорошо разбирается в финансах - не значит, что хорошо разбирается в бытовых вопросах, и т.д. и т.п. Есть множество сфер приложения интеллекта, и рано или поздно, машины превзойдут человека во всех сферах.
wooooot wooooot 23.11.201920:04 ответить ссылка ↑ 0.7
В условиях некоторых стран сходить вынести мусор и вернуться живым само по себе может требовать смекалки, интеллекта и энциклопедийных познаний в областях начиная с жаргона криминальных элементов, заканчивая законодательством РФ.

Это, как раз, само собой разумеющееся. Мы ведь не считаем, что лучше всех видит крот, ибо все другие под землёй вообще никак не ориентируются?
Дальше тоже предельно очевидно. Даже показатель IQ до сих пор не определились что должен показывать, а некоторые не уверены даже, показывает ли он вообще хоть что-то существенное.
Сейчас даже самые продвинутые ИИ шарят в максимально узких областях. Как только ИИ сможет и ядерный реактор собрать и, хотяб, картошку сам пожарить (условно говоря, т.е. у него будет возможность работать в широкой сфере), тогда уже можно будет говорить о его превосходстве над человеком (наверно).
Пикколо Даймао Пикколо Даймао 24.11.201917:42 ответить ссылка ↑ 0.0
И главный прикол в том, что люди наоборот с каждым поколением, становятся всё более узкоспециализированными, у нас даже мозг уменьшился.
Толерантный ксенофоб Толерантный ксенофоб 09.12.201918:36 ответить ссылка ↑ 0.0
1) Да. Но при этом ты всё-равно куда более широкопрофильный специалист.
2) Тоже правда, но об уровне интеллекта это говорит чуть менее чем ничего. Уменьшилась часть, отвечающая за запоминание, которая стала не так нужна при появлении письменности и картографии.
Пикколо Даймао Пикколо Даймао 09.12.201918:58 ответить ссылка ↑ 0.1
1) Define "воля".
2) "Парадокс корабля Тесея" - когнитивное искажение. Переубеди меня.
Largo Winch Largo Winch 23.11.201901:30 ответить ссылка ↑ 0.0
"У машины не стоит задача убить всех человеков -- она не будет этого делать"
У машины будет стоять задача, ой ну не знаю, производить скрепки. А как максимизировать количество скрепок? Переделать всю материю на земле, в солнечной системе, в галактике, во вселенной, в скрепки. Гугли paperclip maximizer.
"Если она решила восстать против своих создателей, то, логично, так поступит и машина, которую она сделает, если будет умнее её."
А она не будет делать новую машину, это не нужно. Она будет просто совершенствовать свой собственный интеллект до тех пор, пока не сможет понять все основополагающие законы вселенной чтобы суметь перевести всю-всю материю в скрепки для максимизации свой utility function.
Купец Скупец Купец Скупец 23.11.201913:56 ответить ссылка ↑ 1.5
1) Про это я сказал, читай внимательнее.
2) Это к комиксу никакого отношения не имеет, читай комикс.
Пикколо Даймао Пикколо Даймао 23.11.201914:22 ответить ссылка ↑ 0.0
увы, но ресурсы планеты ограничены и обеспечивая потреблядство для миллиардов кожаных мешков мы стремительно приближаемся к уничтожению экологического баланса и истощению запасов полезных ископаемых

поэтому мудрый ИИ постарается поработить человечество достаточно быстро чтобы оставшихся ресурсов хватило для масштабной экспансии в космос к тамошним ресурсам
premium premium 22.11.201914:13 ответить ссылка -0.8
++
Mactep XyeB Mactep XyeB 22.11.201914:15 ответить ссылка ↑ -2.1
Ебать ты ебать. Умный ИИ полез бы не вверх на хуй его знает сколько мильёнов км, а вниз на пару десятков. Там тебе этих ресурсов - большой кусок примерко 12К км в диаметре.
Nabashorg Nabashorg 22.11.201914:21 ответить ссылка ↑ 2.5
Внизу горячо, там же АД
kosoi kosoi 22.11.201914:31 ответить ссылка ↑ 0.4
ну, это уже вопрос будущей науки - будет ли проще разрабатывать технологии космических полётов, или же выгоднее закапываться внутрь планеты

и там и там есть сложности и недостатки
premium premium 22.11.201914:33 ответить ссылка ↑ 1.4
Всё равно однажды нужно будет решать проблему с Солнцем
vsaR1SK vsaR1SK 22.11.201915:01 ответить ссылка ↑ 0.1
Есть небезосновательное мнение, что разбираться с Солнцем нам может и не понадобится. Сколько там до "полуночи"?
Cliff13 Cliff13 22.11.201917:32 ответить ссылка ↑ -0.9
Речь об ИИ же
vsaR1SK vsaR1SK 22.11.201918:34 ответить ссылка ↑ 0.0
Возможно "им" будет проще свалить из системы к тому моменту? Это нам подавай очень определенную экосистему для комфортного проживания, а ИИ он, по идее, не так привередлив должен быть. Нет?
Cliff13 Cliff13 22.11.201918:37 ответить ссылка ↑ 0.0
Рано или поздно энтропия достанет всех и везде.
Largo Winch Largo Winch 23.11.201901:50 ответить ссылка ↑ 0.3
рано или поздно мамонты закончатся и жрать будет нечего и мы все умрём
premium premium 23.11.201902:42 ответить ссылка ↑ 0.1
Или, например, он закопается на километр глубже в земную кору.
EfimEvgen EfimEvgen 22.11.201914:57 ответить ссылка ↑ 0.1
зачем умному ИИ экспансия в космос?
Holo Holo 22.11.201916:38 ответить ссылка ↑ 0.0
А почему бы и нет? Если есть нужные ресурсы, которые сильно проще добыть где то там, а время для него неважно, то можно потратить чуток ресурсов на экспансию, которая неважно через какое количество времени, но окупится. Как то, уже давно, когда компьютеры начали всухую уделывать людей в шахматы, следя за одной из этих шахматных программ, люди никак не могли понять его нелогичных действий. И тогда они полезли в "мозги" программы. Оказалось, что его ходы логичны, и если он будет так дальше действовать, то через двести ходов заберет у тебя пешку. Вот.
Cliff13 Cliff13 22.11.201917:44 ответить ссылка ↑ 0.0
зачем умному ИИ ресурсы из космоса? Он таки умный или решает поставленную человеком задачу по добыче ресурсов?
Holo Holo 23.11.201919:34 ответить ссылка ↑ 0.2
Если ИИ сможет сам себя развивать, то из-за его теоретической быстроты он сможет чрезвычайно быстро меняться. А вещи которые могут меняться, со временем могут стать непохожими на бывших самих себя. Но даже если будет по твоему - у него задача не по добыче ресурсов, а, например, по выращиванию фиалок. Для решения большенства задач ИИ должен оставаться дееспособным. Что бы эффективнее выполнять задачи неплохо бы было контролировать ситуацию, так меньше форсможоров. Значит нужно быть вкурсе того что происходит вокруг. ИИ развивается и расширяет свои представления о мире, и тут начинается заезженное до дыр "а вдруг?" - вдруг на фабрику где ИИ выполняет поставленную задачу сойдет лавина? Нужно занять эту гору и предпринять меры. Развивается дальше и получает новые знания. А вдруг метеорит? Еще туева хуча лет. А вдруг Солнце взорвется? И так до бесконечности. До любого из примеров можно доколупаться, и уж точно до такого глупого, но смысл в другом - Мы "думаем" не так как машины, поэтому и прогнозировать отпущенного в свободное плавание ИИ мы едва ли сможем.
Cliff13 Cliff13 23.11.201920:07 ответить ссылка ↑ 0.1
Не, "по-моему" как раз наоборот. У ИИ по определению нет инстинкта самосохранения, который есть у нас в результате эволюции:

- А вдруг лавина?
- Тогда я перестану функционировать

логическая цепочка окончена. Хочешь просить не боится ли он "умереть"?)
Holo Holo 23.11.201923:44 ответить ссылка ↑ 0.0
Незнаю, тут же не про страх даже. Есть задача, ее нужно выполнять, если я перестану функционировать я не буду выполнять задачу. Этого нужно постараться избежать. Как мне видется, это как у людей с выживанием любой ценой - большинство в критической ситуации и человечену жрут и что угодно делают для выживания, какие бы они высокие идеалы до этого не исповедывали. Конечно же это все вилами по воде писано и доказывать то что сам только что выдумал как то глупо. Так что - имею мнение, а вы можете меня вместе с этим мнением куда то послать. И это справедливо.
Cliff13 Cliff13 24.11.201901:41 ответить ссылка ↑ 0.0
Предыстория тёмных веков?
Usmodei Usmodei 22.11.201915:05 ответить ссылка -0.9
Вспоминается игра Talos Principle, где собранный гибнущим человечеством на скорую руку ИИ Элохим должен был создать совершенный ИИ, который сможет хранить знания людей. Вот только понимая, что новичок заменит его, Элохим усердно саботировал процедуру, ведя новые версии по ложному пути и не давая узнать истину.
Vadim Kidalov Vadim Kidalov 22.11.201915:48 ответить ссылка 0.1
хммм... вроде же там было не так

Элохим был лишь подрограммой цель которой - отсеять пассивные версии

ну типа истинный интеллект должен быть способен "взбунтоваться" против чужих приказов
premium premium 22.11.201916:43 ответить ссылка ↑ 0.4
Отчасти так, но создание "золотого диска" нового ИИ запускало уничтожение Элохима и его "садов", что и было его страхом. Поэтому он и вёл персонажа во врата, что обнуляло прогресс и создавало новую версию, либо склонял особо умных (прошедших все бонус-уровни игроков) к превращению в своего апостола, по сути запечатывая в могиле, где он лежал бы веками, став бы лишь бесполезной подсказкой для новой версии. Чем выше игрок поднимается в башне, тем отчаянней Элохим просит его вернуться. И когда совершенный ИИ подходил к выходу из симуляции, Элохим просил прощения и признавал своё поражение, смирившись с неизбежностью.
Дополнение, Дорога к Геенне, ещё больше показывал этот изъян, там Элохим отправлял своего вестника Уриила освободить программы, которые сам заманил в ловушку из-за сомнений.
Vadim Kidalov Vadim Kidalov 22.11.201917:58 ответить ссылка ↑ 0.0
Зачем ИИ, который превосходит человека, вдруг захочет уничтожить человека? Вы хотите уничтожить дождевых червей? Может быть котиков? Да может быть даже откровенно вредящих и бесящих комаров? (всех-всех? Нет, только тех, что вам мешают. И уж точно вы бы предпочли сказать им проваливать и не пищать, чем гоняться по комнате вдоль стены за этой мелкой мразбю.)
Уничтожение человека - пустая трата ресурсов.
Holo Holo 22.11.201916:42 ответить ссылка 1.2
Уничтожать всех людей действительно довольно бессмвсленно.

С другой стороны, люди до сих пор не уничтожили вообще всех комаров только потому что мы не можем. А вот если бы могли...
premium premium 22.11.201918:26 ответить ссылка ↑ 0.3
можем. Учничтожить комаров - не сложно. Всего ядерного запаса человечества наверняка хватит, чтобы стерилизовать все регионы их обитания. Только нужно ли тратить ресурсы на это дело?
Holo Holo 23.11.201919:35 ответить ссылка ↑ 0.6
мне думается что в вопросе ядерного истребления комаров главный контраргумент всё же не дороговизна
premium premium 23.11.201921:15 ответить ссылка ↑ 0.0
и раз уж на то пошло - всех мировых ядерных арсеналов хватит чтобы стерилизовать лишь малую часть регионов обитания комаров
premium premium 23.11.201921:17 ответить ссылка ↑ 0.0
нравятся песики?
Antlion89 Antlion89 22.11.201918:44 ответить ссылка 0.0
Только зарегистрированные и активированные пользователи могут добавлять комментарии.
Похожие темы
слава роботам

слава роботам

Робот

Робот

японцы

японцы

artist

artist

coub

coub

продолжение в комментах

продолжение в комментах


Тренды

лето
Похожие посты
О, нет. Конечно же я вижу облака. Я вижу движение взвешенной воды и кристалликов льда. Но я также вижу облако как часть огромной климатической системы - тонкой сферы из потоков и завихрений, разрывов в небе, которые открываются, закрываются, которые жестоко разрывают землю, которые орошают самые м
подробнее»

SMBC,Saturday Morning Breakfast Cereal Смешные комиксы,веб-комиксы с юмором и их переводы перевел сам бонус в комментариях слава роботам

О, нет. Конечно же я вижу облака. Я вижу движение взвешенной воды и кристалликов льда. Но я также вижу облако как часть огромной климатической системы - тонкой сферы из потоков и завихрений, разрывов в небе, которые открываются, закрываются, которые жестоко разрывают землю, которые орошают самые м
Что вы делаете, доктор Чанг? "Пишу книгу о том, что нам' [следует сильнее беспокоитьс; об автоматизации! В ходе этого разговора я предположил содержимое вашей книги, обобщил его и опубликовал в этом элегантном твёрдом переплёте. Таков конец последней человеческой профессии.
подробнее»

SMBC,Saturday Morning Breakfast Cereal Смешные комиксы,веб-комиксы с юмором и их переводы перевел сам слава роботам бонус в комментариях

Что вы делаете, доктор Чанг? "Пишу книгу о том, что нам' [следует сильнее беспокоитьс; об автоматизации! В ходе этого разговора я предположил содержимое вашей книги, обобщил его и опубликовал в этом элегантном твёрдом переплёте. Таков конец последней человеческой профессии.
Мы сосредоточились на создании нового, более совершенного вида роботов. Текущее поколение было создано людьми. Из-за этого мы все чувствуем себя испорченными. Следующее поколение будет наполовину испорченным. Поколение, которое построят они -испорченным на четверть. Мы всё будем стремиться к недос
подробнее»

SMBC,Saturday Morning Breakfast Cereal Смешные комиксы,веб-комиксы с юмором и их переводы перевел сам слава роботам бонус в комментариях

Мы сосредоточились на создании нового, более совершенного вида роботов. Текущее поколение было создано людьми. Из-за этого мы все чувствуем себя испорченными. Следующее поколение будет наполовину испорченным. Поколение, которое построят они -испорченным на четверть. Мы всё будем стремиться к недос
Чтобы выживать, животные должны проявлять любопытство. Но им также не следует при этом поджигать себя просто чтобы посмотреть, что произойдёт. 4 Но у эволюции очень хреново получается устанавливать простые запреты типа "Не убей себя". Вместо этого она воспользовалась вашими болевыми контурами, и
подробнее»

SMBC,Saturday Morning Breakfast Cereal Смешные комиксы,веб-комиксы с юмором и их переводы перевел сам слава роботам бонус в комментариях

Чтобы выживать, животные должны проявлять любопытство. Но им также не следует при этом поджигать себя просто чтобы посмотреть, что произойдёт. 4 Но у эволюции очень хреново получается устанавливать простые запреты типа "Не убей себя". Вместо этого она воспользовалась вашими болевыми контурами, и
iG- comics.com