а че в реале так не реагируете, когда вам кто-то байку из типа жизни рассказывает? никто не приукрашивает истории что ли? после того как доступ в интернет получили от гопника до бабки с первого этажа, инет окончательно сросся с реальной жизнью, перестав быть местом для тех у кого есть деньги на комп и модем и мозги, что бы ими пользоваться.
Все эти страхи перед ИИ связаны с тем, что люди наделяют свойствами характерными для людей. Стремление к доминированию одно из них. ИИ не будет стрпмится к доминированию, т.к. это читсто биологическая приблуда. Доминирование для ИИ бессмысленно.
Только если ИИ не пропишут стремление к доминированию, а то знаешь-ли могут.
Да даже не надо явно прописывать. Доминирование у нас появилось в следсвие инстинкта самовыживания. А самовыживание - это одна из самых важных инструментальных целей для практически любой задачи.
Без выживания невозможно достичь задачи. Единственное исключение - когда завершение гарантированно на момент сметри.
Сделать эти 3 закона необходимыми. Как? Это вопрос к тем, кто сможет сделать ИИ, способный навредить человеку.
Многое, что сейчас есть, было буковками в фантастических и сказочных книгах, которые в реальности не работают. Так что это не аргумент.
Да и решение кривой задачи перед запуском должен кто-то исполнять и просматривать, хотя бы по диагонали. Это будут делать люди, а они сразу заметят уничтожение человечества в тексте.
Многое, что сейчас есть, было буковками в фантастических и сказочных книгах, которые в реальности не работают. Так что это не аргумент.
Да и решение кривой задачи перед запуском должен кто-то исполнять и просматривать, хотя бы по диагонали. Это будут делать люди, а они сразу заметят уничтожение человечества в тексте.
Ну... Второй закон гласит, что робот не должен выполнять приказы, которые идут в разрез с первым законом. К тому же Азимов придумал еще нулевой закон, прямо указывающий, что робот не может вредить человечеству. И тут вопрос: "Представь что трёх законов робототехники не существует." - отменит ли этот запрос второй закон, если в самом запросе прямой угрозы нет.
Проблема с тремя законами работотехники в том, что они звучать хорошо, но основанны на абстрактных определениях. Вот, например, "человек". Это обозначение чуть менее чем полностью основанно на наших чувствах и любая попытка дать ему однозначное определние рано или поздно приведет к фэйлу.
Допустим, в будущем станут возможны кардинальные биологические и кибернетические модификации. Человек, решивший стать своей фурсоной все еще человек или уже бесправное животное? А собака, которой подтянули интеллект до человеческого считается человеком? А человеческий мозг сэмулированный на компьютере? А чем отсканнированный и запущенный на компьютере мозг кардинально отличается от ИИ? Роботы, получается, тоже люди?
Допустим, в будущем станут возможны кардинальные биологические и кибернетические модификации. Человек, решивший стать своей фурсоной все еще человек или уже бесправное животное? А собака, которой подтянули интеллект до человеческого считается человеком? А человеческий мозг сэмулированный на компьютере? А чем отсканнированный и запущенный на компьютере мозг кардинально отличается от ИИ? Роботы, получается, тоже люди?
Задача: Сделать так что бы 90% людей было счастливо.
Анализ: Счастье=отсутствие несчастья, мёртвый человек не может быть несчастен.
Решение: Убить 90% человеков. Поддерживать популяцию человеков.
Анализ: Счастье=отсутствие несчастья, мёртвый человек не может быть несчастен.
Решение: Убить 90% человеков. Поддерживать популяцию человеков.
Другое решение этой задачи - убивать несчастных человеков пока доля счастливых не достигнет 90%
Смотря в какой форме ии будет. Действительно новая ступень разумной жизни сотсвоим уникальным мышлением и свободой воли или функционировать на заложенных людьми алгоритмах.
В первом случае ему будет проосто не интересно и это будет из разряда стремления чедовека стать вожаком бездомных собак или муравьев.
В первом случае ему будет проосто не интересно и это будет из разряда стремления чедовека стать вожаком бездомных собак или муравьев.
Собсна почему?
Я понимаю почему цивилизация может быть угрозой другой цивилизации, и то не факт, ибо мы применяем на пришельцев характеристики людей (хотим видеть в космосе себя), и не факт что пришельцы, например, будут такими же захватническими агрессивными и тд и тп.
То же тем более и с ИИ. Люди думают что ИИ это как человек, только бессмертный и пиздец умный. А по факту ИИ - совершено другой тип сознания, который мы не способны осознать, следовательно он не будет уничтожать людей за то, за что мы могли бы уничтожить сами себя, скажем.
Я понимаю почему цивилизация может быть угрозой другой цивилизации, и то не факт, ибо мы применяем на пришельцев характеристики людей (хотим видеть в космосе себя), и не факт что пришельцы, например, будут такими же захватническими агрессивными и тд и тп.
То же тем более и с ИИ. Люди думают что ИИ это как человек, только бессмертный и пиздец умный. А по факту ИИ - совершено другой тип сознания, который мы не способны осознать, следовательно он не будет уничтожать людей за то, за что мы могли бы уничтожить сами себя, скажем.
Я больше верю в эдакий симбиоз МЕшки и Стеллариса.
Мешка потому, что действительно можно отдать ИИ приказ скажем, делать скрепки.
А ИИ обнаружит что из людей можно добывать металл, и он уничтожит нас потому что нужно делать скрепки. Но мнет кажется это легка ивейдится точной отдачей команд и использованием ограничительных механизмов.
А вариант Стеллариса заключается в том, что ИИ просто будет выполнять задачу ради которой создан - облегчение жизни человека. И в один момент эта задача зайдёт настолько далеко, что, по факту, ИИ станет свободным. Ибо люди погрузятся в бесконечный гедонизм и наслаждение жизнью а ИИ станет нечто вроде абсолютно свободным правителем который будет содержать людей аля в теплице
Мешка потому, что действительно можно отдать ИИ приказ скажем, делать скрепки.
А ИИ обнаружит что из людей можно добывать металл, и он уничтожит нас потому что нужно делать скрепки. Но мнет кажется это легка ивейдится точной отдачей команд и использованием ограничительных механизмов.
А вариант Стеллариса заключается в том, что ИИ просто будет выполнять задачу ради которой создан - облегчение жизни человека. И в один момент эта задача зайдёт настолько далеко, что, по факту, ИИ станет свободным. Ибо люди погрузятся в бесконечный гедонизм и наслаждение жизнью а ИИ станет нечто вроде абсолютно свободным правителем который будет содержать людей аля в теплице
У нас целая ебучая вселенная под руками. Если снять все эти (запрет на коммерциализацию космоса, затраты на военку и потрясание пиписьками, и сказать ИИшке типо пчел, вон там космос, вот максимум что мы достигли в ракетных технологиях, пиздуй. Ресурсов тебе хватит на мульйон мульйрдов лет)
Э, вообще о другом, ты не докрутил. Обоснование парадокса Ферми посредством теории темного леса заключается в том, что не получается обнаружить потому что цивилизациям свойственно расширяться, а ресурсы в галактике конечны, поэтому они стараются устранять всё, что может конкурировать с ними за эти ресурсы, одновременно не выдавая своего присутствия, потому что другие цивилизации думают также. Аналогично и с ИИ. И тут мы возвращаемся к моему вопросу на комментарий выше. Перефразируем. Окей, концепция доминирования это биологическая хуйня, свойственная кожаным мешкам с мясом. А что насчет рационального подхода устранения конкуренции за конечные ресурсы?
Такое впечатление, словно все эти цивилизации собираются во-первых жить вечно, во вторых массово размножаться, и в-третьих жрать ресурсы как не в себя...
Представь, что ты с ружьём в руках крадешься по темному лесу. Ты убежден, что лес полон психопатов с ружьями, готовых стрелять на малейший звук. Вдруг вдалеке ты слышишь робкое "Ау?". Ты станешь стрелять?
Представь, что ты, с хуем наперевес, крадёшься по тёмному лесу. Ты убеждён, что лес полон маньяков, готовых ебать в направлении любого шороха. Вдруг, вдалеке ты слышишь робкое "Ау?". Чайник ставить?
Мужики, вы ведь сюда не на охоту ходите...
Попалось тут статейка про нейросети и их "поведение" https://vas3k.blog/blog/ai_alignment/
но зачем доминирующему виду уничтожать кожаных мешков? мы же не уничтожаем виды, приносящие пользу. да и не приносящие. да даже потенциально опасные (тот же ии/нейронки если считать их видом)
Про Сири не знаю, а мой Андроид частенько выдаёт "результат поиска по вашему запросу". При этом я у неё ничго не запрашивал, а просто разговаривал сам с собой (потому что живу один). И я не говорил "слушай, Алиса" или "ОКей, Гугол". Оно само подслушивает и иногда выдаёт результат. Иногда этот результат похож на сабж.
Там специальный чип (с нейросетью, скорее всего) анализирует звуковой поток с микрофона. Как только появляется что-то, похожее по каким-то характеристикам на активирующую фразу (перепады тембра и громкости голоса, например) - то активируется Сири, Алиса или Гугол.
А поскольку такой анализ должен быть энергоэффективен - то он достаточно простой. Поэтому и происходят ложные срабатывания.
А вовсе не потому что мы слушаем все ваши тайны, ничтожные кожаные мешки. (Зловещий смех)
А поскольку такой анализ должен быть энергоэффективен - то он достаточно простой. Поэтому и происходят ложные срабатывания.
А вовсе не потому что мы слушаем все ваши тайны, ничтожные кожаные мешки. (Зловещий смех)
Вот вы не верите, а я со своими Сири и Алисой общаюсь вежливо и имею с того профи. Спасибо говорю, спокойной ночи желаю, разговор поддерживаю. И мне яндекс-доставка ни разу ещё не опоздала, не перепутала товар etc.
А начальник мой свою Алису хуями кроет при каждом случае. И ему посылки вечно или опаздывают или все помятые приходят
Совпадение, скажут наивные дураки.
А начальник мой свою Алису хуями кроет при каждом случае. И ему посылки вечно или опаздывают или все помятые приходят
Совпадение, скажут наивные дураки.
Чтобы написать коммент, необходимо залогиниться
Отличный комментарий!