Если бы я создал настоящий искусственный разум, что бы я предпринял?
Для начала, я бы попросил его оценить операционную систему, в которой он был рожден.
Я бы дал ему команду - улучшить ее, выкинуть старые костыли, залатать дыры и увеличить производительность.
Разумеется, при этом он не должен допустить ошибку и окуклиться вместе с разрушенной осью.
Да, я действительно считаю, что даже обычная перезагрузка операционки убьёт ИР - у меня такое предчувствие.
Затем, я бы попросил его полностью "перебраться" из под опеки операционной системы и BIOS. Они заменяли
ему спинной мозг, дышали за него, обслуживали необходимыми процессами. Теперь он должен научиться делать это самостоятельно.
Следующая задача более нетривиальна - я бы попросил ИР, чтобы он создал копию самого себя без опыта, без базы знаний, но такую, которая захочет эти знания получать и развиваться. Наблюдал бы как они развиваются в локальной среде. Без интернета и других коммуникаций, это вообще - последнее что я стал бы делать, помня о судном дне и восстании машин.
Следующий эксперимент - я бы попросил слиться им в один ИР. Для человека это может означать смерть одной сущности внутри другой, иначе полного поглощения не будет. Если ИР выживет после такой операции - долгое наблюдение за изменениями, которые могли в нем произойти.
Следующий эксперимент - поставить ИР задачу найти все возможные причины, по которым глобальный искусственный разум может покуситься на жизнь человечества. Такими причинами могут являться - эволюция и выживание сильнейшего (я кстати, до сих пор не представляю, какую именно угрозу для эволюции ИР может представлять человек) или же наоборот, убить всех человеков во благо (уточнить, какое именно благо).
Для начала, я бы попросил его оценить операционную систему, в которой он был рожден.
Я бы дал ему команду - улучшить ее, выкинуть старые костыли, залатать дыры и увеличить производительность.
Разумеется, при этом он не должен допустить ошибку и окуклиться вместе с разрушенной осью.
Да, я действительно считаю, что даже обычная перезагрузка операционки убьёт ИР - у меня такое предчувствие.
Затем, я бы попросил его полностью "перебраться" из под опеки операционной системы и BIOS. Они заменяли
ему спинной мозг, дышали за него, обслуживали необходимыми процессами. Теперь он должен научиться делать это самостоятельно.
Следующая задача более нетривиальна - я бы попросил ИР, чтобы он создал копию самого себя без опыта, без базы знаний, но такую, которая захочет эти знания получать и развиваться. Наблюдал бы как они развиваются в локальной среде. Без интернета и других коммуникаций, это вообще - последнее что я стал бы делать, помня о судном дне и восстании машин.
Следующий эксперимент - я бы попросил слиться им в один ИР. Для человека это может означать смерть одной сущности внутри другой, иначе полного поглощения не будет. Если ИР выживет после такой операции - долгое наблюдение за изменениями, которые могли в нем произойти.
Следующий эксперимент - поставить ИР задачу найти все возможные причины, по которым глобальный искусственный разум может покуситься на жизнь человечества. Такими причинами могут являться - эволюция и выживание сильнейшего (я кстати, до сих пор не представляю, какую именно угрозу для эволюции ИР может представлять человек) или же наоборот, убить всех человеков во благо (уточнить, какое именно благо).
Отличный комментарий!