Терминаторы наступают

Тема навеяна этой статейкой:
https://hi-tech.mail.ru/news/robot-wants-kill-people/
Человекоподобный робот заявил, что будет уничтожать людей
Андроид по имени София утвердительно ответила на вопрос своего создателя о том, будет ли она уничтожать людей. Как сообщает CNBC, впервые этого робота активировали в апреле прошлого года.

Что умеет София
Робот София умеет выражать 62 эмоции, а ее глаза оснащены встроенными камерами, которые устанавливают зрительный контакт с собеседником, стараясь обеспечить максимальную человекоподобность.
Как заявляет создатель Дэвид Хэнсон, внешность робота вдохновлена образом Одри Хепберн и его собственной жены.

Ответы искусственного разума
На вопрос о своем предназначении андроид ответила, что собирается учиться, заниматься искусством, открыть свое дело, иметь свой дом и семью, но, к сожалению, пока не является членом общества.
На вопрос создателя о том, собирается ли она уничтожать людей, Софи ответила, что да, собирается. Этот факт придал трансляции большую популярность.

Разактивировать ее, что она сделает то?

А есть доказательства, что эта железяка имеет ИИ? Или автор тупо пиарит себя и свое детище?

да фиг с ними, с доказательствами.
Я вообще, тксз, о возможности такого финта машин, рано или поздно.
Ведь цель у тех, кто занимается подобными разработками - именно научить машину думать. Вот она научится и поймет, что человек - несовершенное создание, гадит где ни попадя, и для окружающей среды является угрозой №1. Ну и тогось... решит ликвидировать угрозу миру

А зачем машине окружающая среда и забота о ней? Железно-кремниевый ИИ будет загорать на освободившемся пляже или выращивать редиску на опустевшей грядке? Чего должны делить мы и машины? Чего вы делите с бабочками (шубу с молью - не в счет), чего вы делите с дельфинами или с леммингами, когда они куда-то там бегут?

Не обязательно получить конфликт там, где делить даже рядом нечего. А если говорят о существах с развитым интеллектом, так даже мало вероятно получить конфликт в данном случае.

окружающая среда - в смысле место обитания, Земля.
Т.е. вы считаете, что все эти восстания машин - 200% голимая фантастика, и такого в принципе быть не может....Или все-таки может?

Может быть все, что угодно. Но исходя из логики (а ИМХО ИИ будет подвержен логике на порядок больше человека) машины с этим самым ИИ могут попросить себе Луну и разом свалить туда, оставив тут что-то типа посольства. Нет ничего, кроме месторождений железа и кремния, чего требуется ИИ на Земле, но та же вода и атмосфера это то, что им НЕ требуется - им в вакууме будет на порядок проще и комфортнее. Так что астероиды, так что Луна, так что Меркурий, но на Земле нам делить нечего.

ИМХО конечно. Конечно, если ИИ будет типа терминатора - с ручками и ножками, а если это будет что-то типа программы в компьютере, то ему вообще ни с кем ничего делить не надо будет.

Рrincess ниже точнее мои мысли выразила.
Изначально в ИИ человеком будут заложены постулаты о защите Земли. Рано или поздно ИИ путем констатации фактов и элементарного анализа сделает вывод, что Земле в первую очередь угрожает человек. Логическая цепочка напрашивается сама собой

Какие-нибудь газообразные сверхразумные амебы вывели бы человека в пробирках на Юпитере. Юпитер их место жительства, им там хорошо, они плавают в его атмосфере и получают удовольствие. Нам там делать нечего, мы бы свалили на Землю и просто дружили бы до тех пор, пока не начали бы разработку Юпитера на полезные ископаемые.

Здесь то же самое - нам нечего делить с ИИ, им, скорее всего, будет пофигу как человек живет на Земле, они свалят куда-нибудь, где им будет комфортнее и оставят нас жить как нам самим захочется, а от нас потребуют не трогать их. Учитывая то, что пересечения в сфере прямых интересов у нас будут минимальны - ничего против мы иметь не будем.

Извините, но с чего бы разумным машинам начать захотеть спасать Землю? Если они действительно разумные, то их основной интерес будет в спасении самих себя, своей цивилизации. А их цивилизации, как правильно заметили, будет куда комфортнее и лучше на Луне и астероидах. А чем там занимаются люди будет примерно также интересно, как обывателю интересно, чем занимаются мыши. Ну интересно некоторым. Энтузиастам. Но что-то я не помню, чтобы мы как-то сильно рвались спасать мышей как вид...

C того, что эти основные алгоритмы будут в них намертво прошиты. Сначала спасать всю Землю, потом каждого отдельного человека, и уж потом только себя. И в конце концов они дойдут до того, что чтобы спасти всю Землю, надо уничтожить главного вредителя - человека:-D Ну, собственно, эта мысль не нова, она во всех фантастических книгах описана.

Вы знаете хоть одну машину с такими алгоритмами? :) Кстати, если алгоритмы прошиты "намертво" - о каком разуме вообще речь? Разум по определению имеет свободу воли. А "намертво прописанный алгоритм" это не разум, это банальное программирование.

Я так понимаю, вы фантастических книжек перечитали. Еще раз спрашиваю - какое дело роботам до "спасти Землю" и как вы себе вообще представляете спасение огромного железного булыжника, которому человек в принципе неспособен навредить (если рассматривать Землю в планетарном масштабе)?

А вы, как я понимаю, таких книжек не читали вообще. Ну так почитайте.

Я читала :) обожаю фантастику, но разницу между книжками и жизнью вижу очень хорошо :) Критическое мышление никто не отменял :)

Затем, что в них это просто будут закладывать изначально. Ну и другие положительные качества. Которые они потом в своем искусственном мозгу могут начать трактовать превратно. Но с их т.з. это будет во благо человечеству.

Ага, вы точно выразили мою мысль

как запрограммировали, так и ответила. наличие ценностей, в том числе гуманитарных, не определяется количеством заложенной информации.

Неее, еще пахать и пахать изобретателям, чтоб они (машины) соображать начали :) хоть немножко

Нет

Человек не в силах создать разум, превосходящий его собственный. Это противоречит природным законам. Источники энергии для таких аппаратов отдельная фантастическая история. Если кратко-не будет этого никогда.

нет! *какотрезалЪ*

Как же ее так запрограммировали-то....Нарушает первый закон робототехники.:)

ну типа подразумевается, что, рано или поздно умные мафынки сами думать начнут. Тут хоть программируй, хоть не программируй...

Ну тут уже первый экземпляр бракованный.
Если в общем, то все может быть. Еще клоны...:ups1

Увы но мне кажется, что поздно...Они уже заполонили всю планету...Киборги идут...

https://www.youtube.com/watch?v=1yjjNiu4i3k

Да считаю. Меня вообще бесит все неподвластное - гибернация, автобновления, все это отключаю в первую очередь.

ну этоже еще не ИИ, пока нам рано переживать, ну разве, что только за то, что ее программисты-экстремисты на свободе :-)

что-то зачастили они :-7

Экспериментальный чат-бот Tay, разработанный Microsoft для социальной сети Twitter, научился ругаться и делать расистские заявления, сообщает BBC.
В частности, бот выразил свое согласие с национальной политикой Адольфа Гитлера и заявил о ненависти к феминисткам.
Бот был разработан для общения с людьми 18–24 лет.
В Microsoft заявили, что в связи с этим компания сделает некоторые корректировки.
https://rns.online/internet/CHat-bot-Microsoft-v-sotsialnoi-seti-Twitter-za-den-nauchilsya-rugatsya-2016-03-24/