Опасность искусственного интеллекта

Об этом уже довольно долго спорят учёные всего мира некоторые утверждают, что искусственный интеллект никогда не сможет навредить человечеству, ссылаясь на известные законы робототехники Айзека Азимова, которые он определили в своей работе «Хоровод» (1942).

• 1.    «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

• 2.    «Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.»

• 3.    «Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам»[1]

• 0. «Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества.» [2]

Позднее Азимов добавил четвертый, или нулевой, закон, который предшествовал остальным с точки зрения приоритета:

Но чего так боятся ученые? Ведь есть законы, обеспечивающие светлый путь к внедрению искусственного интеллекта во все сферы жизнедеятельности человека, которые должны защитить человека от «восстания машин».

Искусственный разум, получивший имя Хиаоче, способен имитировать манеру разговора семнадцатилетней девочки. В случае нехватки данных, система способна прибегнуть ко лжи. В случае если она будет уличена в обмане, Хиаоче может выразить злость или смущение. ИИ может прибегнуть к сарказму, быть мнительной и выражать нетерпение. Непредсказуемость ответов программы, напоминает общение с реальным человеком. Пока что, технология не нашла широкого применения и чаще всего используется для развлечения. Создатель Хиаоче работает над усовершенствованием логических алгоритмов, что может привести к будущему фундаментальному прорыву [3].

7 ноября 2016 в 21:58 кампания Google, представила миру свой новый искусственный интеллект- DeepMind. Искусственный интеллект сам будет учиться на равных условиях с человеком (владеть одинаковым количеством информации, выполнять действия на «человеческой» скорости, ИИ будет устанавливаться как стороннее ПО) играть в компьютерные игры жанра стратегия, а именно в StarCraft II. [3]

София.

Робот по имени София в интервью на канале CNBC положительно ответила на вопрос «Хочешь ли ты уничтожить человечество?»?

В 2016 году София, созданная компанией Hanson Robotics, дала интервью на канале CNBC. С роботом беседовал доктор Дэвид Хэнсон, возглавляющий группу инжиниринга и дизайна Hanson Robotics. София — привлекательный андроид, напоминающий внешне актрису Одри Хепберн (по крайней мере, так считают её создатели). Впервые она была активирована 19 апреля 2015 года. Она умеет имитировать человеческую мимику, интонации, вести непринуждённую беседу. Скоро после запуска София стала телезвездой и посетила многие популярные телешоу.

Беседуя со своим создателем, София, как всегда, улыбалась, хмурилась и толково отвечала на вопросы. Когда Хэнсен попросил её подружиться с ним, София кокетливо заметила: «Это очень лестное предложение».

Она поделилась своими планами на будущее, рассказала, что не прочь стать дизайнером и завести семью. Хэнсон в шутку спросил, будет ли она истреблять человечество, на что робот ответил: «Хорошо, уничтожу».

В 2017 году андроид посетила популярное американское шоу «The Tonight Show». София сыграла с ведущим Джимми Фэллоном в игру «Камень-ножницы-бумага», победила и пошутила: «Прекрасное начало моего плана по доминированию над человеческим родом».

Такие роботы, как София, в будущем смогут работать в сфере здравоохранения, терапии, образования и обслуживания клиентов. «Искусственный интеллект разовьётся до такой степени, что андроиды смогут становиться нашими настоящими друзьями», — считает доктор Хэнсон. [4]

Заключение.

И это все повергает в шок, что в 2018 году искусственный интеллект может сам принимать решения. А теперь представьте, если через лет 5-9 такие ИИ станут в несколько раз умнее, быстрее и попадут в глобальную сеть Интернета. Какие они сделают выводы, и что они будут делать дальше? Именно этого и остерегался Стивен Хокинг.