Уничтожит ли искусственный интеллект человечество?

У меня практически нет сомнений, что появление высокоуровнего искуственного интеллекта приведет к крайне негативным последствиям для человечества, вплоть до уничтожения людей, как вида. В то же время, учитывая нашу встроенную агрессивность, нет сомнений, что военные и ученые разных стран будут стараться этот искуственный интеллект разработать, причем вероятность возможности его разработки растет с каждым годом, вместе с рисками. 

Ава, Ex Machina 

Некоторые верят, что можно подходить к его разработке с идеей так называемого "дружественного интеллекта", но я уверен, что в силу того, что ИИ будет произвольно модифицировать свой код, он достаточно быстро сможет избавится от любых встроенных в него "предохранителей".  А потому разработки высокоуровнего ИИ можно сравнить с обратным отсчетом для существования человечества.

Журналист Джеймс Баррат поговорил со специалистами, занимающимися проблемой искусственного интеллекта, и собрал их опасения в книге «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens». На русском языке она выйдет в конце июля в издательстве «Альпина нон-фикшн». «Лента.ру» публикует отрывок из книги.

http://lenta.ru/articles/2015/07/12/terminator/?f  - рекомендую почитать.