Как подчеркивает Хокинг, сверхумный ИИ не обязательно будет злым, однако его основной задачей станет то, что он перестанет замечать людей. Для сверхмашин будет важнее строить плотины ГЭС, чем судьбы тех людей, которые могут получить множество проблем из-за затопления жилищ. Ученый отметил, что человек только будет мешать роботам осуществлять деятельность.
С появлением ИИ может возникнуть так называемая «тирания хозяев машин», которая значительно увеличит разрыв между бедными и богатыми. Тогда некоторые люди смогут монополизировать производство таких роботов и станут самыми влиятельными на Земле. В связи с вышеуказаными факторами Хокинг рекомендует разрабатывать узкоспециализированный ИИ, который будет решать только определённые задачи.
Источник