Роботы научились сомневаться в приказах человека

Накануне ученые, входящие в состав профессорской коллегии университета Тафтса опубликовали завершенную работу, относительно того, что им удалось научить роботов сомневаться в решениях и указаниях своих создателей. Для этого ученые разработали программу, которая вносит элемент "подсознания" у машины и заставляет его размышлять и анализировать над полученным приказом.



Данная разработка презентована в рамках конференции AI-HRI. В концептуальном плане, данная задумка, естественно, не нова, однако, нечто подобное использовалось при передаче данных в вычислительных системах и при разграничении доступа. Данная программа теперь же установлена на небольшом роботе, созданном по подобию человека, который отказывается выполнять команду сразу, а предварительно ее анализирует.

В первую очередь, он оценивает целесообразность данного приказа, свои физические возможности, свои персональные навыки, если же данный анализ не совпадет с необходимыми параметрами, робот может отказаться выполнять задание. Ученые уверяют, что это не является революцией в робототехнике, однако, однозначно является шагом к созданию полноценного ИИ.

Источник