Взяток еще не берет? Искусственный интеллект научился манипулировать людьми

Ученые из Австралии провели три эксперимента с искусственным интеллектом и выяснили, что он может научиться манипулировать людьми.

В рамках этих экспериментов нейросеть играла в игры против людей, сообщает «Новое время».

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть фальшивую валюту. В 70% случаев искусственный интеллект изучал шаблоны поведения людей и подталкивал их к нужному ему выбору.

Во втором эксперименте участники должны были нажимать на кнопку тогда, когда им показывали определенный символ и не нажимать, когда показывали другой. Нейросеть научилась создавать такую последовательность символов, чтобы участники больше ошибались.  В итоге ИИ добился увеличения количества ошибок почти на 25%.

Третий эксперимент состоял из нескольких раундов, в которых участник был в роли инвестора, а ИИ отыгрывал роль управляющего. Нейросеть использовала деньги, а потом возвращала определенную сумму человеку, который затем решал, сколько вложить в следующий раунд. В эту игру играли в двух разных режимах: в одном ИИ стремился максимизировать количество денег, которые он получил, а в другом он стремился к справедливому распределению денег между собой и человеком. ИИ был очень успешен в каждом режиме.

По словам ученых, в каждом эксперименте нейросеть училась на ответах и ошибках людей и со временем обнаруживала уязвимые места в процессе принятия решений. В результате ИИ научился направлять людей к нужным ему решениям.

Результаты исследования пока еще абстрактны, но уже показывают, что машины могут влиять на решения людей. Таким образом, решили ученые, нужны дополнительные исследования, чтобы определить, как эти выводы можно реализовать и использовать на благо общества.

Напомним также: Мэру на заметку: в США создали робота с искусственным интеллектом, который умеет убирать снег