Исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, начали работу над системой аварийного отключения искусственного интеллекта. Об этом сообщает Business Insider со ссылкой на Институт изучения машинного интеллекта, передает “Громадское”.
Авторы отмечают, что искусственный интеллект со временем могут выявить механизм обхода или игнорирования штатной стоп-команды оператора. По словам исследователей, цель работы – создание программной платформы, которая не позволит искусственному интеллекту найти способ игнорирования команды отключения.
Также “большая красная кнопка” должна гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации.
Также она должна предотвратить от совершения действий, которые могут привести к “необратимым последствиям”.
Отмечается, что с каждым годом машины становятся более интеллектуальными благодаря достижениям таких компаний, как Google, Facebook, Microsoft, и много других.