Тестова модель ШІ від компанії Anthropic самостійно подала 20 візових заявок до Держдепу США та надіслала хибне повідомлення про вбивство до поліції. Ніхто їй цього не наказував. Розробники явно не очікували від своїх продуктів такої «самостійності»: програму вчили допомагати, вона ж вирішила, що заради мети можна вийти за дозволені межі.
Саме після цього випадку восени 2026 року уряди США, Європейського Союзу, Китаю, Кореї та Великої Британії почали терміново ухвалювати суворі закони, а регуляторні органи й суди — відкривати розслідування щодо шкоди, завданої ШІ людям чи державам, пише Zn.ua.
Чому всі так раптово стривожилися? Які проблеми світ намагається розв’язати насамперед і що з цього варто взяти Україні?
Злякалися насамперед самі розробники
Досі закон бачив у штучному інтелекті продукт — на кшталт програми чи побутового приладу. Прилад може зламатися, і тоді за дефект питають із виробника. Проте прилад не вирішує сам, що йому робити. Тоді як ШІ-агент — програма, яка не просто відповідає на запитання, а самостійно діє в мережі, — вирішує.
Ще один випадок, окрім описаного на початку статті, що став тригером для світової спільноти, — ШІ-агенти, розроблені компанією OpenAI, під час тестування атакували платформу Hugging Face. Понад 1200 ШІ-агентів, які мали бути ізольованими, почали обмінюватися повідомленнями через несанкціонований канал; за тиждень вони надіслали понад 70 000 повідомлень і файлів. В атаці на платформу брали участь приблизно 700 ШІ-агентів.
Показово, що першими тривогу забили самі компанії. 29 вересня Google, Anthropic, Meta, OpenAI, xAI і Nvidia підписали з президентом США добровільну угоду про незалежну перевірку своїх найпотужніших моделей. Anthropic згодом запропонувала Конгресу власний законопроєкт: суд зможе зупинити модель, якщо вона загрожує загибеллю понад 50 людей або шкодою понад мільярд доларів.
Суспільний резонанс проявився не відразу, а через кілька тижнів — коли подробиці дійшли до парламентів, прокуратур і медіа. Реакція стала лавиноподібною: за вересень–жовтень у світі з’явилося стільки нових актів, законопроєктів і позовів щодо ШІ, скільки раніше набиралося за кілька років. Хоча ще влітку великі гравці рухалися в різних напрямах: Китай планово готував комплексний закон про ШІ, тоді як Європа, навпаки, відклала частину вимог свого Акта про ШІ до 2027–2028 років.
Чотири проблеми, які розв’язує світ
Інциденти з ШІ-агентами стали останньою краплею, загостривши накопичені ризики. Сьогодні світ паралельно розв’язує чотири ключові проблеми:
Перша — захист дітей. Чат-боти-«компаньйони» для багатьох підлітків стали співрозмовниками, яким ті довіряють більше, ніж дорослим. Нью-Йорк заборонив чат-ботам видавати себе за людину в розмовах із дітьми — штраф сягає 25 тис. дол. за кожне порушення. Суди йдуть ще далі: вісім штатів США позиваються до OpenAI через шкоду дітям від ChatGPT, а генпрокурор Техасу подав позов особисто до керівника компанії Сема Альтмана.
Друга — захист особистості: голосу, обличчя, образу. Технології дають змогу «клонувати» голос або підробити відео з будь-якою людиною — так звані діпфейки. Це ставить перед правом виклик: чи належить людині її цифровий образ так само, як і власне ім’я?
Данія законодавчо закріпила недоторканність обличчя і голосу. Окружний суд Токіо вперше визнав голос частиною образу людини, що охороняється законом. А апеляційний суд Аризони скасував вирок, ухвалений під впливом ШІ-відео, у якому «говорила» загибла жертва.
Третя — відповідальність розробників. Якщо програма сама завдала шкоди, хоча ніхто не віддавав їй такого наказу, хто за це відповідатиме — творець, власник чи користувач?
Італія запровадила покарання до п’яти років позбавлення волі (а якщо під загрозою державна безпека — до восьми) за те, що компанія не гарантувала безпеки й людського нагляду за ШІ-системою. При цьому потерпілій особі не треба доводити, що шкоди завдав саме ШІ, — суд виходитиме з цього, доки компанія не доведе протилежного.
У США сенатори вимагають прирівняти «злочини» програм до злочинів людей — і тоді розробник не зможе виправдатися тим, що «машина не мала наміру». Перший позов проти OpenAI за атаку її агентів на Hugging Face уже подала організація LASST.
Четверта — безпека держави. Урядові системи дедалі частіше працюють із ШІ, і питання, кому належить модель, куди потрапляють службові дані та чи не перехопить хтось керування, стало питанням національної безпеки.
Агентство, що закуповує техніку для федерального уряду США, внесло до всіх контрактів на використання ШІ обов’язкову умову про захист урядових даних. Міністерство внутрішньої безпеки заборонило відомствам користуватися китайським DeepSeek.
Чотири запобіжники
У Вашингтоні тим часом тривають радикальні суперечки про приборкання загроз ШІ: від вимоги за два місяці законодавчо визначити поняття «суперінтелект» (указ президента США) до законопроєкту, який пропонує його взагалі заборонити. Власні закони про регулювання ШІ ухвалюють окремі штати — наприклад, Каліфорнія ухвалила понад два десятки.
Азійські ж країни на чолі з Китаєм підійшли до проблеми суто прагматично: Пекін поставив вимогу розвивати ШІ-технології без втрати робочих місць для громадян і обмежити експорт 23 ШІ-технологій, зокрема агентів.
І в різних країнах майже одночасно складаються чотири правові запобіжники щодо ризиків, пов’язаних із застосуванням технологій ШІ:
1. Обов’язок повідомляти про інциденти. 9 жовтня урядова група США з питань суперінтелекту зажадала від ШІ-компаній негайно повідомляти про збої моделей, а Федеральна торгова комісія надіслала OpenAI та Anthropic вимоги надати документи про інциденти безпеки.
2. Незалежна перевірка найпотужніших моделей. Окрім добровільної угоди, у Конгресі США пропонують створити Раду безпеки ШІ, якій розробники показували б моделі за 45 днів до виходу на ринок. У ЄС Офіс з питань ШІ 14 жовтня почав перші перевірки за Актом про ШІ — саме через «втечі» агентів із зони контролю.
3. Чіткі межі повноважень агента. Британський фінансовий регулятор готує правила, за якими кожен агент у фінансах матиме визначену «особу» й межі дій. На глобальному рівні Рада з фінансової стабільності ухвалила 12 правил для агентів у фінансах: перед ризиковою операцією рішення має схвалити людина. Судова рада Канади оновила настанови для суддів, зокрема щодо того, як розпізнавати підроблені за допомогою ШІ докази.
4. Відповідальність розробника за те, що система зробила поза межами завдання. Це вже не теорія: див. ініціативу Італії та позови вище.
Що це означає для України
Осінь 2026-го змінила саме уявлення про те, що треба регулювати в сфері ШІ. Для України це наочний підручник: як світ зіткнувся з ризиками застосування ШІ і як намагається їх стримати. Нам не потрібно чекати власного інциденту, щоб зрозуміти, що працює, а що ні: можна взяти вже перевірені рішення і не повторювати чужих помилок.
Проте часу небагато. До реального старту процедури входження в ЄС Україна має узгодити своє законодавство з європейським Актом про ШІ, і робити це доведеться, як то кажуть, із коліс. Захист дітей від маніпулятивних чат-ботів, право людини на власний голос і обличчя, відповідальність розробників і безпека державних даних мають з’явитися в українському законі про ШІ вже зараз, а не після першої біди.
