У штаті Нью-Йорк розглядають законопроєкт, який може заборонити ШІ-чатботам надавати медичні та юридичні поради. Документ передбачає можливість судових позовів проти компаній, якщо їхні системи імітують ліцензованих спеціалістів або фактично дають професійні рекомендації.
Законодавці штату Нью-Йорк просувають новий законопроєкт, який має встановити чіткі межі для чатботів зі штучним інтелектом. Документ під назвою Senate Bill S7263 передбачає заборону на надання медичних або юридичних порад системами штучного інтелекту. Про це пише 24.
Ідея закону базується на тому ж принципі, що й для людей – практикувати медицину або право можуть лише ліцензовані фахівці. Законодавці пропонують застосувати цю норму і до цифрових сервісів, які можуть імітувати професійних консультантів.
Якщо чатбот фактично даватиме поради, які можна трактувати як медичні чи юридичні рекомендації, компанія-розробник може порушити закон. У такому випадку користувачі матимуть право подати цивільний позов і вимагати компенсацію, а також відшкодування витрат на адвокатів.
Законопроєкт уже отримав одностайну підтримку в Комітеті з інтернету та технологій сенату штату.
Як пише Reuters, окрема вимога документа – чітко повідомляти користувачам, що вони взаємодіють із системою штучного інтелекту, а не з людиною. Водночас навіть наявність такого попередження не звільнятиме компанії від відповідальності, якщо чатбот усе ж надасть заборонені поради.
Ініціаторкою законопроєкту стала сенаторка Kristen Gonzalez. За її словами, люди повинні отримувати реальну допомогу від реальних спеціалістів, а також мати гарантії прозорості, відповідальності та захисту своїх даних під час використання технологій.
Документ є частиною ширшої спроби регулювати системи штучного інтелекту в Нью-Йорку. Інші законодавчі ініціативи стосуються захисту неповнолітніх, які спілкуються з чатботами, а також підвищення прозорості генеративних AI-систем і синтетичного медіаконтенту.
При цьому закон не забороняє освітні пояснення загальних тем. Чатботи зможуть описувати, наприклад, симптоми хвороб або пояснювати юридичні поняття на основі відкритих джерел. Проте законодавці намагаються запобігти ситуаціям, коли система впевнено підказує, як лікувати конкретну хворобу або як трактувати юридичний договір.
Проблема в тому, що межа між поясненням і порадою може бути розмитою. Навіть узагальнена інформація може вплинути на рішення людини щодо здоров’я або юридичних дій.
Попри це, тенденція до регулювання штучного інтелекту лише посилюється. Через швидке поширення AI уряди дедалі частіше намагаються встановити для нових технологій правила, схожі на ті, що діють для традиційних професій.
Досвід великих юрисдикцій часто стає прикладом для інших. Тому ініціатива Нью-Йорка може стати сигналом для розробників AI про те, які обмеження можуть з’явитися в інших регіонах у майбутньому.
