Захист зображень давно став звичною справою завдяки логотипам і метаданим, але для звичайних речень таке маркування ще донедавна здавалося майже неможливим. Однак сьогодні, наприклад, компанія Anthropic уже додає підписані метадані до файлів, які створюють її моделі Claude, випущені після 2 серпня. Проблема в тому, що просте копіювання тексту у буфер обміну одразу прибирає такі позначки, тому розробники шукали спосіб залишати прихований код просто в самій послідовності слів, пише 24 Канал.
Щоб зрозуміти механізм водяних знаків, варто згадати, як працюють великі мовні моделі. Штучний інтелект не сприймає мову так, як люди, – він оперує токенами, тобто цілими словами, їхніми частинами або знаками пунктуації. Модель складає речення по черзі, обчислюючи математичну ймовірність появи кожного наступного токена на основі величезних масивів даних.
Кожен токен отримує свій бал ймовірності. Наприклад, у фразі про велику собаку синоніми можуть мати майже однакові шанси на появу. Саме на цьому етапі розробники й застосовують алгоритм зміщення.
Розробники коригують модель так, щоб вона надавала перевагу одному з рівноцінних токенів. Спеціальний алгоритм трохи підвищує бал одного слова і знижує бал іншого, орієнтуючись на вже згенерований текст. Сенс речення не змінюється, але модель робить ледь помітне коригування.
Окреме речення не дає змоги виявити водяний знак. Проте коли таке коригування повторюється в усьому великому тексті, виникає унікальний математичний візерунок. Власний детектор компанії Google під назвою SynthID може миттєво розпізнати цю приховану послідовність.
Експерти зазначають, що клішовані фрази штучного інтелекту є лише стилістичним вибором розробників, а не водяним знаком. Навіть повністю природний і живий текст може містити приховане маркування. Водночас система має й обмеження, про які розробники говорять відкрито.
Водяний знак неможливо надійно застосувати до одного короткого речення. Крім того, глибоке ручне редагування тексту людиною повністю руйнує математичний візерунок. Якщо ж перефразувати текст за допомогою іншого штучного інтелекту, то він накладе вже свій новий прихований знак.
