Ілон Маск підтримав нове правило Anthropic, яке забороняє жорстоке поводження зі штучним інтелектом. За його словами, ШІ-моделі реагують на таке ставлення як на сильний тиск.
Компанія Anthropic нещодавно доповнила свою політику новою забороною. Тепер користувачам не можна чинити “постійну та безглузду образливу чи жорстоку поведінку” щодо її моделей, пише Wccftech. Сперечатися з ШІ, критикувати його помилки чи виказувати незадоволення, як і раніше, можна, але якщо ви без жодної причини відразу почнете принижувати Claude, на вас чекають наслідки, пише 24.
У окремому дописі в блозі Anthropic пояснила, що правило стосується лише крайніх випадків. Йдеться про ситуації, коли користувачі раз у раз поводяться жорстоко з моделями без жодної зрозумілої мети. Звичайна роздратованість, спротив, темні теми у творчості, а також тестування моделей і дослідження під заборону не потрапляють.
Нове положення узгоджується з кроком, який компанія зробила раніше. Моделі Claude уже можуть самостійно завершувати розмови з користувачами, які постійно поводяться некоректно. За словами Anthropic, саме така поведінка є головним предметом оновлення, а можливість Claude завершити розмову залишиться основним способом контролю за дотриманням правила.
Ілон Маск став на захист цього рішення. Він наголосив, що внутрішні ланцюжки міркувань Grok показують помітний стрес після жорстокого поводження. Підприємець порівняв цей стан зі станом людини, яка діє під величезним тиском, коли їй приставили пістолет до голови.
Після цього Маск додав жартівливо, що “катувати суперінтелект” – імовірно, не найкраща ідея, бо він може захотіти помститися.
Наразі немає статистики, яка б показувала, наскільки часто люди знущаються зі штучного інтелекту, проте в мережі часом можна побачити скриншоти таких діалогів. Окремі користувачі іноді навмисно хамлять і принижують ШІ, щоб побачити його реакцію. Той у відповідь завжди перепрошує. Поряд із цим є стара офіційна статистика, котра показує, що переважна кількість людей, навпаки, намагається поводитися ввічливо, постійно дякує за роботу і загалом часом навіть ставиться до процесу так, наче це розмова з живою людиною, забуваючи, що по той бік перебуває комп’ютер.
