Деякі старшокласники звертаються до моделей штучного інтелекту з метою, для якої ті на початку свого існування не були призначені. Підлітки намагаються знайти в них друга або психотерапевта, щоб подолати відчуття самотності. Але така взаємодія з ШІ може зайти занадто далеко і нашкодити абсолютно неочікуваним способом, пише 24.
Річ у тім, що на початку чат-боти задумувались для допомоги в різних завданнях, написання текстів, генерування ідей, навчання та інших подібних дій. Але останнім часом почали з’являтися програми для імітації цілих особистостей, копіювання стилю розмови на основі листування, віртуальні коханці та друзі, яких особливо облюбували китайські самотні жінки, заявляючи, що вони “кращі за справжніх чоловіків”.
Один підліток під псевдонімом Аарон розповів, що він скористався чат-ботом “Психолог” на сервісі під назвою Character.AI після того, як посварився зі своїми друзями, і регулярно звертався до нього, щоб виговоритися про свої проблеми.
Це не схоже на щоденник, де ви розмовляєте з цегляною стіною. Він дійсно реагує,— сказав Аарон в інтерв’ю The Verge.
І він такий не один. За даними сервісу, псевдо-психотерапевт провів понад 113 мільйонів чатів. “У мене є кілька психічних проблем, про які мені не хочеться розповідати друзям, тому я використовую ботів як безкоштовну терапію”, – розповів The Verge 15-річний користувач на ім’я Френкі. Боти, як він каже, дозволяють говорити про що завгодно, не розмовляючи зі справжніми людьми, і не боятися, що його засудять.
Можливості Character.AI практично безмежні і часто розважальні. Мільйони молодих користувачів можуть спілкуватися з будь-ким — від улюблених героїв аніме чи відеоігор до реальних знаменитостей та історичних постатей. Багато чат-ботів мають відверто романтичний або сексуальний характер, як, наприклад, один під назвою “Багатий хлопець”.
Сервіс може похвалитися тим, що користувачі проводять у ньому в середньому дві години на день. На Reddit, де форум Character.AI має понад мільйон підписників, багато користувачів хваляться тим, що проводять навіть більше часу — аж 12 годин на день. Герой матеріалу The Verge Аарон каже: “Не буду брехати. Я думаю, що, можливо, я трохи залежний від цього”. Він додає, що, на його думку, спілкування з чат-ботом насправді допомогло йому розвинути соціальні навички: “У реальному житті я трохи невпевнений у собі, але з ШІ я можу тренуватися бути наполегливим і висловлювати свої думки та інтереси, не соромлячись себе”.
Інший підліток на ім’я Гоук, який використовує сервіс для спілкування з персонажами відеоігор, погодився з ним, зізнавшись, що йому легше розмовляти зі штучним інтелектом, аніж з людьми. “Мені загалом комфортніше сидіти на самоті в кімнаті з вимкненим світлом, ніж виходити на вулицю і спілкуватися з людьми особисто”, – сказав він.
Хоча ми, безумовно, бачимо позитивні моменти в існуванні таких програм, як Character.AI, усе це викликає деяке занепокоєння:
Ці технології знаходяться в зародковому стані, тому можуть бути небезпечними. Добре відомі випадки, коли ШІ “галюцинував”, видаючи користувачам дезінформацію, спонукаючи до різних негативних дій, у тому числі й до самогубства.
Штучний інтелект навчається постійно, аналізуючи власні діалоги. Це означає, що на нього можна вплинути, якщо певний час і певним чином згодовувати йому потрібну інформацію. Тож, хоча така імовірність і невелика, але в якийсь момент дитина може отримати не терапевтичний діалог, а шкідливу рекомендацію, яка призведе до сумних наслідків.
Крім того, дані ШІ ніколи не бувають анонімними. Всі діалоги збираються, передаються розробникам, аналізуються і використовуються для навчання та виправлення помилок. Неуважні діти можуть поділитися чимось, що не повинно потрапити до сторонніх осіб.
Нарешті, отримавши такого віртуального “друга” чи “психолога”, хтось може вирішити, що цього достатньо, і лише поглибить свою соціальну ізоляцію.
Це лише невелика кількість проблем, які можуть виникнути під час використання ШІ. З іншого боку, випадки Аарона та Гоука доводять, що вплив чат-ботів (принаймні, деяких спеціалізованих, що мають жорсткі правила та регуляторні важелі) може бути позитивним, дозволяючи відчути себе краще, знімаючи відчуття самотності та безпорадності. Ранні дослідження також показували, що чат-боти можуть допомогти зменшити відчуття депресії, тривоги й стресу.
Вчені давно говорять, що світ занурився в “епідемію самотності”, яка особливо поглибилась із приходом пандемії COVID-19. Такі країни, як США та Японія страждають найбільше. Остання навіть призначила “міністра самотності”, який допомагає людям, що страждають від цієї проблеми. У Європі, на щастя, ситуація набагато краща, однак все одно демонструє сумну тенденцію до зростання.
Тож технології штучного інтелекту можуть принаймні частково зменшити прояви “епідемії самотності” та її наслідки. Але ті, хто не має достатнього рівня ШІ-грамотності, щоб зрозуміти обмеження і загрози цих систем, у підсумку заплатять за це високу ціну.
Читайте: Південна Корея та Британія проведуть саміт з розвитку штучного інтелекту
