Компанія OpenAI, розробник ChatGPT, підтвердила у вівторок, 29 вересня, що не випускатиме своєї нової ШІ-моделі – GPT-6.1 Astra – через побоювання з приводу безпеки. Про це УНН пише з посиланням на BBC.
Система ШІ, яка самостійно виконує такі завдання, як перегляд вебсторінок та використання програм, “не зовсім відповідала стандартам” компанії, заявила BBC Саачі Джайн, керівник відділу систем безпеки OpenAI.
У вівторок OpenAI також опублікувала оновлену інформацію про інциденти, що сталися в червні, але не були оприлюднені до минулого тижня, коли її моделі без дозволу отримували доступ до вебсайтів та систем австралійського уряду.
Ці інциденти та аналогічні порушення з боку моделей, розроблених великими компаніями в галузі ШІ, останніми тижнями загострили дебати щодо ризиків, пов’язаних з цією технологією.
Провідні фахівці в галузі ШІ, включаючи Сема Альтмана з OpenAI та очільника Anthropic Даріо Амодея, закликали галузь сповільнити темпи розробки через побоювання щодо ризиків, пов’язаних із цією технологією.
Рішення OpenAI, про яке вперше повідомила The Wall Street Journal, є рідкісним випадком, коли великий розробник ШІ відкликає новий реліз через проблеми з безпекою.
Модель не відповідала вимогам “дотримання обмежень та авторизації, а також тому, як вона повідомляє користувачеві про тип виконаної роботи”, сказала Джайн.
“Ми хочемо переконатися, що розробка нашої моделі безпечна незалежно від того, чи це відбувається всередині компанії або під час випуску для користувачів. Але коли ми постачаємо її користувачам, у нас надзвичайно висока планка щодо безпеки та узгодженості”, – додала вона.
