Всі в історії повторюється. У минулому столітті так було з ядерною зброєю – її творці потім боролися за те, щоб її не застосовували, не всі, звичайно. Зараз те саме відбувається з ШІ.
Співзасновник Microsoft Corp. Білл Гейтс попередив, що штучний інтелект є інструментом, «достатньо потужним», щоб знищити значну частину людства, приєднавшись до дедалі більшої кількості лідерів технологічної галузі та працівників, які наголошують на екзистенційних ризиках, пов’язаних зі ШІ, пише Bloomberg.
«ШІ, безумовно, достатньо потужний, щоб спровокувати події, які, знаєте, призведуть до загибелі мільярда людей», — зазначив Гейтс в уривку інтерв’ю для програми Meet the Press телеканалу NBC, що має вийти в ефір цими вихідними. «Ще ніколи не існувало зброї, настільки потужної, як поєднання зловмисників і новітніх інструментів ШІ».
У Кремнієвій долині посилилися попередження про потенційну катастрофічну шкоду від ШІ на тлі стрімкого розвитку цієї технології. Джейкоб Коксон, рядовий співробітник компанії Anthropic PBC, звільнився на початку цього місяця, звинувативши своїх колишніх роботодавців — Anthropic та OpenAI — у тому, що вони «граються з нашими життями», «змагаючись у створенні суперорозумного ШІ». Інший співробітник Anthropic заявив, що, на його думку, існує ймовірність понад 10%, що ШІ знищить усе людство протягом наступного десятиліття.
Ці заяви привернули широку увагу до давньої — і суперечливої — дискусії в галузі, спонукаючи до публічних закликів вжити додаткових заходів для гарантування безпеки технологій. Генеральний директор Anthropic Даріо Амодеї закликав уповільнити розробку ШІ; цю пропозицію швидко підтримали його колеги, зокрема генеральний директор OpenAI Сем Альтман та Ілон Маск.
В інтерв’ю Гейтс зазначив, що саморегулювання недостатньо. «Необхідно, щоб правоохоронні органи та політики долучилися до обговорення того, як мають виглядати запобіжні заходи та системи моніторингу, — сказав він. — І це має стати обов’язковою вимогою».
Раніше, у серпневому есе, Гейтс стверджував, що зловмисники можуть використовувати дедалі потужніші інструменти ШІ для кібератак, шахрайства, поширення дезінформації та інших дій, що завдають масштабної шкоди лікарням, фінансовим установам, енергомережам та державним системам.
