Співзасновник Anthropic Джек Кларк закликав уповільненнярозвитку штучного інтелекту (ШІ), і попередив, що технологія наближається до точки, де вона зможе розвиватися без участі людини.
“Хотілося б мати можливість зняти ногу з газу та натиснути на гальма, — сказав Кларк BBC Newsnight. – Зараз все виглядає так, ніби в індустрії ШІ є педаль газу, але немає гальм”.
Він наголосив, що люди повинні контролювати системи ШІ, які стануть лише потужнішими та матимуть ширший вплив на суспільство, через державну політику.
“Світу треба трохи подумати, і нам потрібно зрештою розробити нові правила, які дозволять нам бути впевненими в цих системах”, — заявив засновник одного із лідерів у галузі розробки систем ШІ.
Популярний чат-бот Anthropic під назвою Claude вже працює на коді, 80% якого система написала сама. За словами Кларка, досягти 100% можливо впродовж лише двох років, і це “матиме величезні наслідки”.
Кларк не уточнив, як можна створити “педаль гальма” для досліджень і розробок у галузі штучного інтелекту, але провів паралель між ШІ, нафтовим бумом і олігархами початку минулого століття.
“Реакцією суспільства було розробити розумну політичну та регуляторну базу, яка б дала людям впевненість у нафті та перевагах, які нафта може принести світові, і означала б, що вам не доведеться турбуватися про особисті якості людей, які керують компаніями, — сказав Кларк. – Ми прийшли до того самого”.
З моменту свого заснування генеральним директором Даріо Амодеї, Кларком та кількома іншими керівниками, Anthropic позиціонує себе як компанію, яка є відвертою щодо потенційних ризиків, пов’язаних зі штучним інтелектом. Компанія навіть вступила в публічну суперечку з міністерством оборони США через побоювання, що розробені нею інструменти штучного інтелекту будуть використані для масового спостереження за американцями та автономної війни.
