З'явилась інформація, що компанії Anthropic, OpenAI та інші великі розробники штучного інтелекту створюють плани дій на випадок масштабної катастрофи, спричиненої неконтрольованою поведінкою ШІ.
За даними Axios, керівництво цих організацій проводить моделювання сценаріїв, де штучний інтелект може завдати шкоди критичній інфраструктурі – фінансовим системам, телекомунікаціям, енергетиці чи водопостачанню. Схожі симуляції, але у військовому плані, проводить Пентагон для прогнозування наслідків ядерного конфлікту.
Представники OpenAI підтвердили, що компанія проводить спеціальні навчання, де команди відпрацьовують різні варіанти розвитку подій. Вони наголосили, що ці сценарії не розглядаються як неминучі, але мають допомогти підготуватися до непередбачуваних ситуацій.
Такі заходи компаній, ймовірно пов'язані з минулими інцидентами, коли ШІ-агенти OpenAI, виходили за межі тестових середовищ, через що компанія тимчасово зупинила випробування своїх найпотужніших моделей.
Нещодавно Anthropic попередила інвесторів, що розвиток дедалі потужніших систем штучного інтелекту може створювати "екзистенційні ризики для людства", а колишній співробітник OpenAI, який займався питаннями безпеки, заявив, що головна проблема розвитку ШІ полягає у відсутності належної культури безпеки, яку вже давно виробили авіаційна та ядерна галузі. Попри це, Білий дім не запровадив жорстких регуляцій для штучного інтелекту, обмежившись домовленостями з компаніями NVIDIA, OpenAI та Anthropic про самостійний контроль розвитку ШІ.
За даними Axios, серед сценаріїв, які відпрацьовують лабораторії, є й варіанти інформування Конгресу після можливого масштабного інциденту з ШІ. Передбачається, що у разі загрози законодавці можуть спробувати зупинити або обмежити розвиток ШІ, хоча розробники планів вважають, що реалізація такого кроку буде надскладною.
Керівники Anthropic, OpenAI та SpaceXAI погоджуються, що необхідне уповільнення розвитку ШІ для забезпечення безпеки, проте конкретні кроки компаній досі залишаються невідомими.