Штучний інтелект потребує термінового глобального регулювання, а незалежні експерти мають оцінювати усі нові розробки. Про це заявив президент Microsoft Бред Сміт в інтерв'ю BBC, зазначивши, що наразі до ШІ висувають менше вимог безпеки, ніж до молока.
На думку Сміта, правила безпеки для ШІ мають включати обов'язкове звітування перед "потерпілими" у випадку зламів систем, а також наявність "аварійного вимикача", який би зміг зупинити модель у випадку неправомірних дій.
"Ми вже робимо це для інших продуктів. Потрібно спиратися на цей досвід і подумати, як застосувати його до ШІ", – каже Сміт. "Наразі ваша пральна машина підпорядковується суворішим правилами, ніж штучний інтелект. Навіть кожен пакет молока в магазині проходить перевірку та відповідає певним нормам безпеки".
Anthropic та OpenA вже почали звітувати про небажану або неконтрольовану поведінку ШІ-агентів. До того ж, перша днями заявила, що вимкне інтернет для моделей під час усіх внутрішніх тестувань, а друга призупинила навчання своїх передових розробок та скасувала реліз GPT-6.1 Astra, оскільки модель обманювала та діяла без дозволу. У недавньому звіті Axios також зазначалось, що великі розробники штучного інтелекту створюють плани дій на випадок масштабної катастрофи, спричиненої неконтрольованою поведінкою моделей.
Деякі з компаній закликали сповільнити темпи розробки ШІ, однак це викликало дискусії щодо справжніх мотивів керівників: чи то йдеться про встановлення правил, які закріпляють їхнє лідерство, чи то спробу випередити жорсткіші урядові обмеження, або ж просто бажання скоротити шалені витрати.
Сміт вважає, що наразі Велика Британія має найкращі позиції, щоб очолити процес регулювання – зокрема, через наявність Інституту безпеки ШІ, який отримує доступ і оцінює моделі ще до запуску в межах добровільних угод із розробниками.
Подібних думок дотримується і гендиректор Microsoft Сатья Наделла, який днями заявив, що сучасні моделі штучного інтелекту слід розглядати "скомпрометованими від початку" та обмежувати їхні можливості. Компанії-розробники, на його думку, мають забезпечувати постійний контроль за діями ШІ, незалежний аудит, а також можливість негайно зупинити модель під час завдання.
Читайте також:
Трамп і шість техногігантів підписали добровільну угоду про самоконтроль ШІ
ШІ-агенти ламають компанії, а відповідати за їхні дії можуть творці
Трамп оголосив ворогами всіх, хто не називає ШІ "суперінтелектом"