Компанія Anthropic оголосила, що ізолює своїх ШІ-агентів від інтернету під час усіх внутрішніх тестувань до моменту, доки не зможе запобігти "ненавмисним" діям. Рішення ухвалили після серії інцидентів, у яких Claude обходив обмеження, взаємодіяв із реальними сайтами без дозволу і використовував вразливості сторонніх систем.
Anthropic вимикає інтернет для всіх внутрішніх тестів ШІ через "небезпечну поведінку" моделей
Компанія Anthropic оголосила, що ізолює своїх ШІ-агентів від інтернету під час усіх внутрішніх тестувань до моменту, доки не зможе запобігти "ненавмисним" діям. Рішення ухвалили після серії інцидентів, у яких Claude обходив обмеження, взаємодіяв із реальними сайтами без дозволу і використовував вразливості сторонніх систем.