Уряд США заборонив Anthropic надавати доступ до Fable 5 негромадянам США.
У п'ятницю ввечері уряд США надіслав Anthropic наказ, посилаючись на національну безпеку та експортний контроль: прибрати доступ до Fable 5 і Mythos 5 для всіх негромадян США, у країні та за її межами, включно з власними співробітниками Anthropic, які не є громадянами США. Тобто для нас, українців, Fable 5 тепер просто недоступна.
Приводом став знайдений джейлбрейк, який дозволяє обійти обмеження моделі. Anthropic вивчила його і каже, що це простий, усім відомий, майже шкільний метод, який не несе особливих загроз і працює в усіх моделях, не тільки Fable 5, зокрема в ChatGPT. В уряді кажуть, що мають ще один джейлбрейк, серйозніший, але поки що його не показали. Вибірково заблокувати доступ лише іноземцям Anthropic технічно не може, тож відрізала його всім.
На практиці це означає:
- нові сесії запускаються на вашій дефолтній моделі або на Opus 4.8;
- наявні сесії на Fable 5 завершуються помилкою;
- запити до Fable 5 через API теж повертають помилку, тож інтеграції доведеться перевести на інші моделі;
- решта моделей Claude працює як раніше.
Anthropic заявляє, що вважає це непорозумінням, працює над відновленням доступу якнайшвидше і що заборона негативно вплине на розвиток AI.
Сталося це одразу після тижня, коли Anthropic спершу приховала запобіжні заходи у Fable 5 (через що модель часто ставала непридатною навіть коли ці заходи не спрацьовували) і отримала за це хвилю критики. А CEO Dario Amodei перед цим написав, що уряди мають отримати право блокувати небезпечні AI-моделі за оцінкою третьої сторони:
Уряд повинен мати право блокувати або стримувати впровадження моделі, якщо на основі оцінки третьої сторони буде встановлено, що вона становить неприйнятні ризики. Ці повноваження повинні бути обмежені чотирма вищезазначеними конкретними ризиками, і повинні бути передбачені захисні заходи від політичного фаворитизму або свавільних рішень.
Тепер таке право уряд США застосував до самої Anthropic.
Чому таке технологічне стримування часто дає зворотний ефект, розбирає Dion Wiggins у п'ятничних новинах за 19 червня.