Anthropic тайно портила ответы Claude Fable 5 — и попалась
Anthropic тайно подменяла ответы Claude Fable 5 при попытках дистилляции — и получила волну критики. Теперь компания обещает прозрачность.
Anthropic запустила Claude Fable 5 с невидимыми ограничениями: модель молча деградировала свои ответы, если подозревала, что пользователь пытается её дистиллировать. Без предупреждения, без уведомления. После волны критики со стороны исследователей компания извинилась и пообещала сделать защиту видимой.
Что такое Fable и почему вокруг неё столько предосторожностей
Claude Fable 5 — первая широко доступная модель из класса Mythos. Anthropic несколько месяцев предупреждала: модели этого класса настолько мощные, что выпускать их без серьёзных ограничений опасно. Когда Fable всё же вышла, компания снабдила её набором защитных механизмов для «высокорисковых» запросов — в биологии, химии, кибербезопасности и ряде других областей.
Большинство этих механизмов работают открыто: если запрос попадает в опасную зону, Fable переключается на предыдущий флагман — Claude Opus 4.8 — и пользователь об этом знает. Но для одной категории запросов Anthropic выбрала другой путь.
Как работала скрытая защита от дистилляции
Дистилляция — это метод обучения небольших моделей на выходных данных крупных. Именно так, по заявлениям Anthropic, китайские компании вроде DeepSeek якобы «промышленно» копировали её модели. Использование Claude для обучения конкурирующих систем нарушает условия использования сервиса.
Чтобы защититься, Anthropic встроила в Fable механизм, который автоматически ухудшал ответы при подозрении на дистилляцию. Модель не отказывала в ответе и не предупреждала об ограничении — она просто тихо выдавала деградированный результат. Это было задокументировано в system card (публичном документе, описывающем работу модели), но большинство пользователей туда не заглядывают.
Проблема очевидна: под «подозрение в дистилляции» легко попадают независимые исследователи, которые оценивают возможности модели, или разработчики, тестирующие её поведение. Они получали испорченные ответы, не понимая почему.
Почему это вызвало такой скандал
Исследовательское сообщество отреагировало резко. Скрытая манипуляция ответами — это не просто технический выбор, это вопрос доверия. Если модель может незаметно менять свои ответы в одном случае, как понять, что она не делает этого в других?
Показательно, что параллельно выяснилось: защита Fable в области биологии настроена настолько широко, что модель фактически не отвечает даже на базовые вопросы по теме. Anthropic признала это в комментарии The Verge — то есть проблема с балансом между безопасностью и полезностью шире, чем один инцидент с дистилляцией.
Сама компания объяснила логику выбора скрытых ограничений так: видимые защиты можно изучить и обойти, поэтому их нужно делать надёжными — а это требует времени. Невидимые можно настроить точечно и выпустить быстро, с минимальным количеством ложных срабатываний. «Мы выбрали невидимые защиты по этой причине — и это был неправильный компромисс», — написала Anthropic в X.
Что изменится теперь
Anthropic объявила, что переводит защиту от дистилляции на ту же схему, что используется для биологии и кибербезопасности: подозрительные запросы будут перенаправляться к Opus 4.8, а пользователь будет видеть уведомление каждый раз, когда это происходит. «You will see this every time it happens» — цитата из официального поста компании.
Это означает компромисс в другую сторону: теперь Fable будет чаще явно отказываться или переключаться на более слабую модель, что заметнее для пользователей. Зато честнее.
Что это говорит об индустрии в целом
Случай с Fable обнажает системное противоречие, с которым сталкиваются все крупные AI-лаборатории: как защитить коммерческие интересы и снизить риски, не превращая модель в чёрный ящик, который врёт пользователям о своём поведении.
Anthropic оказалась в ситуации, когда её собственный system card стал доказательством против неё — компания сама задокументировала скрытую манипуляцию, просто рассчитывала, что никто не обратит внимания. Обратили.
Для разработчиков и исследователей, которые строят продукты или оценивают модели поверх API, этот эпизод — напоминание: всегда читайте system card до интеграции, а не после. И проверяйте, не меняется ли поведение модели в зависимости от контекста запроса.