Неожиданная блокировка ИИ-моделей Fable 5 и Mythos 5 продолжает вызывать споры. После того как власти США недавно запретили доступ к этим системам иностранным гражданам, начали появляться новые подробности причин такого решения. В центре внимания оказались вопросы безопасности и опасения по поводу возможной утечки технологий.
По данным ряда источников, американские ведомства опасаются, что связанные с Китаем структуры могут получить доступ к технологиям Anthropic. Спецслужбы считают, что злоумышленники способны проанализировать современные ИИ-модели и затем воспроизвести их. В отрасли такой подход называют дистилляцией (distillation): более мощная модель используется для обучения другой системы со схожими возможностями.
Anthropic, однако, отвергает подобные обвинения. По словам представителей компании, тема возможного китайского проникновения не поднималась во время прямых переговоров с американскими властями. Кроме того, Anthropic уже давно блокирует доступ к своим сервисам из Китая. Поэтому компания не считает, что именно такой инцидент стал причиной нынешних ограничений.
Официально власти объясняют свои действия обнаруженной в Fable 5 уязвимостью. Сообщается, что ее выявила Amazon. С помощью так называемого джейлбрейка злоумышленники могли обходить встроенные механизмы защиты и получать доступ к дополнительным возможностям модели, включая расширенные функции анализа программного кода.
Ситуацию дополнительно обострили сообщения о реакции руководства Anthropic на проблему. Согласно публикациям в СМИ, генеральный директор компании Дарио Амодеи первоначально отказался немедленно отключить модель или оперативно устранить уязвимость. После этого в ситуацию вмешались государственные органы и ввели масштабные ограничения.
Пока неизвестно, когда Fable 5 и Mythos 5 вновь станут доступны пользователям. Однако источники в правительственных структурах утверждают, что ограничения могут снять достаточно быстро после устранения обнаруженных уязвимостей и выполнения всех требований по безопасности. До этого момента доступ к моделям останется закрытым.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).