Компания Anthropic заявила, что ведущие китайские лаборатории искусственного интеллекта бомбардировали модель Claude миллионами атак дистилляции в течение лета. В опубликованном в четверг отчете ИИ-лаборатории отмечается, что компании Alibaba, Moonshot, DeepSeek, Zhipu и Xiaomi в период с мая по июль провели в общей сложности около 190 миллионов атак дистилляции против Claude.

Под атаками дистилляции понимается использование результатов работы передовых фронтир-моделей ИИ для обучения и улучшения возможностей менее продвинутых моделей. Anthropic заявила, что DeepSeek и Moonshot AI передавали запросы своих пользователей в модель Claude, а не в собственные системы. Компания зафиксировала 23 миллиона подобных перенаправлений со стороны Moonshot в период с мая по июль и 12,1 миллиона со стороны DeepSeek за 14 дней июля.

Anthropic также сообщила, что некоторые из этих запросов, изначально предназначавшихся для китайских ИИ-моделей, но перенаправленных в Claude, раскрыли конфиденциальные данные правительств и военных ведомств Китая и России. В число таких данных вошли кадры видеонаблюдения с камер CCTV, загруженные пользователем платформы Kimi, связанным с НОАК, а также информация из российской правительственной базы данных, отправленная российским военным подрядчиком.

Согласно отчету, компания Alibaba провела крупнейшую атаку из всех, что когда-либо фиксировала Anthropic. За период с мая по июль было зарегистрировано более 151 миллиона обменных операций, выполненных с помощью 3500 мошеннических аккаунтов. По данным Anthropic, эти учетные записи заставляли Claude выводить процессы логического рассуждения, которые затем использовались для обучения моделей Qwen.

Anthropic обвинила компанию Z.ai, недавно попавшую в заголовки СМИ благодаря своей таинственной модели Ox Alpha, в проведении атаки, аналогичной по своему характеру действиям Alibaba. Что касается Xiaomi, то, по заявлению Anthropic, компания записывала чаты пользователей со своими собственными моделями MiMo и передавала эти разговоры в Claude для создания обучающих данных.

Представители Alibaba, Moonshot, DeepSeek, Zhipu и Xiaomi не ответили на запросы издания Business Insider с просьбой прокомментировать обвинения Anthropic. Представители компании Anthropic также не ответили на запрос о комментарии.

Anthropic заявила, что для предотвращения будущих атак дистилляции она добавила новые средства защиты для блокирования подозрительной активности и сделала так, чтобы Claude генерировала менее подробные стенограммы рассуждений, которые менее полезны для обучения новых моделей. Компания также потребует от пользователей подтверждения личности, если они заходят из Китая, России или Ирана, где сервис Claude недоступен.