OpenAI заявила, что пресекла кампанию по извлечению скрытых рассуждений своих моделей. Как сообщает публикация о расследовании, компания связывает одну из ключевых групп активности с людьми, имеющими отношение к Moonshot AI — китайскому разработчику моделей Kimi.
Под скрытыми рассуждениями обычно понимают внутренние промежуточные шаги, которые модель формирует при подготовке ответа. OpenAI рассматривает их как защищённую часть работы модели и отслеживает запросы, направленные на их раскрытие.
По данным компании, активность началась 1 июля и сначала была ограниченной. Резкий рост зафиксировали 24 и 25 июля: за эти два дня система обнаружила 16 тысяч запросов от более чем 4 тысяч пользователей, применявших характерный шаблон для извлечения рассуждений.
В ходе дальнейшей проверки OpenAI выявила похожие действия в более широком кластере, включавшем свыше 15 тысяч пользователей. К 28 июля компания сообщила о полной остановке кампании.
При этом OpenAI отдельно оговорила границы своей атрибуции. Компания не утверждает, что все участники выявленной активности действовали по поручению одного оператора или были сотрудниками Moonshot AI. Сведения о реакции Moonshot AI в представленной информации не приводятся.
