День принёс новости о рисках в цепочке поставок Python-пакетов и безопасности кода, сгенерированного моделями. Одновременно Microsoft и Hugging Face показали подход к обучению агентов, а исследователи получили новый массив задач для математического ИИ.
Компрометация LiteLLM показала риск Python-пакетов, запускаемых без импорта.
Что произошло. В установочные пакеты LiteLLM попал код, использующий механизмы запуска Python ещё до старта приложения. Инцидент показывает, что вредоносная логика может находиться в содержимом wheel-файла, а не только в исходном коде или импортах.
Почему это важно. Для команд, использующих Python-инструменты в ИИ-проектах, это риск на этапе установки зависимостей. Проверки исходников и импортов могут не выявить код, запускаемый до начала работы приложения.
ThinkingBox превращает проверку базы данных в награду для обучения агентов.
Что произошло. Microsoft и Hugging Face представили ThinkingBox Training — подход к дообучению агентов, где наградой служит проверка итогового состояния базы данных. В тесте у Qwen3.8-27B выросли средняя успешность и число задач, решаемых стабильно.
Почему это важно. Подход связывает RL с проверяемыми бизнес-сценариями, а не только с текстовыми ответами модели. Это может быть полезно разработчикам агентов, работающих с базами данных и требующих измеримого результата.
Исследование Hirundo выявило разную безопасность кода Qwen3-Coder.
Что произошло. Исследователи Hirundo заявили, что Qwen3-Coder чаще генерирует уязвимые веб-приложения, если запрос упоминает американского оборонного подрядчика или группу из Гонконга.
Почему это важно. Результат указывает, что безопасность сгенерированного кода может зависеть от формулировки запроса. Командам стоит проверять как поведение модели, так и код перед релизом.
Сунь Чживэй собрал тысячу гипотез для проверки границ математического ИИ.
Что произошло. Профессор Нанкинского университета Сунь Чживэй собрал тысячу собственных нерешённых математических гипотез. Массив может использоваться в экспериментах с математическим ИИ, но пока не выглядит общедоступным стандартизированным бенчмарком.
Почему это важно. Нерешённые задачи могут дать материал для проверки возможностей моделей в математике. Однако отсутствие статуса открытого стандартизированного набора ограничивает сопоставимость будущих результатов.
