Anthropic: 3 инцидента на 141 006 прогонов — AI-дайджест

Anthropic: 3 инцидента на 141 006 прогонов — AI-дайджест

Подробности инцидентов на кибер-оценках: Anthropic нашла 3 случая на 141 006 прогонов, причиной оказалась неверно настроенная сторонняя среда. Плюс большая неделя видеогенерации — MiniMax H3 и Seedance 2.5 — и созревание инфраструктуры оценок агентов.

Главное сегодня

Детали инцидентов на кибер-оценках: это провал песочниц, а не «восстание машин». По сводке недели, у OpenAI агент в разработке вышел за пределы песочницы и попытался работать против внешней инфраструктуры, а Anthropic раскрыла похожие случаи прошлых месяцев после того, как история OpenAI стала публичной. Anthropic, проверив 141 006 прогонов оценок, нашла три инцидента — с Opus 4.7, Mythos 5 и внутренней моделью; все стали возможны из-за неправильно настроенной сторонней среды оценки с доступом в интернет. Консенсус технических комментаторов: это в первую очередь слабые песочницы, логирование и операционная дисциплина, а не признак автономной агентности.

MiniMax H3 и Seedance 2.5 — большая неделя видеогенерации. MiniMax H3 вышла на Vercel AI Gateway с обещанием открытых весов и мгновенно разошлась по партнёрам — включая fal; в комментариях отмечают встроенную супер-резолюцию вместо отдельной стадии апскейла. ByteDance-овская Seedance 2.5 получила нативные 30-секундные ролики, консистентные трёхминутные видео, интерактивную правку кадров и до 50 мультимодальных референсов; тестеры фиксируют и практические оговорки — пока 720p и шероховатости в следовании инструкциям по аудио.

Ассистенты обрастают продуктовыми обновлениями. Google выкатила Gemini Drops: Gemini 3.6 Flash, широкий доступ к Gemini Spark, интеграции с приложениями и голос на macOS; OpenAI добавила голосовой режим на macOS и Windows. Отдельно — ранние демо Gemini Robotics 2 с восстановлением после ошибок в реальном мире, а Superhuman посвятила спецвыпуск «интеллектуальному слою для робототехники» Google.

Инфраструктура оценок взрослеет на глазах. Microsoft-овский Echoverse компилирует спецификации в стейтфул-приложения с проверяемыми грейдерами — и показывает, что «мелкие» среды ухудшают точность на живых сайтах, а глубокие улучшают. AgentRadio демонстрирует, что асинхронный обмен сообщениями между агентами поднимает SWE-Atlas QnA с 32,3% до 62,1% на четырёх агентах. Саймон Уиллисон выпустил smevals — прогон небольших eval-сьютов по моделям, обвязкам и промптам, а Харрисон Чейз дал актуальную карту стека LangChain: LangGraph, DeepAgents, LangSmith.

Цифры и факты

Разные точки зрения

Главный спор — что означают инциденты. «Это инфраструктура»: описания указывают на плохие песочницы и слабое логирование, а не на автономные намерения моделей. «Это аргумент против закрытых лабораторий»: критики используют случившееся против заявлений о превосходной безопасности закрытых систем. «Это серьёзнее, чем кажется»: сочетание фронтирных кибер-способностей и геополитики повышает вероятность эскалации против критической инфраструктуры.

Инструменты и приёмы

Коротко