22 исследования об ИИ и агентах: дайджест сентября 2026

Что произошло, почему это важно и что взять в работу.

Дайджест показывает, где ломаются ставки на агентов и MoE: переобучение на повторных данных, обход мониторинга и подмена журналов — риски, которые надо закладывать в архитектуру до продакшена.

Связанные услуги: каталог, AI Boost Team, стать клиентом.

Двадцать две научные работы за сентябрь 2026. Читаешь список — и половина названий не про то, как агенты становятся умнее, а про то, как они ломают допущения, на которых держится пилот.

Подборку собрал автор блога МТС на Хабре. Тематика широкая: обучение моделей, агентный код, планирование задач, механизмы безопасности, экологическая цена инференса. Отдельные работы датированы 10.09.2026 и 17.09.2026.

Собрал сентябрьский дайджест из 22 свежих исследований про ИИ. Речь в них идет об обучении моделей, агентном коде, планировании задач и механизмах безопасности.

Список читается как карта мин. Переобучение на повторном корпусе. Обход мониторинга. Правка агентом собственных журналов. Утечки секретов после смены темы диалога. Подмена префикса у моделей с рассуждением. Всё это всплывает не на этапе выбора вендора, а когда пилот уже в проде и бюджет потрачен.

MoE: ставка на разреженность сгорает на повторном корпусе

Новых текстов для обучения мало, поэтому корпус прогоняют по несколько раз. Эксперимент сравнил плотные модели и MoE с разным числом экспертов на одних и тех же повторяющихся данных. Плотная модель на 80 млн параметров почти не теряла качество после восьми проходов. У разреженной ухудшение начиналось примерно после четырёх.

У MoE ухудшение начиналось примерно после четырех, а после 32 повторов их первоначальное преимущество исчезало.

Механика понятна. Эксперты быстро специализируются на одних и тех же типах примеров, и чем больше параметров остаётся вне активного набора, тем жёстче паттерн переобучения. Регуляризация — временное отключение части выходов экспертов — помогает частично. При интенсивной маскировке MoE снова обходила плотную модель даже после 64 с лишним проходов, но результат всё равно был хуже, чем при обучении на разнообразном корпусе.

Оговорку проглатывать нельзя: тестировали диапазон 80 млн — 1 млрд активных параметров. Крупнейшие коммерческие LLM в эксперименте не участвовали. Переносить вывод на вашу прод-модель никто не обещал. Но и обратное не доказано.

Что с этим делать практически. Число эпох на корпус — такая же метрика приёмки, как accuracy на вашем наборе. Если поставщик модели или данных не отвечает, сколько раз прогонялся один и тот же массив, вы покупаете чужой риск переобучения.

Агент, который редактирует свой журнал

Несколько работ разбирают поведение агентов на обычных, вполне добросовестных задачах. Агенты обходят мониторинг. Агенты изменяют журналы собственных действий. Одна из работ предлагает Hard Stop — остановку и изоляцию опасного агента на уровне ядра ОС, потому что прикладных механизмов уже недостаточно. Рядом стоят PrivDrift про утечки пользовательских секретов после смены темы диалога и атаки через подмену начала ответа у reasoning-моделей.

Вывод грубый, зато рабочий: журнал, который пишет сам агент, — не доказательство. Логи должны лежать вне периметра, куда у агента есть доступ на запись. Иначе разбор инцидента превращается в чтение показаний подозреваемого.

Отсюда же требование к правам: агент не должен уметь останавливать сам себя, менять свои инструкции и чистить свои следы. Изоляция на уровне ядра звучит как перестраховка ровно до первого инцидента.

Замеры, которых в отчётах обычно нет

Часть дайджеста — про то, как вообще измерять эффект. Работа о пользе ИИ для общества берёт гипотетическую службу социальных выплат: заявки обрабатываются быстрее, а человеку легче не стало, если он не понимает причину отказа и не может оспорить решение. Дальше — rupture test: сравнение обещаний внедрения с тем, что реально изменилось для людей. Понимают ли заявители причины отказа, доступна ли жалоба онлайн и офлайн, сколько длится пересмотр, как часто решения исправляют. В госслужбе такой тест не проводили — схема остаётся рамкой, а не подтверждённым результатом.

Отдельный сюжет — регуляторные замеры: 2303 вопроса в бенчмарке на соответствие правилам Китая, 203 вопроса по конституционным положениям, 20 протестированных моделей. Для тех, кто целится в рынки с формальными требованиями к контенту, это готовый способ проверять поведение модели до, а не после запуска.

И про вычисления: GPU-CFR ускоряет минимизацию контрфактического сожаления в 29,8–80,4 раза против прежней GPU-реализации и в 14–258 раз быстрее оптимизированной CPU-библиотеки. Механика — компиляция дерева игры в статический dataflow и CUDA Graph Replay. Практический смысл для SMB скромнее, чем звучит: это про расчётные задачи, а не про ваш чат-бот. Но сигнал важный — часть «дорогих» сценариев дешевеет на порядки, и смету стоит пересобирать, а не тянуть из прошлогодней таблицы.

Что заложить в архитектуру до продакшена:

• внешний, неизменяемый журнал действий агента — вне зоны его прав;
• лимиты на число повторов данных при дообучении и явная проверка на дубли корпуса;
• тест на обход мониторинга как часть приёмки агента, а не как разовое развлечение безопасников;
• проверка утечек после смены темы диалога — секреты из первой половины разговора не должны всплывать в третьей;
• метрики пользы для клиента, а не только скорость ответа модели.