Harness engineering 2026: агентная разработка ломается не в модели
PrimeCoder · 2026 · формат: tech
Разбор новинки простыми словами: что это, кому нужно и брать ли.
Командам пора инвестировать не в новые модели, а в исполняемую обвязку — protected tests, policy gates, аудит и human gates — иначе рост диффов от агента не превращается в поставленную ценность.
Связанные услуги: каталог, AI Boost Team, стать клиентом.
Спор про coding-агентов в 2026-м переехал. Ещё недавно обсуждали, какая модель лучше пишет код. Сейчас обсуждают другое: команда с агентом выдаёт в разы больше диффов, а поставленная ценность стоит на месте.
Ответ, который всё чаще звучит в инженерных разборах, лежит вне модели. Это harness engineering — проектирование исполняемой среды вокруг агента. Какие команды он может запускать, какие файлы ему закрыты, какие тесты он не вправе трогать, что попадает в лог, в какой момент зовут человека.
Модель — генератор. Harness — то, что не даёт генератору дотянуться до прода в четыре утра.
Главный тезис: узкое место сместилось с генерации на доверие, проверку и сопровождение агентных изменений.
Что именно строят
Harness живёт в исполнении, не в тексте. Это ограничения, которые нельзя обойти уговорами. На практике — шесть элементов:
- allowlist инструментов: часть команд агент запускает, часть только предлагает;
- protected tests: тесты-oracle закрыты от записи, агент добавляет свои, но не переписывает чужие;
- policy gates: правила встроены в пайплайн, а не в Markdown;
- audit log: tool calls, записи файлов, shell-команды, внешние доступы;
- human gate: обязательное подтверждение на изменения с высоким blast radius;
- sandbox: воспроизводимый прогон в чистом контейнере.
Самый частый антипаттерн — «AGENTS.md и надежда». Команда пишет большой файл правил, считает, что обвязка готова, а правила остаются пожеланием в репозитории.
Если правило можно нарушить, но нельзя обнаружить нарушение — это не guardrail, а пожелание.
Зелёный CI перестал быть доказательством
Агент правит тесты под неверное поведение. Пайплайн зелёный. Изменение смержено, но не понято. Это verification debt, и накапливается он не в момент генерации, а в момент merge.
Опрос Qodo на 500 разработчиках и 300 engineering-лидерах: review и валидацию AI-кода назвали главной проблемой delivery pipeline по 26% в обеих группах. Sonar: 96% разработчиков не доверяют функциональной корректности AI-кода полностью, при этом 58% пускают его в business-critical сервисы. Temporal: 85,5% хотя бы частично доверяют выводам агентов, полностью — 24,7%; безопасность как барьер автономии назвали 39,5%.
Телеметрия объясняет цену. Faros AI при высокой AI-адопции: churn +861%, incidents-to-PR +242,7%, дефекты на разработчика с 9% до 54%, median review time +441,5%, доля PR без ревью +31,3%. Harvard working paper на 718 компаниях: строк кода на работника +30%, число закрытых issues и epics статистически не выросло, время PR→merge +49%. Bain: задач выполнено на 21% больше, времени на ревью AI-вывода на 91% больше.
Генерация масштабируется железом. Ревью — людьми и вниманием. Насос стал мощнее, труба та же.
Факт → что это значит
| Факт | Что это значит для вас |
|---|---|
| 26% называют review и валидацию AI-кода главной проблемой пайплайна | Узкое место переехало из генерации в проверку. Ускорять генерацию дальше — тупить нож о камень |
| 96% не доверяют корректности AI-кода, 58% используют его в critical-сервисах | Доверие и риск разъехались. Нужен независимый от агента verifier, а не вера в модель |
| churn +861%, median review time +441,5%, PR без ревью +31,3% | Рост диффов оплачивается сопровождением. Счёт приходит позже, чем радость от скорости |
| LOC на работника +30%, issues без роста, PR→merge +49% | Объём кода не равен поставленной ценности. Метрика «сколько написали» врёт |
| Около 30% публичных задач SWE-Bench Pro признаны сломанными, judge расходится с verifier на 32,4% | Внешний бенчмарк не заменяет ваш собственный набор проверок и baseline |
Кому нужно и с чего начать
Первым делом — командам от пяти-семи человек, где агент уже пишет больше кода, чем успевают читать. Соло-разработчику с сильными тестами harness нужен постольку-поскольку. В legacy с неявными инвариантами — жёстче, чем кажется.
- Снимите baseline: review time, revert rate, incident rate, долю PR на доработку, churn. Без этого разговор про пользу агента — гадание.
- Закройте тесты-oracle. Protected tests и mutation testing дешевле одного инцидента из-за «поправленных» ассертов.
- Перенесите два-три правила из Markdown в policy gate. Начните с запрета на правку protected tests и требования machine-readable evidence.
- Включите audit log и воспроизводимость: pinned commit, контейнер, версия harness, вывод verifier.
Где подвох
AGENTS.md стал де-факто межинструментным стандартом: context files доминируют в репозиториях, а Skills, Subagents, Hooks и MCP применяются редко — такая картина вышла из анализа 2 853 репозиториев на GitHub. Ценность файлов контекста при этом не автоматическая. LLM-сгенерированные context files в среднем снижали success rate и поднимали стоимость инференса более чем на 20%. Больше правил не значит лучше.
Второй подвох — доверие к бенчмаркам. В июле 2026 OpenAI отозвало рекомендацию SWE-Bench Pro: около 30% публичных задач признаны сломанными. Независимый judge расходится с verifier на 32,4% для SWE-Bench Pro и на 1,4% для DeepSWE. Фраза «агент закрывает N% задач» без указания verifier не значит ничего.
Брать или подождать
Брать. Не новую модель — обвязку. Это единственная инвестиция в агентную разработку, которая дешевеет от масштаба: настроенные один раз гейты работают на все последующие диффы. Подождать стоит только в одном случае — если у вас нет ни тестов, ни метрик. Тогда сначала baseline, потом harness.
FAQ
Это покупка или стройка?
Стройка. Готового «harness в коробке» нет, есть куски: CI, sandbox, observability. Собирать под свой стек придётся самим.
Когда видно эффект?
Первые сдвиги читаются по revert rate и доле PR на доработку — обычно в пределах одного-двух спринтов после закрытия protected tests. Точных сроков без вашего baseline не назову.
Не задушит ли это скорость?
Задушит, если гейты ставить на всё подряд. Начинайте с двух-трёх правил там, где цена ошибки максимальна.
Если у вас уже есть цифры по review time и revert rate за последний квартал — сравните их с тем, как рос объём диффов от агента. Разрыв между этими двумя кривыми и есть ваш harness-бэклог. Начните с protected tests: это самая дешёвая часть обвязки и самая дорогая в отсутствие.