LLM 0.37: дефолтом стал gpt-6-luna: вдвое дешевле прежнего

Что произошло, почему это важно и что взять в работу.

Смена модели по умолчанию на вдвое более дешёвую плюс упрощённое подключение OpenAI-совместимых эндпоинтов снижает стоимость LLM-пайплайнов без правок кода, повод пересчитать бюджет на автоматизацию.

Связанные услуги: AI Boost Team, каталог, стать клиентом.

Вы обновляете LLM до версии 0.37 и в первые же дни видите, что счета за инференс просели. Не потому что вы что-то переделали, а потому что дефолт сменился. Релиз Simon Willison от 2 ноября 2026 несет два изменения, которые бьют по деньгам и по времени. Дефолтная модель теперь gpt-6-luna, она стоит вдвое дешевле прежнего дефолта gpt-5.6-luna. И появилась команда llm openai endpoint add, которая превращает подключение стороннего OpenAI-совместимого эндпоинта из возни в один шаг. Если пайплайн на этом инструменте крутится у вас в компании, бюджет придется пересчитывать сейчас, а не в следующем квартале.

Что произошло

Релиз собрал около двух месяцев накопленных фич и фиксов. Помимо смены дефолта и новой команды для эндпоинтов, добавились модели gpt-6.1-sol и gpt-6.1-terra. Поддержка эмбеддингов научилась различать content-type у бинарного контента, что нужно для мультимодальных моделей вроде Gemini Embedding 2, умеющей работать с текстом, аудио, изображениями и видео. В фиксах участвовали 12 авторов, почти все правки сделаны с AI-ассистированием. Сам Виллисон говорит, что Opus 5.5 и GPT-6 Astra помогают ему в триаже PR, и нагрузка от ревью оказалась меньше ожидаемой.

Почему смена дефолта важнее, чем кажется

Дефолт это не просто настройка. Это то, что у вас запустится, если вы забыли указать модель явно, или то, что подставит новичок в команде, или то, что останется после рефакторинга. Willison сформулировал это прямо.

I switched the default model (if you have not set your own default) to gpt-6-luna - half the price of the previous default, gpt-5.6-luna.

Оговорка в скобках важна. Если вы уже выставили свой дефолт, ничего не изменится само по себе. Но если вы никогда не трогали эту настройку, а просто обновили версию, расходы на инференс могут упасть вдвое без единой правки в коде. Это редкий случай, когда апдейт инструмента сразу меняет unit-экономику.

Вторая половина истории, про эндпоинты

Команда llm openai endpoint add звучит скучно, но она снимает конкретный болевой пункт. Раньше подключение стороннего провайдера, который говорит на OpenAI-протоколе, требовало ручной возни с переменными, конфигами и проверкой, что всё завелось. Теперь это одна команда. Для бизнеса это значит, что переход на дешевого или локального провайдера перестает быть задачей на несколько дней и превращается в операцию на десять минут. А когда переключение стоит дешево, вы начинаете переключаться всерьез, а не только в презентации про оптимизацию.

Что делать руками, шаг за шагом

• Обновите LLM до версии 0.37 и проверьте, стоит ли у вас кастомный дефолт.
• Если дефолт не задан, посмотрите, какая модель подставится, и сравните её цену с gpt-6-luna.
• Прогоните свой основной пайплайн на новой дефолтной модели и замерьте качество на тех же данных, что и раньше.
• Подключите через llm openai endpoint add хотя бы одного альтернативного провайдера, чтобы иметь запасной вариант.
• Пересчитайте месячный бюджет на LLM с учетом новой цены и зафиксируйте baseline до и после.

Цена ошибки

Главный риск не в том, что модель окажется дороже, а в том, что вы не заметите разницу в качестве. Вдвое дешевле не значит вдвое хуже, но и не значит одинаково хорошо на вашей задаче. Если ваш пайплайн критичен для клиентов, а вы обновились и не проверили выходные данные, вы можете месяцами экономить на токенах и терять на репутации. Не спешите переводить прод на новый дефолт только из-за цены. Сначала замер, потом переключение.

Что эта цифра не доказывает

Вдвое дешевле это про цену, а не про пригодность. Никакой бенчмарк из релиза не скажет, как gpt-6-luna поведет себя на ваших документах, вашем языке и ваших краевых случаях. Пока нет ваших замеров, экономия остается гипотезой, а не фактом. И еще одна деталь, которая легко ускользает. 12 авторов фиксов и AI-триаж это про удобство разработки инструмента, а не про гарантию стабильности вашего продакшена. Вердикт простой. Обновляться стоит, но с замером качества в руках, а не с радостью от цифры в чейнджлоге.

Артём Волков, репортёр.