STRUCTUREцифровые системыОбсудить проект
НОВОСТЬ · Engineering

QMD помог разработчику сократить расходы на поиск кода ИИ-агентом

Разработчик испытал локальный поисковый инструмент QMD как замену широкому перебору файлов перед работой кодинг-агента. В одном эксперименте затраты на модель заметно снизились, однако второй тест показал, почему такую экономию нельзя обещать для любого проекта.

Иллюстрация из открытой ленты Habr

Главное

Поиск нужного участка в большом репозитории часто начинается с перечисления каталогов и многократных запросов к содержимому файлов. Для ИИ-агента это означает дополнительные команды, чтение результатов и расход контекстного окна ещё до изменения кода. Автор опубликованного на Habr эксперимента предложил другой порядок: сначала сузить круг файлов с помощью индекса, затем открывать только наиболее подходящие места и проверять найденное стандартными средствами разработки.

Для проверки он использовал QMD — инструмент командной строки, который индексирует документы и исходники и умеет сочетать поиск по словам, смысловое сопоставление и повторное ранжирование результатов. В подготовке задействуются локальные модели для векторных представлений и оценки релевантности. Ключевой смысл подхода не в том, чтобы отказаться от обычного поиска, а в том, чтобы не запускать его слишком широко каждый раз, когда заранее неизвестно расположение нужной реализации.

Подробности

В описанном сценарии агенту рекомендовано сначала обращаться к прямому пути, если он известен. Для точной строки или имени символа остаются уместны привычные средства поиска и языкового сервера. Смысловой запрос используется там, где задача задана поведением системы: например, нужно найти обработку настройки, но неизвестно, в каком модуле она находится. После получения короткого перечня файлов агент читает исходники и переходит к реализации, а не продолжает бесконечные поисковые циклы.

Автор сравнил работу на двух задачах одного проекта. В первом случае расчёт стоимости запросов показал снижение расходов примерно на сорок процентов, но во втором результат оказался гораздо скромнее. Разница объясняется тем, что на итоговую цену влияют не только обычные входные токены, но и кешируемый контекст, ответы модели и рассуждения. Поэтому публикация описывает частный эксперимент, а не гарантированную производительность QMD в любой команде.

Что это меняет

Практический вывод для разработчиков — проверить состав индекса, исключить сгенерированные файлы и ненужные ресурсы и измерять стоимость на собственных повторяемых задачах. Индекс требуется обновлять по мере изменений кодовой базы. Такая схема может сделать работу с крупным проектом более адресной, но качество найденного фрагмента и корректность итогового изменения по-прежнему должны проверяться человеком или тестами.

Первоисточник

Материал подготовлен STRUCTURE по открытой публикации Habr. Текст и иллюстрации первоисточника не воспроизводятся целиком.

Читать исходную новость целиком ↗