STRUCTUREцифровые системыОбсудить проект
НОВОСТЬ · AI

Fireworks AI предлагает бизнесу сочетать открытые модели с передовыми закрытыми LLM

На конференции Slush сооснователь Fireworks AI Чэньюй Чжао объяснил, почему компаниям не обязательно использовать самую дорогую языковую модель для каждой операции. Вместо единственного провайдера он предлагает подбирать модели по сложности задач, стоимости и контролю над данными.

Главное

Fireworks AI развивает платформу запуска и адаптации моделей с открытыми весами для корпоративных приложений. В разговоре с TechCrunch на конференции Slush в Хельсинки Чэньюй Чжао противопоставил универсальным закрытым системам модели, которые можно подстраивать под знания и процессы отдельной компании. Речь не о том, что открытая модель превосходит любую передовую систему, а о возможности выбирать достаточное качество для конкретного производственного сценария.

Один из принципов такого подхода — маршрутизация запросов. Сложное планирование или необычную задачу можно передать более мощной универсальной системе, а повторяющуюся операцию обработать специализированной моделью. Это меняет критерий выбора: важна не только цена отдельного токена, но и расходы на правильно завершённую задачу с учётом качества ответа, задержек, доработок и вычислительной нагрузки.

Подробности

Для заказчика открытые веса означают возможность испытать несколько архитектур и адаптировать поведение системы к собственным документам и процедурам. Однако сама доступность весов не гарантирует экономии. Понадобятся тестовые наборы из реальных задач, измерение ошибочных ответов, поддержка инфраструктуры и контроль доступа к информации. У небольшого продукта выбор готового облачного сервиса по-прежнему может оказаться рациональнее сложной собственной сборки.

В интервью затронули и доверие к поставщику. TechCrunch сообщает об инцидентах безопасности у Fireworks и о том, что Notion прекратила работу с платформой после раскрытия части данных. Чжао разделил обычный поток запросов, для которого компания заявляет отсутствие постоянного хранения, и пакетную обработку загруженных наборов данных. Для корпоративного клиента это важное различие: условия хранения необходимо проверять для каждой услуги, а не для бренда в целом.

Что это меняет

Практический вывод из дискуссии — не спешить переносить все запросы на одну технологию. Сначала следует выделить типичные операции, установить пороги качества и стоимости, затем сравнить закрытые и открытые модели на одинаковых данных. Позиция Fireworks представляет интерес как взгляд участника рынка, но её экономические оценки требуют независимых испытаний, а вопросы сохранности данных — отдельной проверки договорных и технических гарантий.

Первоисточник

Материал подготовлен STRUCTURE по открытой публикации TechCrunch. Текст и иллюстрации первоисточника не воспроизводятся целиком.

Читать исходную новость целиком ↗