Nvidia инвестировала в Simplismart: как стартап снижает затраты на запуск ИИ-моделей
Nvidia стала участником инвестиционного раунда индийского разработчика Simplismart. Стартап создаёт программную платформу для развёртывания и обслуживания ИИ-моделей: её задача — сбалансировать скорость ответов, стоимость вычислений и нагрузку на GPU без обязательной закупки дополнительных ускорителей.
Главное
По сообщению TechCrunch от 27 октября, Simplismart привлекла 14 миллионов долларов в раунде Series B. Помимо Nvidia, в финансировании участвовали Accel, Shastra VC и Micromax, а ведущим инвестором выступила Dallas Venture Capital. С учётом привлечённых средств компанию оценили приблизительно в 100 миллионов долларов. Речь идёт об инвестиции в программную инфраструктуру, а не о выпуске нового графического процессора.
В основе продукта находится слой управления инференсом — выполнением уже обученной модели для ответов на реальные запросы. Он подбирает способы развёртывания с учётом допустимой задержки, потока обращений и использования вычислительных ресурсов. Клиенты могут запускать систему в облаке или на собственных серверах, а также автоматически изменять выделенные мощности и наблюдать за работой моделей.
Подробности
Практическую пользу Simplismart демонстрирует на примере сервиса генерации видео InVideo: компания утверждает, что помогла ему сократить расходы на GPU при обслуживании моделей на 56 процентов. Это оценка самого поставщика технологии, а не независимый отраслевой тест, поэтому переносить такой эффект на любую архитектуру нельзя. Среди названных пользователей также фигурируют HeyGen, Higgsfield и Ema.
Отдельное направление — инструменты для облачных провайдеров. В материале TechCrunch говорится, что индийская компания Yotta использует платформу Simplismart при создании сервиса бессерверного инференса внутри Shakti Studio. Это показывает другой сценарий применения: разработчик платформы помогает не только конечному заказчику, но и инфраструктурному оператору предлагать вычисления сторонним командам.
Что это меняет
Глава Simplismart Амританшу Джайн рассказал TechCrunch, что годовой темп выручки по текущему использованию вырос в 14 раз за шесть месяцев. Более половины дохода, по его словам, приходится на США, хотя индийских клиентов больше. Эти сведения следует считать заявлением компании: точные финансовые показатели, условия контрактов и данные независимого аудита в интервью не опубликованы.
Для Nvidia участие в проекте не обязательно противоречит интересу к продажам ускорителей. Эффективный инференс способен сделать новые ИИ-сервисы доступнее и расширить круг задач для GPU. По словам главы Simplismart, команды компаний взаимодействуют по техническим интеграциям, в том числе вокруг программной среды Nvidia Dynamo. Стартап при этом соперничает с собственными решениями Nvidia и крупными облачными платформами; итоговая экономия зависит от характера нагрузки.
Первоисточник
Материал подготовлен STRUCTURE по открытой публикации TechCrunch. Текст и иллюстрации первоисточника не воспроизводятся целиком.