Сэм Альтман считает, что дефицитную память выгоднее использовать в дата-центрах
В разговоре на подкасте Cheeky Pint глава OpenAI поставил под сомнение идею, что запуск открытых моделей на домашних компьютерах сам по себе снимет нагрузку с инфраструктуры искусственного интеллекта. Его аргумент связан с тем, насколько часто используется установленная в ПК память и как её можно распределять в облаке.

Главное
Альтман рассуждал о нехватке DRAM и о причинах, по которым производители памяти не спешат резко расширять мощности. По его словам, отрасль помнит периоды перепроизводства и финансовых потерь, поэтому высокий спрос не обязательно немедленно превращается в строительство новых фабрик и быстрый рост предложения.
Локальный запуск моделей он рассматривает не как универсальный ответ на дефицит. Память, установленная в персональных компьютерах, может простаивать значительную часть времени, тогда как крупная вычислительная площадка способна распределять общий пул ресурсов между разными задачами. В интервью Альтман оценил активное использование DRAM в домашнем ПК примерно в 5% времени; это его иллюстрация, а не независимая статистика по всем устройствам.
Подробности
Такой взгляд отражает интерес поставщика облачных ИИ-сервисов: OpenAI заинтересована в доступе к большим вычислительным пулам. У локальных моделей, однако, остаются другие преимущества — контроль над данными, работа без постоянного соединения, предсказуемая задержка и возможность не отправлять запросы внешнему оператору. Эти критерии не исчезают из-за нехватки памяти.
Практический выбор поэтому не сводится к противопоставлению домашнего компьютера и дата-центра. Для одних задач важно держать модель рядом с пользователем, для других — объединять дорогие ускорители и память в общей инфраструктуре. Экономика зависит от размера модели, частоты обращений, стоимости сети, требований к приватности и загрузки оборудования.
Что это меняет
В беседе затрагивались и другие ограничения вычислительного рынка: ускорители, энергия и компоненты для строительства центров обработки данных. Альтман связал долгосрочное удешевление ИИ с расширением предложения и повышением эффективности оборудования, но не представил конкретного плана, который быстро устранит нынешние ограничения.
Первоисточник
Материал подготовлен STRUCTURE по открытой публикации The Verge. Текст и иллюстрации первоисточника не воспроизводятся целиком.