OpenAI обновила Model Spec: пять ценностей вместо буквального следования инструкциям
OpenAI представила новую редакцию Model Spec — публичного документа об ожидаемом поведении своих моделей. В центре обновления не список готовых ответов, а принципы, помогающие ИИ понимать намерения человека и принимать решения в ситуациях, которые заранее не описаны правилами.
Главное
Главное изменение — организация Model Spec вокруг пяти ценностей. Компания называет верность намерениям человека, минимизацию вреда, честность и прозрачность, поддержку самостоятельности пользователя и заботу о людях, которых затрагивает работа модели. Это не отдельные новые функции чат-бота, а ориентиры для того, как система должна трактовать запросы и выбирать действия, когда прямой инструкции недостаточно.
Особый акцент сделан на разнице между словами запроса и его целью. Например, при сравнении предложений о работе полезный помощник должен учитывать предпочтения пользователя, если они уже известны, но показывать, какие предположения он сделал, и позволять их исправить. Такой подход призван уменьшить риск, что модель формально выполнит команду, но упустит то, ради чего человек обратился за помощью.
Подробности
Обновлённая спецификация описывает распределение полномочий между создателем модели, разработчиком приложения и конечным пользователем. OpenAI задаёт базовые границы поведения, разработчик определяет логику своего продукта внутри этих границ, а пользователь управляет конкретной задачей. Пересмотренная иерархия инструкций должна помогать разбирать противоречивые указания, не превращая помощника в систему, которая самостоятельно заменяет решения человека своими.
В документ добавлены пояснения о внимательном отношении к контексту разговора, прошлым сведениям и обстоятельствам задачи. При этом важен не только результат, но и побочные эффекты действий: модель должна оценивать последствия, сообщать о существенных неопределённостях и учитывать возможность человеческого контроля. Для ИИ-агентов, способных работать с файлами и внешними сервисами, это особенно актуально: полезный ответ и безопасное действие — не одно и то же.
Что это меняет
Одновременно OpenAI сократила значительную часть подробных рекомендаций по стилю общения. Компания объясняет это тем, что манера ответа может адаптироваться к языку, ситуации и предпочтениям пользователя. Более жёсткие установки, например стремление к объективному изложению, остаются. Таким образом, обновление разделяет устойчивые принципы поведения и более гибкую форму их выражения.
Важная оговорка содержится в самом официальном объявлении: Model Spec описывает желаемое поведение, а существующие модели пока не во всём ему соответствуют. Компания также изучает способы обучения, при которых ИИ усваивает причины правил, а не только отдельные формулировки. Поэтому обновление стоит воспринимать как публичный ориентир для разработки и оценки, а не как доказательство, что любой ответ или действие уже гарантированно удовлетворяет этим требованиям.
Первоисточник
Материал подготовлен STRUCTURE по открытой публикации 3DNews. Текст и иллюстрации первоисточника не воспроизводятся целиком.