Исследователи спорят о доступе к новым доказательствам OpenAI: почему публикация ИИ-результатов стала проблемой
OpenAI заявила о новых результатах в математике, теоретической информатике и физике, но выбрала для них разные способы раскрытия. Учёные обсуждают не только возможную научную значимость открытий, но и право сообщества независимо проверять материалы, полученные с помощью ИИ.
Главное
В новой публикации OpenAI рассказала о трёх направлениях исследований, где внутренние модели компании получили доказательства сложных утверждений. Речь идёт о гармоническом анализе, вычислительной сложности и математических основаниях квантовой теории поля. Компания рассматривает машинные выводы как исходный материал для последующей научной работы, а не как замену экспертного объяснения и независимого рецензирования.
Для математического результата OpenAI решила сразу открыть текст вывода модели, чтобы заинтересованные специалисты могли самостоятельно разобраться в аргументации. Компания также сообщила о формализации доказательства с помощью Lean — системы, позволяющей проверять логическую корректность последовательности утверждений. Такая проверка важна, но сама по себе не отвечает на все вопросы о контексте, новизне и содержательном значении результата.
Подробности
Ситуация с вычислительной сложностью устроена несколько иначе. OpenAI заявила о получении аргумента против гипотезы экспоненциального времени и одновременно предложила внешним исследователям организовать совместное изучение вывода. Публичный доступ к исходным материалам в этом случае должен позволить другим специалистам оценивать доказательство независимо от группы, приглашённой компанией.
Для работы по квантовой теории поля выбран более закрытый первоначальный этап: разработчик собирается передать организацию исследования внешней группе и согласовать с ней раскрытие полного набора материалов. OpenAI объясняет различия желанием испытать несколько способов взаимодействия с научными сообществами. При этом наличие формально заявленного доказательства ещё не означает общепринятого научного результата.
Что это меняет
Опрошенные The Verge исследователи выразили обеспокоенность тем, что ранний доступ к части материалов зависит от решения самой технологической компании. Их аргумент заключается в необходимости широкого независимого анализа: только так другие учёные смогут обнаружить ошибки, предложить более ясные объяснения и объективно оценить приоритет открытия. Претензии касаются порядка раскрытия, а не обязательного отрицания всех опубликованных утверждений.
Спор подчёркивает новую задачу научной инфраструктуры. Если модели производят сложные доказательства быстрее, чем специалисты успевают их изучать, одних громких анонсов недостаточно. Потребуются открытые исходные тексты, воспроизводимые формальные проверки, понятная атрибуция и время для критического обсуждения. До завершения таких процедур сообщения об открытиях следует воспринимать как проверяемые заявления, а не окончательный научный консенсус.
Первоисточник
Материал подготовлен STRUCTURE по открытой публикации The Verge. Текст и иллюстрации первоисточника не воспроизводятся целиком.