Организация, занимающаяся разработкой математических эталонов для ИИ, до недавнего времени не сообщала о том, что получила финансирование от OpenAI, что вызвало обвинения в неподобающем поведении со стороны некоторых представителей сообщества ИИ.
Epoch AI, некоммерческая организация, в основном финансируемая Open Philanthropy, исследовательским и грантодающим фондом, 20 декабря сообщила, что OpenAI поддержал создание FrontierMath. FrontierMath, тест с задачами экспертного уровня, предназначенный для измерения математических навыков ИИ, был одним из эталонов, которые OpenAI использовала для демонстрации своего грядущего флагманского ИИ o3.
В сообщении на форуме LessWrong подрядчик Epoch AI под ником «Meemi» говорит, что многие участники теста FrontierMath не были проинформированы об участии OpenAI, пока это не стало достоянием общественности.
«Общение по этому поводу было непрозрачным», - написал Meemi. «По моему мнению, Epoch AI должна была раскрыть информацию о финансировании OpenAI, а подрядчики должны иметь прозрачную информацию о том, что их работа может быть использована для расширения возможностей, когда они решают, работать ли над бенчмарком».
В социальных сетях некоторые пользователи выразили опасения, что секретность может подорвать репутацию FrontierMath как объективного эталона. В дополнение к поддержке FrontierMath, OpenAI имела информацию о многих проблемах и решениях в бенчмарке - факт, который Epoch AI не разглашала до 20 декабря, когда был анонсирован o3.
В своем посте на сайте X аспирант математического факультета Стэнфорда Карина Хонг также утверждает, что OpenAI имеет привилегированный доступ к FrontierMath благодаря договоренности с Epoch AI, и что это не устраивает некоторых участников.
«Шесть математиков, которые внесли значительный вклад в создание бенчмарка FrontierMath, подтвердили мне что они не знают о том, что OpenAI будет иметь эксклюзивный доступ к этому бенчмарку (а другие - нет)», - сказала Хонг. «Большинство из них заявили, что не уверены в том, что внесли бы свой вклад, если бы знали об этом».
В ответ на пост Мееми Тамай Бесироглу, помощник директора Epoch AI и один из основателей организации, утверждает, что целостность FrontierMath не была нарушена, но признает, что Epoch AI «совершила ошибку», не став более прозрачной.
Оригинал
Уникальность
