OpenAI учредила независимую комиссию, состоящую из математиков, чтобы направлять саму компанию и другие корпорации в области искусственного интеллекта (ИИ) относительно пересечения ИИ и математических исследований.
Эта инициатива была вызвана рядом споров, связанных с представлением математических результатов, сгенерированных моделями OpenAI, а также критикой экспертов по вопросам авторства, коммуникации и академических норм.
Структура и функционирование группы
Группа, получившая название Консультативная группа по математике и искусственному интеллекту (AGMAI), будет состоять из девяти членов и базироваться в Институте перспективных исследований (IAS) в Принстоне, США. Исследователи представляют различные известные учреждения, включая Стэнфорд, Гарвард, Оксфорд и Кембридж. Среди участников — математики, удостоенные Медали Филдса, и лауреаты стипендии МакАртура «гений».
OpenAI гарантирует, что эта комиссия будет действовать автономно и сможет выдавать рекомендации даже без официального запроса компании. Кроме того, члены имеют право публично комментировать влияние ИИ на математику и распространять свои предложения.
По данным компании, обязанности комиссии включают участие в анализе и коммуникации новых математических открытий. Их задачи охватывают оценку значимости достижений, руководство по их представлению и разработку руководящих принципов, касающихся профессиональных и академических стандартов в этой области.
Дополнительно, комиссия должна консультировать о способах, которыми инструменты ИИ могут помочь как в исследованиях, так и в процессе изучения математики. Важно отметить, что члены не будут получать вознаграждение от OpenAI и обладают свободой изменять состав группы по своему усмотрению.
OpenAI подчеркивает, что успех этой инициативы зависит от способности исследователей проявлять собственное суждение и оспаривать решения компании.
Перспективы и критика со стороны членов
Мартин Хейрер, один из членов группы, подробно описал происхождение инициативы в статье, опубликованной в блоге Proofs and Prompts, раскрыв то, что он назвал «наводнением дезинформации» о ее создании. Хейрер подтвердил, что OpenAI инициировала контакт, но отметил, что не все участники были обращены организацией. Он заявил, что структура является «поистине независимой» как от OpenAI, так и от других передовых компаний в области ИИ.
Хейрер пояснил, что, за исключением базовых обязательств по конфиденциальности, члены не подписывали контракты, ограничивающие их публичные заявления, и не получают финансового вознаграждения от OpenAI, полагаясь только на техническую поддержку Института перспективных исследований.
Основная цель комиссии, по словам Хейрера, — наилучшим образом представлять интересы математического сообщества, хотя он признал, что девять членов не составляют репрезентативную выборку всего поля.
Малое число членов вызвало сомнения в их способности собрать достаточные знания для оценки результатов в различных областях математики, поскольку передовые исследования требуют высокой специализации.
Внешние мнения о представительности
Франческо Фунье-Фачо, будущий профессор математики Университета Хериот-Уотт, выразил неоднозначное отношение к комиссии. Хотя он видит потенциал в более тесном взаимодействии между компаниями ИИ и математиками для улучшения ситуации, он поставил под сомнение, действительно ли члены отражают сообщество, затронутое технологическим прогрессом, описывая ситуацию как «богемную башню».
Мачадо также выразил скептицизм относительно способности членов представлять заботы математиков, не входящих в этот круг высокого престижа. Он отметил, что, хотя они и являются выдающимися математиками, он не уверен, являются ли они идеальными людьми для представления его интересов по политическим вопросам, поскольку реальность столь привилегированных исследователей может сильно отличаться от опыта большинства математиков.
Непосредственные проблемы и контекст споров
Одна из первостепенных проблем уже возникла: при объявлении о комиссии OpenAI раскрыла, что новая модель, предположительно способная решить проблему премии Миллениума Навье-Стокса, решила более ста давних открытых математических задач в различных дисциплинах. Компания также упомянула о продвижении в решении другой проблемы Премии Миллениума.
Как указано на сайте AGMAI, управление этим огромным объемом результатов является первоначальным приоритетом группы. Исследователи сталкиваются с конкретной задачей консультирования OpenAI о том, как координировать публикацию большого количества значимых математических открытий, полученных с помощью внутренней модели компании.
Это создание произошло после месяцев критики методологии представления открытий со стороны OpenAI. Споры включали обвинения в неправомерном присвоении работ исследователей, неспособности должным образом признавать человеческий вклад и ненадлежащем использовании исследований, проведенных лицами, использовавшими собственные модели.
Эти инциденты заставили математиков усомниться в том, обладает ли OpenAI или уважает ли она математические практики и сообщество. Хейрер утверждал, что было бы нелогично не вступить в диалог с компанией в данный момент, учитывая ее очевидные усилия по установлению связи с исследователями. Хотя группа еще не сформулировала рекомендаций, она уже определила центральную проблему, которую необходимо решить.
Он отметил, что в последние месяцы компании ИИ генерировали математические результаты большого значения, но то, как эти открытия были опубликованы и представлены, не соответствовало тому, что можно считать приемлемой математической практикой. В настоящее время группа собирает мнения посредством бесед с коллегами, публичной формы для предложений и дискуссий на Proofs and Prompts, который стал форумом для обсуждения этой темы.
Хейрер также предупредил о коммуникационной мощи компаний ИИ, считая наивным полагать, что лаборатории не попытаются представить заявления комиссии в выгодном свете для собственных стратегий по связям с общественностью.
Кевин Баззард, профессор математики Имперского колледжа Лондона, поставил под сомнение необходимость столь эксклюзивной группы для того, чтобы OpenAI поняла, чего добивается математическое сообщество. Он заявил, что «это не были доказательства сложных теорем, это было лучшее понимание нашей области», добавив, что «мне не совсем ясно, почему вам нужен комитет блестящих людей, чтобы подчеркнуть этот момент».