Массовое раскрытие математических результатов OpenAI вызывает дебаты и скептицизм в научном сообществе
Подробнее
Super Abril
super.abril.com.br

Массовое раскрытие математических результатов OpenAI вызывает дебаты и скептицизм в научном сообществе

OpenAI опубликовала обширный набор из сотен математических результатов в начале октября, заявив, что этот материал может «расширить границы человеческого знания». Эти 722 статьи, в основном сгенерированные еще не анонсированной моделью искусственного интеллекта (ИИ), затрагивают 372 нерешенных вопроса в таких областях, как алгебра, геометрия и теоретическая информатика.

Хотя некоторые из этих статей впоследствии были удалены или изменены, масштаб и способ публикации — описанные как «запуск», «дамп», «массовая бомбардировка» или «математический липсис» — вызвали большой резонанс в математическом сообществе.

Среди рассмотренных тем есть упоминания о заметном прогрессе в старых и очень важных проблемах, таких как гипотеза Римана и гипотеза Бирча и Свиннертона-Дайера, обе связанные с наградами в размере 1 миллиона долларов, часть Семи проблем тысячелетия.

OpenAI оправдывает выпуск этого большого массива результатов желанием «способствовать большему прогрессу в математике». Однако способ, которым это было сделано, поднимает вопросы об эффективности этой цели. Один старший коллега сообщил, что найденная статья была настолько запутанной, что ее бы отклонил редактор специализированного журнала.

Сама большая языковая модель OpenAI, ChatGPT (в частности GPT-5.6 Sol), проявила скептицизм при консультации, классифицировав как минимум один из выдающихся результатов как «серьезную галлюцинацию... [которую] никогда не следует цитировать, подавать или публиковать в качестве доказательства без полной проверки экспертами». Это указывает на то, что, несмотря на инновационный потенциал некоторых открытий, написание по крайней мере некоторых статей не является понятным даже для экспертов.

Существует вероятность того, что OpenAI пытается отвлечь внимание от предыдущей спорной публикации в сентябре, где она представила решение для случая задачи Навье-Стокса, другой Проблемы тысячелетия с премией в 1 000 000 долларов. Математики Тристан Бакмастер и Левент Альпёге обвинили OpenAI в использовании их данных и идей, инвестировав около 15 миллионов долларов в вычислительную мощность для достижения решения, хотя OpenAI отрицает эти обвинения.

Другая потенциальная причина для OpenAI — растущий интерес к общему искусственному интеллекту (AGI), гипотетическому типу ИИ, способному превзойти людей почти во всех когнитивных функциях. Поскольку чистая и абстрактная математика зависит от чрезвычайно сложных аргументов для подтверждения своих утверждений, способность моделей OpenAI выполнять расчеты исследовательского уровня может укрепить веру в то, что эти модели приближаются к «Святому Граалю» AGI.

Это восприятие может принести пользу OpenAI перед запланированным IPO, конкурируя с Anthropic. По сообщениям, компания нацеливается на рыночную капитализацию до 1,4 триллиона долларов, что соответствует примерно 4% ВВП Соединенных Штатов.

В отличие от математики, где истина устанавливается консенсусом экспертов после тщательной проверки, математические утверждения основаны на объективной истине и однозначно являются либо истинными, либо ложными. Традиционно новые работы проходят длительный процесс рецензирования.

OpenAI уже удалила три статьи из-за простых ошибок и исправила другие из-за неточностей, которые аннулировали результаты, что указывает на недостатки в предварительном рецензировании. Параллельно существует движение «формализации» результатов с использованием таких программ, как Lean, которые строят математику из аксиом, позволяя логически проверить каждый шаг.

Системы ИИ применяются для «автоматической формализации», переводя результаты в доказательства, проверяемые машинами. Чтобы повысить доверие, OpenAI заявляет, что формализовала 300 важных результатов. Однако существуют прецеденты сбоев в формализациях, сгенерированных ИИ, как в случае с Навье-Стоксом, что оставляет неясным, примет ли математическое сообщество эти формализации.

Реакции на запуск OpenAI поляризованы: от рассуждений о «самый значимый момент в истории математики» до резкой критики, сравнивающей материал с «огромной кучей дерьма, брошенной у нашей двери». Хотя энтузиазм по поводу прогресса в критически важных проблемах существует, он сосуществует с опасениями относительно того, что означают объем и скорость этих открытий для будущих исследований и кто должен нести бремя интерпретации аргументов, сгенерированных ИИ.

Эти статьи, наряду с другими достижениями, основанными на ИИ, вынуждают математическое сообщество пересмотреть свои ценности, что является ключевым моментом для начинающих студентов и исследователей, которые сталкиваются с возможностью того, что их исследования будут опережены амбициозными пользователями ИИ.

Похожие сюжеты

Axiom Math формализовала доказательство «Огромной теоремы» — самой длинной теоремы в истории математики
Подробнее
nplus1.ru

Axiom Math формализовала доказательство «Огромной теоремы» — самой длинной теоремы в истории математики

Компания Axiom Math объявила об успешном завершении компьютерной формализации теоремы классификации конечных простых групп, которую также называют «Огромной теоремой». Это достижение считается одним из наиболее значимых успехов в области математики XX века.

Данная теорема занимается классификацией конечных простых математических групп, которые являются фундаментальными строительными блоками для формирования любых конечных групп, аналогично тому, как сложные числа делятся на простые множители.

Работа над доказательством этой теоремы продолжалась на протяжении более чем половины столетия. Первые шаги были сделаны в 1963 году, когда американские математики Уолтер Фейт и Джон Томпсон доказали, что порядок любой неабелевой конечной простой группы является четным.

Классификация была окончательно завершена в 1983 году Дэниелом Горенстайном. Более того, в 2004 году Майкл Ашбахер и Стивен Смит опубликовали изложение, насчитывающее 1221 страницу, что ознаменовало собой завершение так называемого доказательства первого поколения. Именно эту работу взяла на себя формализация компании Axiom Math.

OpenAI и Anthropic опровергли гипотезу экспоненциального времени в теории вычислительной сложности
Подробнее
nplus1.ru

OpenAI и Anthropic опровергли гипотезу экспоненциального времени в теории вычислительной сложности

Внутренняя модель компании OpenAI представила доказательство, которое опровергает гипотезу экспоненциального времени — одну из фундаментальных предпосылок теории вычислительной сложности. Параллельно с этим результатом, аналогичное опровержение было получено моделью Anthropic.

Гипотеза экспоненциального времени утверждает, что при увеличении объема входных данных время, требуемое для решения определенных типов задач, в наихудшем сценарии будет расти экспоненциально. Конкретно, согласно этой гипотезе, задача 3-SAT для булевых формул не может быть решена быстрее, чем за экспоненциальное время, зависящее от количества переменных.

Обе технологические компании обнародовали свои опровержения, оформив их на языке Lean. Доказательство, разработанное OpenAI, также дает возможность прогнозировать количество решений булевых формул за субэкспоненциальное время. Тем не менее, результаты еще требуют прохождения независимой экспертизы.

В рамках проверки сотрудники OpenAI направили полученный результат группе экспертов по теории сложности. Эта группа включает авторов первоначальной формулировки данной гипотезы — Рассела Импальяццо и Рамамохана Патури.

OpenAI анонсирует три научных открытия, сгенерированных ИИ, результаты которых будут проверены экспертами
Подробнее
olhardigital.com.br

OpenAI анонсирует три научных открытия, сгенерированных ИИ, результаты которых будут проверены экспертами

OpenAI обнародовала три научных достижения, приписываемых ее моделям искусственного интеллекта (ИИ), охватывающие области математики, информатики и физики. Эти находки включают потенциальные доказательства древних математических гипотез, опровержение ключевой гипотезы о вычислительных пределах и теоретический прогресс в физике частиц.

В настоящее время компания также представила новую методологию для привлечения независимых исследователей к оценке этих результатов. Этот сдвиг в подходе был мотивирован критикой относительно того, как OpenAI сделала общедоступными сотни математических работ, сгенерированных ИИ, в начале октября.

Три случая представляют собой различные методы представления. В области математики материал, сгенерированный моделью, был опубликован напрямую. В информатике доказательство было предоставлено вместе с организацией внешней группы для его анализа. Что касается физики, назначенные эксперты решили подготовить работу до публикации материалов, созданных ИИ.

OpenAI подчеркивает, что эти результаты все еще должны быть преобразованы в проверяемые и понятные научные знания. Следовательно, анонсированные компанией открытия не следует считать окончательными выводами, принятыми академическим сообществом.

Второе открытие относится к Гипотезе экспоненциального времени (ETH) — концепции, широко используемой в теоретической информатике. Эта гипотеза постулирует, что некоторые задачи выполнимости булевых формул не могут быть решены точными алгоритмами за субэкспоненциальное время.

OpenAI заявила, что ее система обнаружила детерминированный алгоритм, способный точно подсчитывать присваивания, удовлетворяющие формулам CNF фиксированной ширины, за субэкспоненциальное время и полиномиальное пространство. В частности, в контексте проблемы 3-SAT этот результат противоречит ETH.

Если этот вывод будет подтвержден, он вынудит исследователей пересмотреть теоретические результаты, зависящие от этой гипотезы, которая применяется в сотнях областей, таких как вычислительная геометрия, вычислительная биология и теория графов.

Для изучения этого утверждения была сформирована группа экспертов под руководством Рассела Импальяццо и Рамамохана Патури, оба из Калифорнийского университета в Сан-Диего (США), и Райана Уильямса из Массачусетского технологического института (MIT). Импальяццо и Патури ранее участвовали в первоначальной разработке гипотезы в 1999 году.

Формализация доказательства на естественном языке и в Lean была размещена в открытом доступе на GitHub. Группа также запросила вклад научного сообщества для оценки находки и обсуждения того, как следует рассматривать результаты, сгенерированные ИИ. Однако участие этих экспертов не является предварительным подтверждением открытия, поскольку сама группа подчеркивает, что утверждение такого масштаба требует независимого и тщательного анализа.

Третье утверждение связано с теоретической физикой. OpenAI заявляет, что разработала математически обоснованное доказательство существования определенных квантовых теорий взаимодействующих полей в четырех измерениях, включая калибровочные поля и фермионы.

Эта работа охватывает квантовую хромодинамику (КХД) — теорию, описывающую взаимодействие кварков и глюонов посредством сильного взаимодействия, а также унифицированное расширение Стандартной модели физики элементарных частиц. Кроме того, компания утверждает, что результат доказывает существование чистой теории Янга-Миллса, темы, связанной с одной из проблем тысячелетия Института Клей математики.

В отличие от двух других случаев, материалы, созданные ИИ, еще не были опубликованы. Дэвид Гросс, лауреат Нобелевской премии по физике в 2004 году, возглавит группу, в которую входят Майкл Дуглас, Артур Джаффе, Игорь Клебанов и Никита Некрасов. Эксперты решили подготовить объяснение работы до того, как сделать общедоступными исходные данные.

Существование строгого доказательства для таких теорий представляло бы значительный прорыв для математической физики. Однако на данный момент это утверждение находится на стадии анализа, без какой-либо независимой проверки, представленной в объявлении.

Изменение стратегии раскрытия информации происходит на фоне дискуссий о роли ИИ в научных исследованиях. Центральный вопрос заключается в том, как обеспечить возможность анализа результатов сообществом, не ограничивая первоначальный доступ избранной группой, отобранной самой компанией.

25 октября Консультативная группа по математике и искусственному интеллекту (AGMAI) выступила с рекомендацией против практики, когда компании, занимающиеся ИИ, выбирают математиков для получения результатов заранее. Среди поднятых проблем были неравный доступ, влияние известности экспертов на достоверность заявлений и риск предвзятости при выборе.

Группа выступает за ответственное предоставление результатов, предоставляя информацию, которая позволяет проводить автономную проверку и способствует развитию общего научного понимания.

OpenAI признает, что ее новая тактика также несет риски. Выбор экспертов для координации анализа может повлиять на то, кто первым участвует в обсуждении, и создать информационную асимметрию. Компания гарантирует, что внешние сотрудники смогут делиться работой и публиковать свои выводы без подчинения соглашениям о конфиденциальности.

Кроме того, компания заявляет, что не стремится к академическому признанию за достижения, полученные ее моделями. Согласно предложению, заслуга должна принадлежать исследователям, которые разрабатывают объяснения, проверяют доказательства и создают материалы, помогающие понять результаты.

OpenAI призывает научное сообщество обсудить критерии раннего доступа, прозрачность конфликтов интересов, распределение заслуг и поддержку студентов и исследователей перед лицом изменений, вызванных ИИ.

Популярное