Более 150 математиков призвали правительства не верить хайпу вокруг возможностей ИИ

В начале этого года 23-летний человек без формального математического образования попал в новости, заявив, что с помощью ChatGPT от OpenAI решил одну из "проблем Эрдёша". Так называют базу сложных гипотез, оставленных венгерским математиком Палом Эрдёшем.

Месяцем позже учёные были удивлены, когда OpenAI сообщила, что её ИИ опроверг 80-летнюю гипотезу о "единичных расстояниях", тоже сформулированную Эрдёшем.

Тогда OpenAI заявила:

Это первый случай, когда ИИ самостоятельно решил заметную открытую проблему, центральную для целой области математики.

Однако вопрос о том, действительно ли передовые модели вроде ChatGPT совершают прорыв в решении задач, десятилетиями мучивших математиков, остаётся предметом жарких споров.

Пожалуй, самым резким публичным ответом стала новая декларация, подписанная более чем 150 специалистами по математике со всего мира. Документ призывает правительства не верить шумихе вокруг способностей ИИ решать сложные математические задачи и охлаждает разговоры о революции в дисциплине. Декларацию подготовили исследователи из пятнадцати университетов, а одобрение ей дал Международный математический союз.

В сопроводительном заявлении к 11-страничной "Лейденской декларации об ИИ и математике" вице-президент Международного математического союза Ульрике Тильман (Ulrike Tillmann) отметила, что ИИ "поднимает вопросы, которые нельзя оставлять без внимания".

Тильман сказала:

Будущее математических исследований должно определяться человеческим суждением, честными и прозрачными практиками, а также общими ценностями мирового математического сообщества.

А в тексте сказано:

В настоящее время у технологической индустрии есть сильный коммерческий стимул преувеличивать возможности своих продуктов.

Авторы советуют политикам "консультироваться с экспертами, включая математиков, при формировании политических решений, а не полагаться на пресс-релизы или популярные пересказы математических результатов".

Также беспокойство вызывает то, что модели способны выдавать убедительные на вид, но несостоятельные решения. Подписант декларации и глава факультета компьютерных наук Оксфордского университета Лесли Энн Голдберг говорит:

Нынешние автоматизированные методы могут порождать правдоподобные, но ненадёжные или даже неверные рассуждения, которые трудно отличить от корректных математических доказательств. Это серьёзная проблема, ведь исследования в математике почти всегда опираются на предыдущие работы, и учёным крайне важно знать, что результаты в литературе верны.

Документ также описал шаткое положение академической среды. Привлекать новое финансирование стало сложно, тогда как интерес к ИИ растёт, и это нередко вынуждает исследователей поддерживать технологию любой ценой.

Мы признаём, что индустрия предложила прибыльные рабочие места, денежные вознаграждения, вычислительные ресурсы и интеллектуально стимулирующие возможности, которые некоторые математики сочли привлекательными. Это происходит в эпоху недофинансирования высшего образования и нестабильной академической занятости.

Среди причин для регуляторного надзора авторы назвали и доводы за пределами математики, указав на участие ИИ-индустрии в военных программах и системах массового слежения, на технологии, распространяющие дезинформацию и подрывающие демократию, а также на ущерб окружающей среде.

Кто-то собрал работающую нейросеть из коз в Age of Empires II – и это лучший аргумент против очеловечивания ИИ

Берни Сандерс предложил передать 50% акций крупнейших ИИ-компаний США в общественную собственность

Беспокоит и то, что модели обучают на передовых исследованиях, часто без согласия их создателей.

А помогавший составлять декларацию антрополог ИИ из Лейденского университета Родриго Очигаме сказал:

Математики, которые никогда не собирались участвовать в разработке ИИ, видят, как их труд используют для этой цели без их согласия. Считаю, что это глубоко вызывающая беспокойство ситуация.