ИИ и открытое письмо выдающихся математиков

Прошло всего пара дней с момента публикации решения Open AI одной из задач Тысячелетия выдвинутой институтом Клея и как сообщество математиков и физиков почуяло запах крови. Своей крови. Ты можешь потратить 20 лет жизни на написание статей и выведение доказательств и решений, но потом приходит Scam Altman и скармливает все твои доказательства что оказались в сети и на бумаге бездушной машины - и простым Брутфорсом и бросания денег в печку дата центров, за счет перебора решает проблему к которой ты вот вот подобрался и в итоге забирает себе все лавры.

Потратить 15 млн$ что бы получить приз в 1млн$. Что это как не лучшая иллюстрация того что из себя представляет собой пузырь ИИ?

Поэтому многие ведущие математики решили написать открытое письмо против AI в математики. Ведь это очевидным образом испортит науку. Поэтому заслуженные математики решили собраться и написать открытое письмо по этому вопросу.

И вот давайте зачитаем сам текст письма:

За последние несколько месяцев математические возможности больших языковых моделей(LMM) значительно улучшились — настолько, что они могут решать даже сложные нерешенные задачи во многих областях математики.
Однако стремление компаний, занимающихся разработкой ИИ, использовать решение математических задач в качестве показателя(benchmark) развития ИИ наносит ущерб математике как науке и математическому сообществу. Сейчас и в будущем .
Цели компаний, занимающихся разработкой ИИ, и цели математического сообщества сильно расходятся. Мы рассматриваем сложные вопросы как часть более масштабных проблем, связанных с согласованием и пониманием сферы, которые влияют на другие научные и творческие профессии, а также на общество в целом.

Исследовательская математика занимается изучением базовых структур форм, чисел и природных явлений. За несколько поколений в этой области сформировался обширный спектр сложных идей, методов, абстракций и других инструментов для понимания математического ландшафта. В свою очередь, многие современные технологии и науки основаны на созданных математических инструментах.

Знаменитые задачи часто служили ориентирами и маяками, по которым можно было судить об улучшении понимания этого ландшафта проблемм.

Решение одной из таких задач было определенным признаком появления новых идей и интересных методов, которые затем изучалось сообществом математиков в ходе долгого и трудного процесса переговоров, обсуждений и упрощений для понимания тех кто входит в эту сферу. В конце этого процесса в идеале можно получить изложение результатов в виде простого учебника, доступное для изучения любому студенту, даже первокурснику. Некоторые математические идеи продолжают свой путь и спустя десятилетия или даже столетия вновь и вновь становясь инструментами, которые понимает и использует все человечество.

Математическое сообщество во многом функционирует как миниатюрная версия человечества. Оно состоит из людей, использующих самые разные подходы, но объединенных общими ценностями. Самые ценные ресурсы для нашей профессии — это студенты и идеи, и мы должны бережно относимся к ним. Мы чувствуем ответственность за то, чтобы дать им возможность полностью раскрыть свой потенциал и жить своей жизнью в математическом мире.

Студентам мы часто предлагаем задачи, основная цель которых — развить навыки, необходимые для продвижения в исследованиях и других областях.

Мы распространяем наши идеи в ходе выступлений, личных бесед и подробных описаний, связывая их с предыдущими идеями других людей. Эти процессы неизменно требуют времени и основаны на человеческом взаимодействии.

В последние месяцы успехи искусственного интеллекта в решении сложных математических задач попали в заголовки даже за пределами математических кругов. Но решение задач — это лишь часть цели и средство для достижения главной цели — концептуального понимания и проницательности. Если мы посмеем забыть об этом в мире искусственного интеллекта, инструмент может обернуться против нашей главной цели. И в итоге получить обратное когда массовое производство дата центров что может шелкать все более быстрые утверждения «истина/ложь» может уничтожить плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи.

Зачастую такие решения объявляются корпорациями в спешке, без времени на тщательную проработку, выделение новых методов и идей, а также на цитирование соответствующих предыдущих работ других авторов. Как и во всех творческих профессиях, это порождает серьезные проблемы с авторством и плагиатом. Более того, без математиков, которые готовы взять на себя заботу о развитии этих идей и их интеграции в математический канон, идеи, придуманные искусственным интеллектом, никогда не станут по-настоящему живыми, и важнейшая цепочка передачи знаний между разными математиками будет утрачена.

Мы наблюдаем общую угрозу интеллектуальному труду, тому что вообще делает нас людьми связанную с несоответствием результатов использования ИИ его изначальной цели. Во многих областях и сферах деятельности многолетняя подготовка традиционно служила не только для получения окончательного ответа или продукта, но и для развития понимания и способности формулировать новые вопросы и идеи.

Однако системы LLM, опирающиеся на огромный объем проделанной ранее человеком работы, становятся все более хорошо способны напрямую воспроизводить результаты такой работы, и наши цели перестают совпадать. Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами, с которыми сталкиваются представители других научных и творческих профессий, и указывают на проблемы, с которыми может столкнуться все человечество: как сделать так, чтобы, пока искусственный интеллект меняет подход к работе, мы не забывали о том, ради чего эта работа изначально была проделана.

Да искусственный интеллект способен улучшить и ускорить изучение и понимание математики. Математике как профессии придется частично адаптироваться к этим изменениям в нескольких аспектах. Однако то, принесут ли эти изменения пользу отрасли или окажут разрушительное воздействие, во многом будет зависеть от решений людей, контролирующих эту новую технологию.

Эти проблемы должны быть сразу безотлагательно решены математическим сообществом, компаниями, разрабатывающими эти технологии, и, в более широком смысле, обществом, которое столкнется с аналогичными проблемами во многих других сферах интеллектуальной деятельности.

Подписались:

Артур Авила (Филдсовская премия, 2014)
Манджул Бхаргава (Филдсовская премия, 2014)
Кошер Биркар (Филдсовская премия, 2018)
Пьер Делинь (Филдсовская премия, 1978)
Юй Дэн (Филдсовская премия, 2026)
Саймон Дональдсон (Филдсовская премия, 1986)
Хьюго Дюмениль-Копен (Филдсовская премия, 2022)
Алессио Фигалли (Филдсовская премия, 2018)
Мартин Хайрер (Филдсовская премия, 2014)
Джун Ху (Филдсовская премия, 2022)
Максим Концевич (Филдсовская премия, 1998)
Илон Линденштраус (Филдсовская премия, 2010)
Пьер-Луи Лионс (Филдсовская премия, 1994)
Джеймс Мейнард (Филдсовская премия, 2022)
Курт Макмаллен (Филдсовская премия, 1998)
Сигэфуми Мори (Филдсовская премия, 1990)
Нго Бо Чау (медаль Филдса 2010)
Андрей Окуньков (медаль Филдса 2006)
Петер Шольце (медаль Филдса 2018)
Станислав Смирнов (медаль Филдса 2010)
Теренс Тао (медаль Филдса 2006)
Марина Вязовская (медаль Филдса 2022)
Седрик Виллани (медаль Филдса 2010)
Венделин Вернер (медаль Филдса 2006)
Ефим Зельманов (медаль Филдса 1994)

*обладатели Филдсовской премии по математике, это буквально аналог нобелевской премии по физике.

Вопросы подымаемые математиками смежны с теми, что я(и не только) подымал ранее когда впервые появились рисовальные нейросети.

И я рад что в отличие от многих других сфер математическое сообщество решило, в отличие от художников и музыкантов как "один" выступить против наглого захвата науки со стороны Скама Альтмана.

Еще раз стоит повторить важные мысли которые выражены в этом письме:

Многие люди искренне заблуждаются что есть какие то там Gatekeeper'ы которые стоят на пути к их "самовыражению" и то что нейронки дают им возможность "творить".Тут нет никаких "врат"в страну творчества! Никаких стражей, что требовали от вас образования или таланта.

Единственный способ туда попасть - это поверить в себя и пройти сквозь те преграды которые тебе мешают.

И если вы будете ныть что вам что то там "не дано" ...то вспоминаем слова тех кто реально страдал из за физических ограничений:

Что бы научится что то делать. Нужно это делать. Нужно приобрести ПОНИМАНИЕ в процессе взаимодействия. Сначала решать задачи попроще, потом посложнее. Главная награда всегда была не в "финальный результате" и лаврах, а том пути героя в ходе которого ты сам изменишься, станешь и лучше. Друзьях которых приобретешь, задачах решишь и высотах которые возьмешь.

Не все идеи можно выразить словами (их у вас сколько 1000? 2000?), не для всего можно придумать простой короткий PROMT. Да просто посмотрите этот студенческий анимационный мультфильм "Reward" (награда) , в котором умудрились выразить эту идею за каких то 9 минут, больше 10 лет тому назад:

Многие переоценивают свою фантазию думая что ИИ им как то тут поможет. Как можно видеть сейчас твиттер буквально "забит" одинаковыми результатами ChatGPT6 Астрой сделанной по одному промпту:

"Компута... ду мастерпис"

Если ваш промпт можно выразить в двух абзацах - то поздравляю вы не уникальны. Если вашу "игру" мечты можно выразить в паре простых предложений, то вам нужно научится мечтать о чем то большем. И идти учится составлять диздоки.

Это так - в своей сути нейросети, и вся их черная магия это результат "сжатия" данных, с потерями. Они сожрали, а потом попутно изнасиловали весь интернет и немного больше.

Создание нейросети - это ближе к "ахивированию" данных, и последующим воспроизводством:

И математикам это гораздо проще понять проще чем тем кто всю жизнь стоял за кассой или перекладывал бумажки.

А что еще важнее ИИ буквально не способны "прыгать" за пределы баз данных. Это уже как пол года назад показала команда Google DeepMind которая выпустила статью:

Которая показала ограниченность ИИ моделей для предсказаний моделей будущего. В их статье буквально было показано - что ИИ модели не могут находить новое, только усиливать лишь те сигналы от данных что уже в них есть, путь даже в слабом виде. Но не способны к кардинальным предсказаниям.

Для этого ИИ модели скормили все человеческие теории до 1905 года и все наблюдения после. И попытались заставить LMM ку вывести хоть что то похожее на Теорию относительности, Квантовую механику и прочие модели что появились в начала 20го века. Имея на руках все то что было у Энштейна, Шредиингера и прочих - LMM не справилось. Оно пыталось объяснить все через "классическую физику" .

Да - для неподготовленного зрителя -возможности ИИ генераций могут ошеломлять в первый раз когда вы с ними встречаетесь:

Но чем больше всматриваешься в результат, тем меньше эта бездна будет тебя пугать... но начинают пугать люди - которые бездумно в это верят и кидаются осваивать, попутно увольняя сотни и тысячи людей.

И если вы все еще смеетесь над художниками, писателями, музыкантами, программистами, а теперь еще и математиками, крича:

то напоминаю дорогие заводчане - ВЫ СЛЕДУЮЩИЕ:

Когда пузырь ИИ в креативной сфере лопнет, от него останется слишком много достижений, нейронок и алгоритмов которые можно будет вполне применять в жизни, например для автоматизации заводов превращая их в темные фабрики, что приводит нас к другому вопросу ...

И AI - пастухи вас это тоже коснется:

"Что нам всем скоро будет нечего терять, кроме своих подписок на сервисы"

Но вернемся к письму. Хочу обратить внимание еще на финальный аккорд:

Что это означает? Наверное то что вопрос с ИИ мусором нужно решать не только в математики. У меня есть большие вопросы ко многим ведущим художникам и артдиректорам студий - почему это первыми сделало именно математическое сообщество? Почему не ВСЕ мы? Почему только единицы выступили против засилья и навязывания ИИ генераций, что полностью обесценивает как пользу от работы для человечества, так и удовольствие от решения НОВЫХ задач?

Хотя и так понятно почему. Многие увидели в в лице ИИ волшебную таблетку, возможность скакнуть на уровень выше своего текущего скила.

Но в итоге выбрав "легкий" путь, они буквально были низведены до "чистильщиков мусора за ИИ". Вот тебе картинка, убери лишник пальцы. Вот тебе 3д - почисть и сделай UV.

Где все те кто кричал "Адаптируйся или умри!" в 2022м и 23м годах, признавайтесь - чистить ИИ генерации, это точно то что вы в этом мире делать и хотели?

Что то я не вижу, что бы те кто кинулся в нейросети в то время смогли чего то достичь, хотя самые умные из ИИ бро - быстро заняли должность онлайн коучей, что сами не генерируют, но проводят за деньги мастер классы как правильно генерировать.

А ничего обещанного из того что ожидалось от сингулярности не случилось:

Товары и в особенности электроника не стали стоит дешевле, а стала дороже, дата центры жрут оперативку и видеокарты как не в себя.

Разработка дорожает ибо вы бы видели ценики на ИИ сервисы?! 200$ улетают за день!

А ИИ генерации замусорили интернет, что даже обыватели начали видеть что ИИ генерации представляют из себя ни что иное как мусор. Даже название придумали Ai-slop

В общем за самой мрачной ночью всегда следует новый рассвет. И нужно не загубить те творческие искры, что способны освещать нам путь в эти мрачные и темные времена.

UPDATE: Скам Альтман Обиделся

#ai #no_ai #gamedev #art #science