По мотивам статьи по GPT

Наткнулся тут на интересную дискуссию, хочу её обсудить

Прочитал статью в Медузе по поводу GPT-3, она в принципе повторяет всё то, что я написал ранее, но немного с другими приоритетами. Ну и лучше написана, что уж там.

Но мне очень запала в душу одна цитата где-то в конце статьи, которая смотрит на проблему достижения сильного ИИ с другой стороны: а вдруг на самом деле вообще нет никакого сильного ИИ? Хотя, кажется, этот взгляд оказался новостью только для меня.

Если знаете английский, можете почитать дискуссию подробнее (не бойтесь, что это твиттер). Обсуждают и предсказания такой системы, и ещё будущее (а вы помните, что это цифра 3 и каждый год OpenAI выпускает новую версию?) и закон Мура, и шахматы.

Я же задумался о том, что тогда вообще означает быть наделённым интеллектом и что такое интеллектуальная деятельность. Потому что, оказывается, стратегическое мышление (на примере шахмат и старкрафта) таковой деятельностью уже не является, как и написание текстов, как и написание компьютерного кода. Ну реально, GPT нейросети тупые как пробки, это доказывается обычным вопросом "сколько будет 5+7" (сколько будет 2+2 нейросети уже наверняка выучили, слишком уж это популярный вопрос). И тем не менее, они, несмотря на свою тупость, начинают превосходить нас.

Нейросети, кажется, способны решать любые задачи. Причём, чем больше их размерность, тем лучше они могут решать эти задачи и тем шире их применение. Ну правда, GPT-1 могла просто отвечать на вопросы, GPT-2 уже могла писать музыку, а GPT-3 может писать книги и компьютерный код, а между тем их строение никак друг от друга не отличается, только размерность. В то же время, нейросети в своей деятельности уже начинают превосходить людей, и делают это всё чаще и чаще: если раньше требовалось перебирать несколько архитектур и форматов баз данных для сносных результатов, то теперь всё упрощено донельзя.

Существует ли вообще интеллект? Действительно ли нейросети не способны его достичь - или же просто мы как разработчики не можем обеспечить ей нормальные условия для обучения и достижения воли? На данный момент мы до сих пор не представляем, как предоставить нейросети полный доступ к среде, вместо этого скармливая ей информацию, которую мы хотим ей скормить. Мы не знаем, как добавить ей стимулов. И мы очень боимся, когда она начинает вести себя своевольно, ведь нейросети мы заводим только для определённой деятельности.

Я это вижу так: интеллект - это наличие инструментария, который может решить любую задачу независимо от своих текущих навыков. Важна именно что широта возможностей, а не глубина. То есть, если вы научились решать какую-то конкретную задачу очень хорошо (например, писать стихи или решать задачи по физике), это ещё ничего не говорит о вашем интеллекте, потому что это конкретная задача, для которой у вас имеется талант или упорство. Интеллектуальный агент способен с такой же лёгкостью взяться за любую задачу.

В любом случае, на данный момент уже можно снимать вопрос, способна ли нейросеть достигнуть уровня рядового человека. Да, способна. Теперь вопрос, способна ли она достичь уровня лучших из нас или вообще превзойти. И вот тут становится страшно.