Искусственный интеллект: реальное и возможное

Что такое интеллект? Составители Философского энциклопедического словаря считают, что это “разум, способность мыслить, проницательность, совокупность тех умственных функций, которые превращают восприятия в знания или критически пересматривают и анализируют уже имеющиеся знания”. Проще говоря, способность мыслить. Следующий вопрос: “что такой искусственный интеллект?”. Любой современный компьютер?

Все не так просто. Рассуждая об искусственном интеллекте (он же ИИ, ИскИн или AI, artificial intelligence), мы неизбежно выходим на вопросы о сознании, разуме и мышлении. А это предметы изучения целого ряда наук (от психологии до лингвистики) и философии. Попробуем разобраться, что такое ИИ, насколько мы преуспели в его создании, и каковы его перспективы.

Для писателей-фантастов и других создателей вымышленных миров искусственный интеллект - давно не проблема. Могущественные компьютерные разумы и человекоподобных роботов можно встретить в книгах Айзека Азимова, Иэна М. Бэнкса, Дэна Симмонса и десятков других авторов.

Кинематографисты тоже хорошо освоили тему: это ставшие классикой “Искусственный разум” Спилберга и “Двухсотлетний человек” Коламбуса, “Я, Робот” Пройаса, сериал “Воспитанные волками” и многое другое. В анимации - Ghost in the Shell, GUNNM, “Валли”. Если говорить об играх, на ум приходят Detroit: Become Human, The Talos Principle, Scrapland, Mass Effect и Horizon Zero Dawn.

В фантастических мирах ИИ решает множество сложных задач: управляет космическими кораблями и целыми государствами, сражается, лечит, учит и общается с людьми. Что в реальности?

Пока достижения человечества в сфере AI гораздо скромнее, чем в научно-фантастических романах. Но сначала разберемся с терминами. В 1956 году информатик Джон Маккарти определил искусственный интеллект как “свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека”. Незадолго до этого Алан Тьюринг написал статью “Вычислительные машины и разум” (1950), в которой поставил вопрос о способности машин мыслить. И описал эмпирический тест, направленный на проверку этой способности, сейчас известный как тест Тьюринга.

В самом простом варианте он выглядит так: сидящий в отдельной комнате человек получает текстовые сообщения от другого человека и машины. Оба пытаются убедить "экзаменатора" в том, что являются людьми. Если это удается машине, она проходит тест и может считаться разумной. В философии сознания такой подход к определению разумности называется функционализмом, а описываемый им ИИ - “сильной версией” искусственного интеллекта.

Но означает ли наличие такого разума (или "разума") то, что машина способна осознавать себя? Понимает, что существует? Или ее коммуникация с миром - это лишь запрограммированные реакции на раздражители?

В 1989 философ Джон Сёрл опубликовал материал о "китайской комнате" - мысленном эксперименте, доказывающем, что тест Тьюринга может пройти машина, не имеющая сознания. Человек, не знающий китайский язык, находится в отдельной комнате и получает сообщения, состоящие из иероглифов. У него есть кубики с иероглифами и инструкции, объясняющие, какой комбинацией кубиков нужно отвечать на то или иное сообщение. Так, не зная китайского, человек способен давать верные ответы на этом языке, на деле не понимая ни слова.

С "китайской комнатой" сталкиваются персонажи романа Питера Уоттса "Ложная слепота". В их случае это инопланетный корабль, способный перестраивать и модифицировать себя, вступающий в коммуникацию с героями. Ни он, ни его "экипаж", похожий на жутких пауков, не обладают сознанием. Они просто биомашины с интеллектом.

В 1980-х Ханс Моравек (видимо, в его честь Симмонс назвал сообщество роботов из дилогии “Иллион” - “Олимп”), Марвин Минский и их коллеги сформулировали принцип, позже названный парадоксом Моравека. В соответствии с ним простые сенсомоторные операции требуют гораздо больших вычислительных ресурсов, чем сложные виды деятельности. Взрослого можно обучить пилотировать самолет или играть на гитаре, но невозможно вернуть ему навыки маленького ребенка. Это означает, что ИИ, способный на выполнение сложных операций, вероятно, не сможет воспроизвести простое действие. И это не роднит его с разумным существом. По крайней мере, в обыденном человеческом понимании.

Итак, умеет ли современное человечество создавать хоть что-то похожее на искусственный интеллект? Ответ положительный. В современной науке выделяют три основных вида ИИ: Artificial Super Intelligence (ASI, превосходит человеческий разум), Artificial General Intelligence (AGI или "сильный искусственный интеллект") и Artificial Narrow Intelligence (ANI, "узкий" или "слабый" искусственный интеллект). Последний не способен на самостоятельные действия и развитие, будучи подчинен человеку.

С развитием компьютеров и программирования мы научились создавать самые разные ANI. Современные ИИ-технологии - это машинное обучение, машинный перевод, чат-боты и другие виртуальные помощники. ИИ используется в производстве (автоматизация сборочных линий), банковской сфере (чат-боты и голосовые помощники, распознавание клиентов, оценка рисков), логистике, торговле и других сферах. Алиса, Siri и чат-бот из банковского приложения в вашем смартфоне - это ИИ, пусть и довольно простые.

Сможем ли мы создать ИИ, равный себе - например, соответствующий критериям AGI? Или искусственный сверхразум уровня ASI? Ответить сложно, но одно известно точно. Развитый ИИ может стать не только помощником, но и опасностью для человеческой цивилизации. Даже если допустить, что он будет обладать сознанием, это не гарантирует наличия у него эмоций, сострадания и морали. Как и того, что его цели будут обладать с целями создателей. Об этом в интервью журналу Wired предупреждал астрофизик Стивен Хокинг.

Так или иначе, AI уже стал частью нашей повседневности. Как и где он используется сегодня?

Чат-бот - это программа, способная вести диалог с человеком. Как правило, для удовлетворения определенной потребности. "Бабушка" чат-ботов - программа “Элиза”, разработанная в 1966 году Джозефом Вейзенбаумом. Сегодня такие программы применяют в мобильных приложениях (банковских, медицинских и других), на сайтах, в мессенджерах. Одни используют машинное обучение, другие лишь воспроизводят изначально заложенные алгоритмы.

Проходят конкурсы, цель которых - выявить наиболее интеллектуальный и эффективный чат-бот. Самый известный - конкурс Лебнера, проводившийся с 1991 по 2019 годы. На нем программы соревновались, проходя теста Тьюринга (о котором мы писали в первой части). Победителем последних четырех конкурсов была Mitsuku, но даже она не смогла пройти тест на 100%.

Автомобили, летательные аппараты, суда и другие машины. Некоторые из них управляются дистанционно, другие не нуждаются в человеке и полностью автономны. Спектр их применения широкий - от доставки грузов до индустрии развлечений и спорта (например, видеосъемка с воздуха). Военные беспилотники обходятся дешевле самолетов, стоящих десятки миллионов долларов, и успешно решают самые разные задачи.

В отличие от обычного водителя или пилота, ИИ не устает и не ошибается. При прочих равных беспилотный транспорт безопаснее традиционного. И экономичнее - расходов на заработную плату здесь нет. Уже в 1983 году во Франции появилась первая беспилотная линия метро. Сегодня беспилотные поезда перевозят пассажиров в Шанхае, Сан-Паулу, Осаке и других городах. Во многих аэропортах применяются беспилотные шатлбасы.

В промышленности и других отраслях используются системы, анализирующие массивы данных и предлагающие новые решения. На производстве ИИ решает множество других задач: отслеживает процент брака и сроки поставки продукции, прогнозирует поломку оборудования, колебания спроса и т.д. Роботы демонстрируют большую производительность труда, чем человек и способны выполнять задачи, требующие предельной аккуратности и четкости.

Для чего нужен искусственный интеллект в этих сферах? Во-первых, для анализа самых разных данных - от изображений (снимки МРТ, кардиограммы и т.д.) до эффективности лекарственных препаратов. Во-вторых, для разработки оборудования и медицинских изделий. Например, машинное обучение используется в протезировании. Программы создают удобные и эргономичные протезы, учитывающие анатомию конкретного человека. Наконец, есть специальные приложения, позволяющие человеку быстро получить рекомендации по лечению и даже диагностирующие определенные болезни.

Робототехника, мобильные приложения и системы анализа данных. Образование - настоящее раздолье для ИИ. Так, в популярном Duolingo машинное обучение используется для разработки новых учебных материалов и адаптации их к нуждам конкретного ученика. В образовании ИИ применяется для персонализации обучения (создание и корректировка образовательных маршрутов), изучении STEM и иностранных языков.

Все производят роботы, люди свободны от необходимости ходить на работу, и их материальные потребности решены. Теперь они могут спокойно развиваться и заниматься творчеством. Это - краткий и упрощенный пересказ того, как некоторые фантасты и ученые представляли себе идеальный мир будущего. Примерно таким должен быть и Марксов коммунизм. Эксплуатации, то есть присвоения одними людьми результатов труда других, здесь нет. Она не нужна, поскольку все производят машины.

Рай на земле? Даже если опустить тот факт, что автоматические заводы должен будет кто-то обслуживать и ремонтировать, остаются другие вопросы. Главный: “Какими будут люди при таком общественном устройстве?”. Оптимистичный сценарий - станут художниками, путешественниками и учеными. Пессимистичный - обленятся и будут такими же, как в “Валли”.

В ближайшем будущем Земле не грозит тотальная роботизация и исчезновение человеческого труда. Экономически и технологически разные регионы и государства развиты неодинаково. Во многих странах Африки, Центральной Америки или Азии не создана даже стандартная промышленность уровня 20-го века, не говоря об автоматизированных заводах. Их экономики во многом остаются аграрными и слабыми технологически.

ИИ не слишком эффективен в soft skills. Все профессии, где нужны хорошие навыки коммуникации, эмпатия и эмоциональный интеллект, скорее всего, останутся на своих местах. Это психологи, коучи, социальные работники, педагоги и т.д. То же можно сказать о тех, кто занимается искусством. Да и полностью заменить “технарей” ИИ не сможет - кто-то должен обслуживать его собственное “железо”.

Социальные сети и платформы вроде YouTube внимательно следят за нашими интересами и предпочтениями, чтобы вовремя подавать “информационные блюда” по вкусу. Мы все чаще видим то, что нам интересно и приятно. И все реже - то, что может вызвать дискомфорт, расширить кругозор или дать новый опыт. Получается “информационный пузырь”. Созданная человеком среда, которая сама начинает его контролировать.

Пребывая в комфорте и общаясь только с людьми схожих взглядов, человек все больше отдаляется от остальных. Социальные связи становятся слабее. Мы рискуем получить общество, состоящее из абсолютно чуждых друг другу людей. Например, снимающих на смартфон ситуации, в которых нужно срочно помогать. ИИ помогает нам поддерживать постоянную зону комфорта, что может ограничивать наше развитие. В том числе психоэмоциональное.

Самый страшный сценарий развития отношений людей и ИИ - это война. Он не раз рассматривался в фильмах, играх и книгах: от “Терминатора” до Mass Effect. Возможно ли подобное в реальности? Вопрос не столь праздный, учитывая, что в войнах люди все больше полагаются на машины, а военачальники стремятся сохранить жизни подчиненных.

Беспилотными становятся не только летательные аппараты, но и наземные боевые машины, а также суда. Некоторыми управляют операторы, однако автономные военные беспилотники уже есть (по крайней мере прототипы). Их программируют на принятие решений во время боевых действий, в связи с чем возникают серьезные опасения. Будут ли такие системы следовать законам ведения войны? Не атакуют ли гражданские цели?

Еще в 2017 году Илон Маск и ряд специалистов призвали запретить автономное оружие на международном уровне. Открытое письмо подписали физик Стивен Хокинг, сооснователь Apple Стив Возняк и другие. Не случайно первый закон робототехники из трех, сформулированных Айзеком Азимовым, запрещает роботам вредить человеку или допускать причинение такого вреда бездействием. Возможно ли будет загрузить подобные нормы в высокоуровневые ИИ будущего и быть уверенными в их выполнении - отдельный вопрос.

Искусственный интеллект - сложное и неоднозначное явление. Как и большинство технологий, он может быть использован ради благих целей или во вред. Однако от остальных человеческих инструментов его отличает автономность, способность действовать самостоятельно. Это и делает ИИ потенциально опасным.

С другой стороны, полноценный искусственный интеллект мы пока не создали. И не факт, что создадим в обозримом будущем.

P.S.: Недавно британский астроном Мартин Рис предположил, что если человечество встретит другую цивилизацию, то “это будут искусственно созданные существа, напичканные электроникой, что-то похожее на роботов”. По мнению ученого, распространиться по Вселенной могут только киборги или машины. Обычные, не прошедшие модификацию, виды просто не выдержат сложных условий многих планет.

Подписывайтесь на официальный аккаунт Black Caviar Games на DTF, чтобы не пропустить новые интересные статьи! ;)

Мы так же есть в YouTube, VK, Telegram, Яндекс.Дзен и TikTok.