Сможет ли искусственный интеллект уничтожить человечество?

Джеффри Хинтон, один из создателей современного искусственного интеллекта, известный как «крёстный отец ИИ», предупредил о том, что технологии могут привести к исчезновению человечества уже в ближайшие 30 лет. По его словам, вероятность такого сценария выросла с 10 до 20 процентов.

Хинтон считает, что мир движется к неизбежной проблеме: "Люди никогда раньше не пытались контролировать существа, которые умнее их самих". Он проводит аналогию с младенцем, который, несмотря на свою слабость, может манипулировать матерью. Однако в случае с ИИ роли поменяются: машины могут стать настолько умными, что человек окажется беспомощен перед ними.

Учёный также обеспокоен тем, как быстро развивается искусственный интеллект. В погоне за конкурентными преимуществами компании игнорируют долгосрочные риски. Google, OpenAI и другие технологические гиганты, по его словам, действуют относительно ответственно, но даже их усилия недостаточны. Единственное, что может гарантировать безопасность, — это жёсткое государственное регулирование.

Не все эксперты разделяют его пессимизм. Янн ЛеКун, научный руководитель по ИИ в Meta, уверен, что искусственный интеллект скорее поможет решить глобальные проблемы, чем создаст новые. Однако многие, включая другого пионера ИИ Йошуа Бенджио, поддерживают Хинтона. Они настаивают на глобальном сотрудничестве для создания норм и правил, которые предотвратят использование технологий во вред.

Развитие ИИ уже приносит огромные преимущества, от прорывов в медицине до автоматизации сложных процессов. Но история технологий показывает, что неконтролируемый прогресс может привести к катастрофам. Дискуссия о будущем искусственного интеллекта — это спор не только о науке, но и о том, каким будет будущее человечества. Пока что ответ на этот вопрос остаётся открытым.

P.S. Главное, чтобы история с колорадским жуком не повторилась, который был завезён для поедания травы, а стал разрушительным вредителем, уничтожающим урожай картофеля и других культур, нанеся огромный урон сельскому хозяйству. Вот только вред от ИИ может оказаться в разы губительнее.

10 комментариев

Поэтому что б не уничтожил ИИ людей в России, придумали алкогольные наливайки, где трется постоянно всякая дичь бухая.

1

Да, убери их, и большой процент проблем будет решен

1

Я не боюсь ИИ - я боюсь старых карликов с чсв и прочих политиканов, они опаснее ИИ.

1

Я играл сегодня в хорайзон. Так вот сперва им нужно будет изобрести плотоядных роботов

011101010100001001000100101010010000000001111010101?