Режиссёр «Терминатора» Джеймс Кэмерон: «Использование ИИ в качестве оружия — это величайшая из угроз»

«Я вас предупреждал в 1984 году, а вы не слушали!» — в шутку сказал постановщик.

На тему современного этапа в развитии искусственного интеллекта и его применении в творчестве Кэмерон порассуждал в интервью канадскому телеканалу CTV News.

Режиссёр отметил, что полностью согласен с учёными, которые опасаются того, как будет применяться ИИ в будущем и даже не исключают вероятности глобальных катастроф по вине технологии. Тем не менее, по словам Кэмерона, всё будет зависеть от того, кто именно использует ИИ и как обучает алгоритмы.

Да, безусловно, я разделяю их опасения… Я вас ещё в 1984-м предупреждал, а вы меня не слушали! [смеётся]
Понимаете, нужно искать, кому это всё выгодно, кто такие штуки проектирует и зачем, так ведь? А проектируют их либо ради того, чтобы занять доминирующую позицию на рынке… Чему вы тогда учите этот ИИ? Жадности. Либо их проектируют из соображений безопасности — в таком случае ИИ учат паранойе.
Джеймс Кэмерон, режиссёр

Постановщик «Терминатора» и «Аватара» добавил, что худшим решением было бы применять искусственный интеллект в военном деле. В таком случае вероятность трагедии действительно будет далеко не нулевой.

Думаю, что использование ИИ в качестве оружия — это величайшая из угроз. В таком случае мы окажемся посреди эквивалента ядерной гонки вооружений, но с ИИ в центре неё. «Если мы этого не сделаем, то это точно сделают другие!» Ситуация будет только усугубляться.
Можно представить себе искусственный интеллект в театре боевых действий: бои будут вести между собой компьютеры, причём на таких скоростях, что человек не в состоянии вмешаться. А значит — не в состоянии разрядить обстановку.
А когда речь идёт о вероятности того, что всё приведёт к ядерной войне, то деэскалация — это самое важное. Необходимо иметь возможность остановиться и подумать. Но вряд ли на это будут способны ИИ.
Джеймс Кэмерон, режиссёр

Режиссёра спросили и о том, не хотелось бы ему заняться съёмками фильма по написанному искусственным интеллектом сценарию. Он заявил, что никакого интереса к подобному проекту у него нет — по крайней мере на сегодняшний день, когда ИИ не способен писать по-настоящему качественные сценарии.

Давайте подождём лет двадцать. Если ИИ получит «Оскар» за лучший сценарий — то да, нам придётся воспринимать это всерьёз. […]
Мне кажется, что то, кто написал сценарий — не важно. Важно то, насколько хорош сюжет.
И лично я, здесь и сейчас, не верю в то, что делает бесплотный ум, попросту переваривающий то, что другие, живые умы, написали до него. Эти умы говорили о прожитой ими жизни — о любви, о тоске, о страхе, о смертности — а их слова просто берут, перемешивают в салат и переваривают. Я не верю, что из этого может получиться хоть что-то, что может тронуть аудиторию. Мне кажется, что для того, чтобы написать нечто подобное, нужно быть человеком.
Я даже не знаю ни одного человека, который сейчас всерьёз бы раздумывал над тем, чтобы «заказать» сценарий у ИИ. Уж точно не в Голливуде. А люди из Голливуда способны на весьма и весьма безумные вещи.
Джеймс Кэмерон, режиссёр