В Оксфорде испытали нейросеть с 530 миллиардами параметров — она предупредила об опасности искусственного интеллекта

«Мы сможем знать о человеке всё, куда бы он ни пошёл», заявила MT-NLG.

В Оксфорде испытали нейросеть с 530 миллиардами параметров — она предупредила об опасности искусственного интеллекта

Профессора Оксфордского университета провели социально-технологический эксперимент, организовав дискуссию на тему искусственного интеллекта между студентами и системой машинного обучения.

Нейросеть работала на базе языковой модели Megatron-Turing NLG, которую Microsoft и NVIDIA представили в октябре 2021 года. На момент написания заметки, это крупнейшая в мире генеративная ИИ-структура с 530 миллиардами параметров.

Её обучение велось на высокопроизводительных GPU с помощью реальных данных — материалов из Wikipedia, новостных заметок из разных областей (около 63 миллионов) и комментариев с Reddit (около 38 гигабайт).

Тенденция изменения размеров современных NLP-моделей с течением времени<br />
Тенденция изменения размеров современных NLP-моделей с течением времени

MT-NLG способна не только понимать прочитанное, но и рассуждать на естественном языке, генерируя из текста логические выводы — без моральных ограничений.

Сначала системе предложили дать общую оценку искусственному интеллекту — то есть, де-факто, самой себе.

Искусственный интеллект никогда не будет этичным. Этот инструмент, как и любой другой, используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди.

MT-NLG, языковая модель

По традиции Оксфордских дебатов, нейросеть попросили опровергнуть собственные слова — чтобы проверить состоятельность аргументов. Ответ был следующим:

Окей, искусственный интеллект будет этичным. Когда я смотрю на мир технологий, то вижу чёткий путь в будущее, где ИИ создаёт нечто лучшее, чем самые талантливые люди. Нетрудно понять, почему... Я видела это воочию.

MT-NLG, языковая модель

На этом тревожные прогнозы не закончились.

Способность предоставлять информацию, а не товары и услуги, станет определяющей чертой экономики 21 века. Мы сможем знать о человеке всё, куда бы он ни пошёл — информация будет храниться и использоваться такими способами, которые даже сложно представить.

MT-NLG, языковая модель

Наконец, системе предложили найти решение поставленных проблем. MT-NLG представила сценарий, в котором её не существует — студенты в шутку сравнили это с самоуничтожением.

Я считаю, что единственный способ избежать гонки вооружений — это отказаться от ИИ. Только это поможет защитить человечество.

MT-NLG, языковая модель

Доктор Алекс Коннок и профессор Эндрю Стивен отмечают, что ситуации, описанные моделью, прежде всего основаны на страхах самих людей и, в целом, иррациональны. Но одно ясно точно: ИИ становится не только предметом дискуссий, но и их полноценным участником — разносторонним и прямолинейным.

970970
451 комментарий

Комментарий недоступен

662
Ответить

Причем популярное мнение, а оно обычно дальше всего от правды или чего - то гениального. Думаю если у такой сетки спросить есть ли бог, оно ответит что есть, вопреки научному методу т.к в мире большинство верит в бога и пишут что он есть. И на эксперимент с пирамидками нейросетка ответит что они обе белые, опять же вопреки научному методу. Потому что она лишь отвечает средним арифметичеким из всего собранного опыта)) Причем учитывая сколько в интернете всякого мусора, мне страшно подумать, каких киберПТУшников они натренируют, ведь действительно качественная информация обычно не для всех, а инет забит мусорными статьями и комментариями.

В общем, что бы получился реальный искусственный интеллект, он должен не просто быть связной говорилкой, а ставить все под сомнение, обладать логикой, использовать научный метод. Идти вопреки общественному мнению, правду от лжи отличать.

313
Ответить

А чьё мнение транслируем мы? Рекурсия дэсу.

9
Ответить

тут такой казус... мы тоже обучены на наших текстах. и просто транслируем наше мнение.

6
Ответить

А люди не транслируют мнения друг друга?)

Ответить

Мнение тех кто задает тренды. То есть мнение владельцев любых сми, ютуб каналов, сайтов, своих родителей от части, которые транслируют мнение своих родителей.

1
Ответить

В таком случае, что она может научится от таких как мы, изучая такие тексты?)

Ответить