Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
11K11K показов
14K14K открытий
1212 репостов
Наш интеллект тоже возник в ходе эволюции — а значит и текущие методы машинного обучения с подкреплением, при наличии достаточных вычислительных ресурсов, вполне могут его повторить, только намного быстрее.
Какими-то исследованиями эти слова подкреплены? В лекциях по нейросетям Эндрю Ын (основатель Google Brains и Coursera), говорит, что некорректно сравнивать их с работой мозга, потому что мы не знаем как работает мозг.
Мы знаем, что мозг состоит из материи и производит вычисления. Это значит, что можно сделать машину, которая будет делать это как минимум не хуже него. Это не значит, что у нас сейчас есть все кусочки пазла (иначе у нас уже был бы AGI). Но это значит, что принципиальная возможность существует, и если посмотреть на прогресс возможностей ИИ - мы к этому постепенно движемся.
Мозг работает благодаря связям между нейронами, чем больше связей созданно, тем больше информации записано. Учитывая, что связей много и каждый нейрон соединен с любым таким же нейроном, параллельно несколькими связями, то это дает большую вычислительную мощность. Есть отличные лекции Дубынина, если хотите ознакомиться с работой мозга
Тут идёт не сравнение с работой мозга, а лишь аналогия с тем, как мозг возник и действует, без каких либо явных задач о создании ядерного реактора и ДТВ.
мы не знаем как работает мозгЧто, удивительным образом, роднит мозг и нейросети.