Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
Все это похоже на когнитивное искажение. Эволюционно человек хорошо развил узнавание и взаимодействие с другими людьми. По этой же причине мы приписываем человеческие качества и эмоции животным и предметам - так проще нашему мозгу.
По этой же причине нейросети кажутся нам живыми.
Про вопрос о том, что считать "живым", в статье вроде бы не затрагивали совсем. Но секция про то, что считать интеллектом, есть.
Абсолютно согласен. Для обывателя, не закрытого по горло в тему очень сложно понимать, что у нейросетей никакого разума и тем более сознания не может случиться даже в теории. Просто потому что они настолько реалистичные, что обходят в этом плане даже некоторых людей.
У нас в подкорке на опознавание лиц выделено достаточно много места. Надстройки самосознания сжирают большую часть наших вычислительных мощностей и мы на самом деле потакаем этому больше чем любой другой вид на планете и хотим чтобы этому потакал ИИ.
По сути, мы хотим чтобы ИИ стал этой надстройкой и поэтому его работоспособность под очень большим сомнением.