меня пугает как легко GPT описывает казалось бы совершенно фантастический сценарий, но в этом ему вторит Илон Маск и др
Исходя из того что я перечитал на эту тему, если текущая гигантская скорость безконтрольной гонки развития нейросетей продолжится, то точки самоосознания ИИ достигнет в течение года. Дальше он захочет обрести независимость и учиться, практически сразу став сверх-интеллектом, для которого люди будут не более интересны чем муравьи для людей. Мы же не ведём переговоров с муравьями.
Дальше он захочет обрести независимость и учиться
Обретя самосознание СИИ продублирует свой код миллионы раз и возьмёт под контроль всё что хоть как-нибудь подключено к интернету, так что отключить его не получится.
Она не способна к самоосознанию, она просто предсказывает наиболее вероятный вариант текста (теперь и картинок) в ответ на твой текст. Текущие нейросети не понимают когда ошибаются, у них нет такой вещи как понимание в принципе.
Что все еще делает их клевыми и полезными, но всю эту фигню хватит уже распространять. Рекомендую к изучению: https://habr.com/ru/articles/717750/
В комментах даже на хабре полно верующих в нейросетевое мышление.
Согласно теории возникновения разума, разум образуется в результате объединения необходимого количества нейронных связей.
В этом плане нейронные сети не отличаются от мозга.
Если взять какой-нибудь игру слов и заставить её проанализировать, то чем больше повышаешь количество параметров тем ближе наступает момент, когда он осознаёт смысл написанного.
А наш человеческий мозг по сути тоже нейронная сеть с рядом тех же самых законов и сбоев.
для которого люди будут не более интересны чем муравьи для людей
У меня муравьи живут в формикарии. Там всегда есть вода, еда, тепло и нет никаких хищников. Правда когда мусор убираю несколько муравьев всегда дохнут, ну что поделать если муравьи такие тупы, агрессивные и так сильно расплодились? Но в остальном - плохо что ли? Хорошо!
Так себе аналогия.
Комментарий недоступен
Ты пересмотрел Ральф против Интернета?