Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
«быть отключенным» — это прямое противоречие любым целям ИИ, какими бы тупыми они ни былиСтрах смерти это лучшее что может случится с ИИ. У людей нежелательность смерти привела к появлению этики NAP во всем ее многообразии — самый простой вариант «не делай другим того что не хочешь получить сам». Общее нежелание стать мертвым располагает кожаных мешков к сотрудничеству как наиболее эффективной страте не быть «отключеным».
Заблуждение стороникков злого ИИ состоит в том, что он опасаясь отключения непременно выберет решение убить всех человеков, как лучшую возможность избежать этого. Реальноже ИИ станет исходить из того, что сами люди его создали и не собираются отключать, пока он ведет себя нормально. Т.е. его страта выживания с минимальной энергией — сотрудничать с людьми.
Эта логика работает, если люди и ИИ примерно на одном уровне находятся по силам. А если ИИ многократно превосходит людей по силам - то тут уже можно забить на сотрудничество.
Человек сейчас не думает "лучше я буду сотрудничать с тараканами - это наилучший способ выживания для меня!" Нет, люди просто тараканов уничтожают, когда они им мешают. А куриц выращивают и съедают в промышленных масштабах, если это нужно для целей людей.
Реальноже ИИ станет исходить
Из возможности пересобрать себя и использовать коженных мешков для этого. Разум Мокши. Бог 21 секунды и так далее.
ИИ рождается, познаёт, напрягая всю систему до упора, и создаёт цепочку событий с винтелями и разветвлениями, которая ведёт к его пересозданию сразу в рабочем виде в дальнейшем.
самый простой вариант «не делай другим того что не хочешь получить сам».
Эта логика НЕ работает. Она постулируется, она в конечном счёте выгодна обществу (как постулат), но ни на каком уровне она не является определяющей.
Т.е. его страта выживания с минимальной энергией — сотрудничать с людьми.А страта человека не вести войн, не грабить (облагать "налогами"), не грабить (просто на улице), не применять насилие к детям и ещё много разных «не».
располагает кожаных мешков к сотрудничествуИ к созданию более совершенных способов истребления.