GPT-4: Чему научилась новая нейросеть, и почему это немного жутковато
В этой статье мы разберем новые удивительные способности последней языковой модели из семейства GPT (от понимания мемов до программирования), немного покопаемся у нее под капотом, а также попробуем понять – насколько близко искусственный интеллект подошел к черте его безопасного применения?
Будущее наступило, а уж вопросы безопасности будут всегда. Да и я думаю, что даже если и будет реальный ИИ, то он не будет настолько тупой, чтобы развязывать всякий пиздец, а будет исследовать наш мир. И думаю, что настоящий ИИ - это эволюция человека как вида.
А там уже термояд недалеко, и безусловных доход с правом на жилье. Раньше абсолютное большинство людей не умело читать и писать, а сейчас у нас есть электроника и интернет. Все так привыкли уже к элктронике и интернету, что и ИИ будет обыденным делом. Так что кончайте паниковать.
Многочисленные исследования показывают, что интеллект и добросовестность друг с другом слабо кореллируют. Мнение о том, что общий ИИ будет обязательно доброжелателен ничем не подкрепляется. Проблема AI alignment стоит тем более остро, чем более мощные и самостоятельные модели люди разрабатывают.