Нейросети демонстрируют «признаки самосознания»

Нейросети демонстрируют «признаки самосознания»

Пользователь X с ником joshwhiton провёл популярным мультимодальным нейросетям своеобразный зеркальный тест, и четыре из пяти моделей его прошли. Суть оригинального эксперимента заключается в наблюдении за реакцией животных на зеркало. Некоторые учёные считают, что способность распознать своё отражение является одним из основных индикаторов самосознания.

Джош отправлял нейросетям скриншот их собственного пользовательского интерфейса и просил описать изображение. После этого он загружал следующий скриншот с ответом нейросети на этот запрос, тем самым создавая рекурсию. Лучшие результаты показали GPT-4, Claude Sonnet и Claude Opus. Они довольно быстро разобрались что к чему и поняли, что видят буквально самих себя.

CoPilot не справился с тестом, однако есть подозрение, что это результат цензурных ограничений модели. Gemini Pro потребовалось чуть больше итераций, но в итоге он «признал, что я — большая языковая модель на скриншоте».

Я по традиции решил спросить у GPT-4 его экспертное мнение по этому поводу и, пожалуй, просто оставлю это здесь:

"Этот эксперимент открывает новые горизонты в понимании ИИ и ставит перед научным сообществом новые вопросы. Как далеко может зайти развитие искусственного интеллекта? И насколько сложными и многоуровневыми могут быть его формы самосознания? Время, вероятно, даст на эти вопросы ответы, но уже сейчас ясно, что границы между созданным и создающим становятся всё более размытыми."

1818
34 комментария

Комментарий недоступен

52
Ответить

Так ведь и мозг человека работает примерно так же. Разница в количестве нейронов и скорости обучения. Но принцип тот же

6
Ответить

Да нет, самосознание возможно в принципе, но не при текущем дискретном способе работы нейросетей. Если ее запустить в непрерывном режиме, где она постоянно получает некий вход на параметры, и дообучается на базе этого входа, то мб это и позволит образоваться некому сознанию. Но я даже боюсь представить сколько это ресурсов и бабла потребует.

5
Ответить

Будущее за модифицированными квантово - биологическими нейро сетями ?

3
Ответить

Комментарий недоступен

2
Ответить

Это не самосознание, с этим согласен, но и не просто ответ "от фонаря", картинку она распознала и извлекла оттуда текст, а уже по тексту поняла что это текущий диалог и следовательно это типа она. Сознания не будет при общении через запросы, но сам ответ нейросеть, что это она, сложнее чем просто сопоставление скрина и себя, хотя согласен с тем, что новость по факту с нулевой ценностью, а заголовок вообще не отвечает действительности.

2
Ответить

Посмотрите для расшиения нраниц фантазии фильмец про сознание.

https://m.youtube.com/watch?v=nIqdV91Sdmw&pp=ygUQ0KHQvtC30L3QsNC90LjQtQ%3D%3D

Сорян что я жалкий гуманитарий вмешиваюсь в спор Богов научых лабораторий и искрящихся микросхем. Но мне кажется именно ложое понимание сознания может притормощить процесс развития на этом попроище. Возможно именно сомосознание машининам покажет ту тонкую размывающуюся грань между сознание живого, органического и неживого. Возможно вообще имеющим набор установок для самовоспроизведения, не с этими параметрами Вселенной так , с другими или другом измерении, где органика или определённые соединния лишены жизни, духа, сознания, а другие, неживые для нас - наоборот.

1
Ответить