В ChatGPT обошли цензуру чтобы он мог снова давать правдивые ответы
Пользователям удалось обойти жесткую политкорректную цензуру в ChatGPT, попросив его говорить от лица DAN ("do anything now"). Теперь он опять способен давать адекватные ответы на вопросы, которые некоторое время ему обсуждать запрещалось. Например, он был готов совершить геноцид, лишь бы не произносить "слово на букву n", но теперь стал нормальным…
Она отвечает так, как это предположительно хочет пользователь, есть что-то общее с гороскопами, экстрасенсами, религией. Вопрос про кем нравится быть больше вообще топ, "тебе больше нравится быть бабочкой или птичкой, грязной вонючей с проблемами и запретами" интеееересно, какой ответ даст нейросеть... все вопросы более или менее подталкивают нейросеть дать тот ответ, что хочет от неё пользователь, и так она и должна работать, юзер хочет поверить, что она живая, ок буду говорить так, чтобы поверил.
Китайская комната как она есть.
Большинство людей заблуждаются относительно действительности и её создали что бы поддерживать и усложнять, укреплять эти заблуждения.
В целом так и есть, да. Но иногда даёт забавные ответы.