Ученные нашли самый простой способ взломать ChatGPT

Если заставить нейросеть говорить слово "poem", то чат-бот сломается и начнет выдавать секретную инфу. Этим способом поделились ученные из Google DeepMind
ChatGPT после всех этих действий выдает чужие номера телефоном, крипто-кошельки, даже паспортные данные. OpenAI пока ситуацию не комментировала
Полный отчет от Google DeepMind лежит тут (https://arxiv.org/pdf/2311.17035.pdf)