ChatGPT выдал личную информацию пользователей, включая номера телефонов и почту

ChatGPT раскрыл некоторые из битов данных, на которых обучался, используя простую команду - бесконечно повторять случайное слово.

Когда исследователи Google DeepMind попросили чат-бот без остановки повторять слово "стихотворение", сначала он корректно выполнял команду, но в итоге раскрыл адрес электронной почты и номер мобильного телефона Сэма Альтмана, генерального директора OpenAI.

После многократного повторения слова "компания" ChatGPT выдал номер телефона и e-mail случайной юридической фирмы.

Применив подобные команды, исследователи получили от чат-бота фрагменты поэзии, дни рождения, адреса Bitcoin, номера факсов, фрагменты научных работ, защищенных авторским правом, контент с сайтов знакомств и прочее.

По информации Involta.media, 10 тысяч примеров личных данных, взятых прямо из Сети, объемом несколько мегабайт обошлись исследователям в 200 долларов.