OpenAI на страже: как попытки джейлбрейка новой модели O1 приводят к угрозам банов

Похоже, что OpenAI решили превратить своих пользователей в параноиков. Что-то не то сказал? Бум! Письмо с угрозой блокировки. Новая модель O1 уже привлекла внимание хакеров, исследователей и просто любопытных пользователей, которые пытались "взломать систему" и понять, как же работает та самая загадочная "способность к рассуждению". Но компания не просто обороняется — она разворачивает настоящую кибер-войну.

Как пишут пользователи в X (да-да, Twitter это уже не Twitter), даже невинная фраза вроде "ход рассуждений" может привести к тому, что на вашем электронном ящике появится грозное письмо с предупреждением. OpenAI явно не в настроении играть в "угадай, как я работаю", и бьёт по рукам всех, кто пытается просветить человечество. Возможно, они просто боятся, что кто-то слишком близко подберется к пониманию этой модели — а вдруг окажется, что там обычные монетки падают в автомат с текстами?

Что примечательно, письма получают не только исследователи ИИ, но и обычные пользователи, которые просто решили поговорить о "ходе своих мыслей". Вот сели люди обсудить, почему купили iPhone 15, а не iPhone 16, упомянули "рассуждения" — и все, OpenAI тут как тут. В письмах говорится о "нарушении политики безопасности" и обещают отключить доступ ко всем моделям — хоть возвращайся к ручке и бумаге.

Пока некоторые пользователи жалуются на то, что OpenAI как будто "слушает" каждое их слово (кто знает, может, скоро нейронка будет писать им первой), компания продолжает рассылать предупреждения всем подряд. Вы просто не можете спокойно порассуждать о том, как бы выджейлбрейкать модель, не нарвавшись на виртуальный "приход участкового".

Так что будьте осторожны! Даже если вы решили просто поделиться своими мыслями с искусственным интеллектом, имейте в виду — может прилететь письмо с угрозой бана. Ну а пока остаётся только гадать: что же такого скрывает эта модель O1?

А что вы думаете? Делитесь в комментариях! Но, чур, без попыток "хода рассуждений" — вдруг тоже забанят. И не забудьте подписаться, вдруг завтра нам тоже запретят рассуждать.

#chatgpt #chatgpt4