OpenAI на страже: как попытки джейлбрейка новой модели O1 приводят к угрозам банов
OpenAI o1

Похоже, что OpenAI решили превратить своих пользователей в параноиков. Что-то не то сказал? Бум! Письмо с угрозой блокировки. Новая модель O1 уже привлекла внимание хакеров, исследователей и просто любопытных пользователей, которые пытались "взломать систему" и понять, как же работает та самая загадочная "способность к рассуждению". Но компания не…

22

ClosedAI

Думаю, не в безопасности там дело, во всяком случае не так, как они это подразумевают, а в том, что таким образом можно реверсивно получить синтетические данные, которые у них для тренировки использовались, и это вот реально бизнес-проблема.

Локальные нейронки лучше, короче.

3
Ответить