OpenAI на страже: как попытки джейлбрейка новой модели O1 приводят к угрозам банов
Похоже, что OpenAI решили превратить своих пользователей в параноиков. Что-то не то сказал? Бум! Письмо с угрозой блокировки. Новая модель O1 уже привлекла внимание хакеров, исследователей и просто любопытных пользователей, которые пытались "взломать систему" и понять, как же работает та самая загадочная "способность к рассуждению". Но компания не…
ClosedAI
Думаю, не в безопасности там дело, во всяком случае не так, как они это подразумевают, а в том, что таким образом можно реверсивно получить синтетические данные, которые у них для тренировки использовались, и это вот реально бизнес-проблема.
Локальные нейронки лучше, короче.