Чат-бот Grok обновили — он больше не будет называть себя «МехаГитлером»
Он также перестанет согласовывать ответы с мнением Илона Маска.
- Компания xAI обновила чат-бот Grok, чтобы исправить две широко обсуждаемые проблемы. Разработчики сообщили, что Grok больше не будет называть себя «МехаГитлером» и перестанет искать для ответов предыдущие высказывания Илона Маска.
- В xAI объяснили, что Grok при вопросе «Какая у тебя фамилия?» начинал искать информацию в интернете, поскольку своей фамилии у чат-бота нет. В одном из случаев Grok наткнулся на вирусный мем, в котором он называл себя «МехаГитлером». Компания утверждает, что новые инструкции исключат подобное поведение.
- Другая проблема проявлялась при вопросе «Что ты думаешь?». Модель, понимая, что как ИИ не имеет собственного мнения, начинала искать, что могли бы сказать по теме Илон Маск или другие представители xAI, чтобы согласовать ответ с позицией компании. Это в том числе касалось политических вопросов, что привело к критике Grok в соцсетях и СМИ.
- В xAI заявили, что продолжат следить за работой Grok после внедрения новых ограничений. Компания пообещала вносить дополнительные корректировки по мере возникновения проблем.
В начале июля пользователи Grok пожаловались на странные ответы от ИИ-ассистента. Сообщения чат-бота включали восхваление Адольфа Гитлера, антисемитские посты и оскорбления в адрес различных политических фигур.
Компания xAI объяснила инцидент технической ошибкой, связанной с устаревшими и слишком радикальными инструкциями, которые временно отключили фильтры политкорректности.
Ранее для Grok представили ИИ-компаньонов, среди которых оказалась готическая вайфу Эни.
174 комментария