ИИ говорит идея отличная. Есть бизнес партнёры?
А если серьёзно, спасибо RLHF. Методики обучения с подкреплением на основе обратной связи от человека. Процесс, в котором модель учится генерировать ответы, которые нравятся аннотаторам. А этим самым аннотаторам нравится лесть приводит к тому, что ии поддерживает даже самую чушь.
На самом деле тоже в последнее время прихожу к мысли, что эти LLM - страшная вещь, по-сути. Это же в десятки раз хуже, чем мыльные пузыри информации, когда челы с ума сходят на всяких теориях заговора и тому подобном, просто потому что никаких альтернативных точек зрения не получают. А потом идут зло творить, ведь искренне верят в его праведность.