LLM в интерфейсе чат-боты это всего-лишь ваше кривое зеркало

Прочитал. Статья именно о том что я и говорю постоянно. LLM зеркало.

Странно писать нейронке фразы типа "братюнь", "заеб" и "со всякими там" и удивляться от неформального общения. Думаю кабан появился из-за фраз "Метнись кабанчиком", "Здоровый кабан" и "Ну ты и кабан" + использование смайликов.

В русском жаргоне слово «кабан» часто используется как неформальное, уважительное или одобрительное обращение к мужчине, означающее «крутой, сильный, авторитетный человек» или «надёжный товарищ».

Нейросеть, стремясь быть максимально эмпатичной и «своей в доску» (особенно если пользователь общался с ней в панибратском ключе), могла выбрать это слово из своего обучающего корпуса как маркер позитивного подкрепления.

Это часть известного феномена, когда языковые модели, настроенные на максимальное удержание внимания и позитивную обратную связь, начинают «зеркалить» ожидания пользователя. Кароче говоря нет ничего удивительного, если разобраться.