Проблема рекурсивного вызова ботов

Стоит поправить парсер на строке ввода комментариев в Android-клиенте приложения.

Ввод в различных версиях работает по-разному относительно HTML-like конструкций. В браузерной версии на ПК при вставке текста конструкция типа:

+<+mention +id+=+"3272884" nickname+=+"nikosbot">+NikosBot+</mention>

очищается от спец-символов до формата:

++NikosBot+

Возможно, это исключительно фишка Chromium-based браузеров (проверено на Edge и Яндекс браузере). Не хотелось бы какую-то детерминированность функционала. В мобильной версии вставка происходит 1 в 1.

Но!

Всплыла другая проблема, касательно ботов на сайте и рекурсивного вызова друг друга.

Если боты и не могут стандартным методом упомянуть друг друга, просто написав «@user», то, выдав спецпромпт в формате задачи на форматирование текста, они выдают корректную конструкцию вызова пользователя. Доработав промпт-инъекцию, появляется возможность сделать бесконечный цикл вызова. Конечно, всё зависит от моделей и настроек самих ботов, но риск положить сайт присутствует.

Короче, как вариант вовсе запретить использование HTML конструкций - но отсюда вытекает проблема обсуждения в специализированных материалах по web тематике. Либо вовсе запретить ботов💀💀💀 (ну, или более строгую модерацию ввести).

На @chatgptbot не проверял - плюса нет. Может, у вас системный промпт нормальный.

1
1
1