Лучшая диалоговая система... Зависит от самой игры. Без конкретной игры, разговор на эту тему будет скорее демагогией.
Те системы, которые я могу вспомнить:
https://dtf.ru/58859?comment=2442686

Мне, например, нравится система с баблами, только из-за того, что её сложно зафейлить, и из-за того, что она погружает в себя немного лучше других систем (т.е. диалог не прерывает игровой процесс). Соответственно, с такой системой пытаются сделать "душевные" игры, аля nitw.
Так же нравится система из типичных РПГ, с полным ответом, с разветвлениями внутри диалога. Эта система буквально делает так, что кроме диалога в мире ничего нет, что идеально подходит к медленным/медитативным играм, которыми и являются почти все РПГ.