Суть в том, что рекомендательные системы уменьшают шанс открыть что-то новое. Сегодня человеку нравятся одни вещи, а завтра понравятся другие. Или не понравятся, потому что он не узнает об их существовании, потому что фильтры закрывают их.

В стримингах типа Spotify есть плейлисты, которые позволяют открыть новые вещи для себя.
А вот новостные фильтры пока что не предлагают альтернативной точки зрения на то или иное событие. Консерваторы видят одни новости и СМИ, а, допустим, либералы видят другие.

Google-поиск - это как один из примеров. В книге описан в целом механизм персонализации, т.к. он используется во многих интернет-сервисах. Тот же Google в основном использует поиск пользователя не для персонализации при поисковой выдачи, а для своей рекламной сети - Google Ads. Она установлена чуть ли не на каждом сайте в Интернете. И приватный режим + удаление cookie вас не спасёт (книга издана в 2011 году, 8 лет прошло, технологии определения человека в сети ушли далеко вперёд), поэтому все сайты на которые вы будете заходить будут знать, кто вы такой.