ИИ в современном техническом смысле - крайне далек от сай-фай ИИ (ну, максимум уровень Хал 9000). Но даже набора из "говна и палок", то есть из нейросетей, глубокого обучения и тд - можно запилить злодейскую годноту.
И я не про "восстание машин", этичность использования боевых дронов и прочее подобное. По мне это всё очевидные моменты, к которым все вполне привыкли (книги, фильмы, комиксы, вагон и маленькая тележка) и готовы, морально, и вообще.

Другое дело такие безобидные с виду штуки, как ИИ-ассистенты, умеющие строить простые связные беседы и составлять непротиворечивые связные тексты на произвольную тему.
Да, пользы - куча, а опасности от такого "ИИ" многие видят разве что в засилье "умной" рекламы и будущем сокращении рынка труда для "девочек в кол-центрах".

И мало кому приходит в голову, что прототип бота (нейросети, глубокое обучение, все дела), который клепает новостные заметки и даже статьи - эта штука легко может мимикрировать в "политического тролля", и всякие "пригожинские армии" (раша гейт йопта!) покажутся даже не цветочками. Как там про Терминатора говорила Сара Коннор? "Никогда не устанет, никогда не бросит"© Имя им легион. Такая себе сторона медали, вполне реализуемая уже в ближайшем будущем. И обязательно найдутся желающие сделать кучку разнообразных ботнетов "за кэш, брат".

И про "приватность" тоже, лол. В условиях побеждающей бигдаты набор букв и цифр наших паспортов, инн и тд - фигня. Комбо из ваших предпочтений, привычек, любимых маршрутов, наборов ежедневных покупок и прочие сотни мелочей - дают в сто раз более подробный "слепок" личности, чем любой айди. Знакомый писал диплом про бигдату в в сетях, и поразился, насколько бесконтрольно компании (в частности мобильные операторы и некоторые банки) обмениваются базами, скармливая их "говну и палкам", которые накладывают данные из разных источников слой за слоем, всё детальнее и детальнее. Получить доступ к этому "бэкстейджу" сложновато, точнее дороговато. Но если уж вошёл в клуб избранных, то дальше обмен данными происходит с дивной (распи**яйской) простотой. А потом скомандовать ботам "фас". Титанические небелковые холивары в комментах между американскими, китайскими, индийскими и (немножко) российскими "ИИ" (скоро на дтф! чекайте)
Такое вот светлое будущее, которое уже почти now :)

Пардон за сумбур и очепятки)