Беспощадный банхамер Youtub’a не дремлет [вольный перевод]

Из пыльных карманов DailyMail достала июньскую новость …это в феврале-то.

Сердобольный Искусственный интеллект YouTub’a в пылу борьбы с расизмом, и за всё хорошее против всего плохого — расценил слова в отрывке видеоролика хорватского шахматиста Антонио Радич (Antonio Radic, aka agadmator) с пятикратным чемпионом — гроссмейстером Хикару Накамурой (Hikaru Nakamura) неприемлемыми в цивилизованном обществе и к чёрту заблокировал канал Радича. Чем вызвал недоумение у окружающих, ведь речь в ролике велась исключительно о шахматных стратегиях.

скриншот с ютуба https://i.dailymail.co.uk/1s/2021/02/19/18/39501552-9279473-image-a-4_1613760235327.jpg

Но «ютубовскому» фильтру по-бубну если используются высказывания подобные: «черные против белых» и т.п. Этим случаем заинтересовались научные сотрудники Института языковых технологий (Language Technologies Institute, LTI) из Карнеги-Меллона (Carnegie Mellon) Ashique R. KhudaBukhsh и Rupak Sarkar. Они запустили моделирование на своём ИИ запрограммировав его на поиск слов маркеров служащих враждебными (hate speech), «скормив» ему 680.000 комментариев собранных на пяти популярных шахматных каналов ютубчика. Затем они случайным образом отобрали 1000 комментариев, которые ИИ классифицировал как разжигающие ненависть. Когда же учёные вручную просмотрели эти комментарии, они обнаружили, что подавляющее большинство — 82% — не содержало языка вражды. Поэтому они предположили что такие слова, как «черный», «белый», «атака» и «угроза» («black», «white», «attack» and «threat»), оказались «красной тряпкой» для ИИ ютуба.

скриншот с ютуба https://i.dailymail.co.uk/1s/2021/02/19/18/39501560-9279473-image-a-1_1613759982184.jpg

Мы не знаем какие инструменты использует YouTube, но если они полагаются на искусственный интеллект для обнаружения расистских высказываний с помощью классификаций речи (state-of-the-art speech), то подобные инциденты могут произойти и в будущем, если фильтры не будут понимать контекст используемых выражений.
Ashique R. KhudaBukhsh (twitter.com/khudabukhsh), Project Scientist at the School of Computer Science

И одно дело если подобные случаи происходят с публичными людьми как Антонио Радич, когда получив огромную огласку в обществе проблема решается в два счёта; и другое, если это произойдёт с менее известным ютубером и такой инцидент останется вовсе незамеченным.

Представитель YouTube отказался назвать причину блокировки канала, указав лишь что канал Радича был разблокирован через 24 часа после обжалования блокировки.

оригиналы статей:

https://www.dailymail.co.uk/sciencetech/article-9279473/YouTube-algorithm-accidentally-blocked-chess-player-discussing-black-versus-white-strategy.html