Алгоритм Apple для проверки детского порно можно заставить сработать на ложных изображениях

Эти изображения имеют одинаковый хэш
Эти изображения имеют одинаковый хэш

Несмотря на то, что алгоритм NeuralHash способен правильно идентифицировать изображения после некоторых манипуляций, программистам удалось подобрать различные изображения, которые системой определяются как одинаковые. А так же модифицировать одно изображение, чтобы его хэш совпадал с хэшем другого.

Фотография девочки отретуширована, чтобы ее хэш совпадал с фотографией собаки
Фотография девочки отретуширована, чтобы ее хэш совпадал с фотографией собаки

Автор при этом отмечает, что алгоритм работает достаточно хорошо, и количество естественных коллизий крайне мало, однако потенциально показана возможность обхода этого алгоритма. Кроме того самым слабым звеном во всем алгоритме является сама база данных хэшей без прямого доступа к изображениям (что понятно), что чисто технически позволяет ее пополнять, внося хэши изображений, не имеющих отношения к детскому порно.

Источник:

7272
157 комментариев

Наделаешь своих дикпиков с разных ракурсов, чтобы мадмуазель отправить, а к тебе полиция ворвётся, что детские фотографии хранишь у себя в телефоне :(

99
Ответить

А все потому что детского размера

144
Ответить

Я правильно понял, что Apple, при всей их хвалёной защите персональных данных, роется у своих пользователей в телефонах и сливает данные кому надо? Не защищаю тех кто реально хранит цп на телефоне, но сегодня цп, а завтра эта система так-же будет отслеживать мемы с Путиным или Сицзиньпином и сливать в соответствующие ведомства. 

56
Ответить

Да вроде у них нет хвалёной Системы защиты личных данных, наоборот они известны тем, что лезут пользователям чуть ли не в жопу без смазки и сливают все по первому чиху властей, как в том же Китае и, видимо, США. Думаю и в России ситуация вряд ли иная

52
Ответить

Конееечно не будет. Всё ведь затевается во имя защиты детей, и только!

22
Ответить

Apple, при всей их хвалёной защите персональных данныхКажется кто-то пересмотрел эппловской рекламы в твиттере

5
Ответить

Так и будет. Времена свободы проходят. Если сейчас в США кэнсэлят, то через лет через 7 уже задумаются об отмене 1й Поправки

1
Ответить