Офтоп
Korvin El

Алгоритм Apple для проверки детского порно можно заставить сработать на ложных изображениях

Эти изображения имеют одинаковый хэш

Несмотря на то, что алгоритм NeuralHash способен правильно идентифицировать изображения после некоторых манипуляций, программистам удалось подобрать различные изображения, которые системой определяются как одинаковые. А так же модифицировать одно изображение, чтобы его хэш совпадал с хэшем другого.

Фотография девочки отретуширована, чтобы ее хэш совпадал с фотографией собаки

Автор при этом отмечает, что алгоритм работает достаточно хорошо, и количество естественных коллизий крайне мало, однако потенциально показана возможность обхода этого алгоритма. Кроме того самым слабым звеном во всем алгоритме является сама база данных хэшей без прямого доступа к изображениям (что понятно), что чисто технически позволяет ее пополнять, внося хэши изображений, не имеющих отношения к детскому порно.

Источник:

0
157 комментариев
Написать комментарий...
Goodmanchik

Наделаешь своих дикпиков с разных ракурсов, чтобы мадмуазель отправить, а к тебе полиция ворвётся, что детские фотографии хранишь у себя в телефоне :(

Ответить
Развернуть ветку
VVladimirVV

А все потому что детского размера

Ответить
Развернуть ветку
10 комментариев
Boris

Я правильно понял, что Apple, при всей их хвалёной защите персональных данных, роется у своих пользователей в телефонах и сливает данные кому надо? Не защищаю тех кто реально хранит цп на телефоне, но сегодня цп, а завтра эта система так-же будет отслеживать мемы с Путиным или Сицзиньпином и сливать в соответствующие ведомства. 

Ответить
Развернуть ветку
June Paik

Да вроде у них нет хвалёной Системы защиты личных данных, наоборот они известны тем, что лезут пользователям чуть ли не в жопу без смазки и сливают все по первому чиху властей, как в том же Китае и, видимо, США. Думаю и в России ситуация вряд ли иная

Ответить
Развернуть ветку
2 комментария
Alexander Trukhin

Конееечно не будет. Всё ведь затевается во имя защиты детей, и только!

Ответить
Развернуть ветку
1 комментарий
Torba
Apple, при всей их хвалёной защите персональных данных

Кажется кто-то пересмотрел эппловской рекламы в твиттере

Ответить
Развернуть ветку
Mightyo

Так и будет. Времена свободы проходят. Если сейчас в США кэнсэлят, то через лет через 7 уже задумаются об отмене 1й Поправки

Ответить
Развернуть ветку
Весёлый назгул

Сегодня они из автоматов по талибам стреляют, а завтра будут по своим гражданам! И это при всех их хваленых законах и правах человека!

Ответить
Развернуть ветку
Bocman

По решению суда эппл сливает из бэкапов часть информации, в том числе фотографии. Из зашифрованных там, насколько я помню - это переписка iMessage, пароли, данные о здоровье, зашифрованные заметки.
Если сейчас они начнут сверять хэши локально - это позволит им хранить на сервере iCloud полностью зашифрованный бэкап устройства и теоретически, государство уже не сможет докопаться к ним под видом борьбы с педофилами.

Ответить
Развернуть ветку
7 комментариев
Михаил Колыгин

не в телефоне, а на icloud

Ответить
Развернуть ветку
TeneBrifer

Мне вот все интересно, какой имбецил будет хранить подобный контент на айфоне.

Ответить
Развернуть ветку
Slowdive

Средний пользователь продукции эппл.

Ответить
Развернуть ветку
22 комментария
ywdt

Ты недооцениваешь глупость большинства людей. Тем более, что проверяться такой контент будет после загрузки в iCloud. И я почти уверен, что на тех же маках есть возможность автоматически сохранять в облаке любые фото, которые ты сохранил локально.

Ответить
Развернуть ветку
3 комментария
Vlad F

Ну люди сейчас на мобилки снимают.

Ответить
Развернуть ветку
Bocman

Вероятно поэтому и требуется 30 совпадений до срабатывания тревоги.

Ответить
Развернуть ветку
Korvin El
Автор

Уже есть предложения на форчане массово начать делать мемы, которые бы системой определялись как цп.

Ответить
Развернуть ветку
16 комментариев
Финальный Босс

В Эпл похоже слабо представляют себе кэш сервисов типа Инстаграм. Где мамаши и папаши постоянно выкладывают своих детей в одних трусах, иногда аж неловко становится.

Ответить
Развернуть ветку
Alexander Trukhin

Неловко, когда изначально подписывался на "моделей", которые выкладывали себя в одних трусах. А через время их аккаунты как по щелчку (пенисом) заполоняют человеческие дети в трусах и без. Зато со смайлами вместо лиц. Устанешь объяснять майору что отписаться не успел.

Ответить
Развернуть ветку
12 комментариев
Bocman

А при чём тут кэш сервисов типа Инстаграмм?
Ещё раз, в америке есть "центр борьбы с сексуальной эксплуатацией детей бла-бла-бла как то там его" У которого хранятся официальные хэши контента по закону признанного ЦП. Там нет хэшей Мани в трусиках на пляже в Анапе. Именно с этой базой данных и будут сравнивать твои фоточки. При условии что ты живёшь в америке и у тебя включена выгрузка фоточек в iCloud.

Ответить
Развернуть ветку
11 комментариев
Александр Тункин

Загрузил партию новых фоток с котиками в iCloud
А они все совпали с хешем цп.

FBI: Гражданинчик, пройдёмте.

Ответить
Развернуть ветку
Den M

Каким образом модель тренировали? По идее чтобы она могла распознавать цп ей нужно скормить много тонн цп

Ответить
Развернуть ветку
Bocman

Никакой модели там нет. У специальной организации с длинным именем в америке есть хэши фотографий с ЦП, Собственно все хэши твоих фоток будут локально с этой базой сравниваться.

Ответить
Развернуть ветку
14 комментариев
Igorious

А ты сечёшь )

Ответить
Развернуть ветку
Константин Бузановский

Если вкратце, в основе алгоритма висит старая уже достаточно дырявая модель опознавания объектов (Полтора года в этой индустрии - много), так что эпол как всегда натворили херни.

Ответить
Развернуть ветку
janklod vandam

Айфоны - для педофилов!

Ответить
Развернуть ветку
Bocman

Ну блин, это уже перебор. @Шериф может ужо надо удолять токое?

Ответить
Развернуть ветку
5 комментариев
Виталий Коцарь

Педофилы — для Айфонов!

Ответить
Развернуть ветку
BambooCopter

На пике слева какая-то подозрительная собака. Вполне возможно, она прячет порно

Ответить
Развернуть ветку
Национальный лолипоп
какая-то подозрительная собака

Вы приняты в американскую полицию. 

Ответить
Развернуть ветку
6 комментариев
sdd264

На всякий случай лучше не хранить порно с карликами

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Дорогой бокал

Я может чего-то не понимаю, но что им мешает использовать необратимые хеш-функции, как в криптографии? Тогда не получится так просто подобрать изображение по известному хешу.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
1 комментарий
Принцесса Xbox
Фотография девочки отретуширована, чтобы ее хэш совпадал с фотографией собаки

Нахуя, а главное зачем?

Будете выкачивать ЦП и ретушировать свои фото чтобы они совпадали или как?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Konstantin Klischenko

возможно, а так это была просто проверка гипотезы.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Bocman

Это не совсем их инициатива. Такой сверкой давно занимаются инстаграммы и прочие фейсбуки. Контента у них нет. Хэши они берут у официальной организации (как и все остальные).

Ответить
Развернуть ветку
Андрюха Погорелов

Дайте угадаю- теперь на них подадут в суд?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Максим Чёрствый

Меня больше рофлит даже не ситуация с тем что люди под любым предлогом готовы мирится с любой хуйней и сдавать свою личную информацию кому попало, а вот что. Представь, работаешь ты в эйпол тех сапом и всё ок, а потом хуяк, и тебя заставляют смотреть цп и расчленёнку (привет птср сапам из фейсбука), и всё, больше ты не нормальный человек со здоровой психикой (хотя поработав сапом в казино, я полтора года её восстанавливал)

Ответить
Развернуть ветку
хихи

ну норм, сфотографировал свою собаку, а сел за развращение малолетних, эмэйзенг

Ответить
Развернуть ветку
Nokshun

Напомните, когда это мир пришел к такому своему состоянию, что корпорация добра занимается тем, чем должна заниматься полиция?

Ответить
Развернуть ветку
Обычный Человек

"корпорация добра", ага
хуй там
они это делают для тотального контроля над пользователями

Ответить
Развернуть ветку
Несчастный диод

Опять ЦА на сайте!

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Читать все 157 комментариев
null