По заявлению Мэтью Грин, который является экспертом в сфере криптографии и безопасности, Apple не на шутку взялись за преждевременное устранение незаконного контента.
Компания установит специализированные алгоритмы, которые будут проверять содержимое смартфонов на наличие запрещенных файлов. Система будет сверяться с базой данных того, что является нелегальным (например, детская порнография, призывы или оправдание терроризма и так далее) и будет предупреждать надлежащие органы о данных материалах.
There are a lot of problems with this idea. Yes — client side scanning (and encrypted images on server) is better than plaintext images and server-side scanning. But to some extent, the functionality is the same. And subject to abuse…
— Matthew Green (@matthew_d_green) August 5, 2021
Данная система уже работает, когда пользователь загружает файлы в iCloud, но теперь, по всей видимости, даже простое наличие таких файлов на девайсе уже обернется проблемой для их владельца. Конечно же, данные системы не идеальны и, скорее всего, они будут модерироваться, так как никому не хотелось бы попасть под уголовную ответственность из-за ошибки алгоритма.
But there are worse things than worrying about Apple being malicious. I mentioned that these perceptual hash functions were “imprecise”. This is on purpose. They’re designed to find images that look like the bad images, even if they’ve been resized, compressed, etc.
— Matthew Green (@matthew_d_green) August 5, 2021
Может получиться даже так, что конкретные страны будут запрещать конкретные материалы и будут запрашивать Apple добавлять данные материалы в базу запрещенного контента. Это может вполне обернуться тем, что, например, неугодный контент политической направленности будет заранее удаляться, а об их владельцах будут сообщать в полицию или службы безопасности данной страны.
Apple должна анонсировать введение данной технологии 6 августа, то есть уже завтра, так что полноценную работу алгоритма мы увидим уже скоро.
Подписывайтесь на T4S.TECH в Telegram. Публикуем новости, обзоры и забавные факты о технологиях.
