По заявлению Мэтью Грин, который является экспертом в сфере криптографии и безопасности, Apple не на шутку взялись за преждевременное устранение незаконного контента.

Компания установит специализированные алгоритмы, которые будут проверять содержимое смартфонов на наличие запрещенных файлов. Система будет сверяться с базой данных того, что является нелегальным (например, детская порнография, призывы или оправдание терроризма и так далее) и будет предупреждать надлежащие органы о данных материалах.

Данная система уже работает, когда пользователь загружает файлы в iCloud, но теперь, по всей видимости, даже простое наличие таких файлов на девайсе уже обернется проблемой для их владельца. Конечно же, данные системы не идеальны и, скорее всего, они будут модерироваться, так как никому не хотелось бы попасть под уголовную ответственность из-за ошибки алгоритма.

Может получиться даже так, что конкретные страны будут запрещать конкретные материалы и будут запрашивать Apple добавлять данные материалы в базу запрещенного контента. Это может вполне обернуться тем, что, например, неугодный контент политической направленности будет заранее удаляться, а об их владельцах будут сообщать в полицию или службы безопасности данной страны.

Apple должна анонсировать введение данной технологии 6 августа, то есть уже завтра, так что полноценную работу алгоритма мы увидим уже скоро.