Apple заявила, что начнет сканирование устройств клиентов на предмет изображений сексуального насилия над детьми, чтобы защитить молодежь и предотвратить распространение таких материалов.
Объявляя об этом шаге в четверг, 5 августа, технический гигант заявил, что будет использовать технологию в следующих версиях iOS и iPadOS для обнаружения незаконных детских изображений на смартфоне или планшете Apple.
Как это устроено
Apple заявила, что перед загрузкой изображения в iCloud средство обнаружения под названием neuralMatch проведет процесс сопоставления на устройстве с использованием базы данных изображений сексуального насилия, уже известной Национальному центру пропавших без вести и эксплуатируемых детей (NCMEC). Компания заявила, что технология была разработана с учетом конфиденциальности пользователей, объяснив, что она не просматривает изображения устройства, а вместо этого использует цифровой отпечаток пальца, связанный с контентом, который позволяет ему проверять соответствие.
Если система обнаружит изображения сексуального насилия над детьми, о случае будет сообщено в NCMEC и передано в правоохранительные органы. Учетная запись Apple пользователя также будет деактивирована.
Сообщения, Siri и поиск
Приложение Apple Messages также будет использовать машинное обучение на устройстве, чтобы предупреждать детей и их родителей о получении или отправке фотографий откровенно сексуального характера. Siri и поиск также будут обновлены, так что если кто-то выполняет поиск, связанный с сексуальным насилием над детьми, он будет проинформирован о том, что его интерес к теме вреден, прежде чем перенаправить на ресурсы, предлагающие помощь.
Ответ
В то время как группы поддержки детей приветствовали шаг Apple, другие выражают озабоченность по поводу того, что система может использоваться тайным образом.
Ведущий исследователь криптографии Мэтью Грин из Университета Джона Хопкинса сказал в серии твитов, что система потенциально может быть использована злоумышленниками, чтобы доставить неприятности невинным жертвам, посылая им, казалось бы, невинные изображения, предназначенные для предупреждения.
Но Apple настаивает на том, что система имеет «чрезвычайно высокий уровень точности и гарантирует менее одного случая на один триллион в год неправильной пометки данной учетной записи», добавляя, что рецензент всегда проверяет помеченный отчет, прежде чем решить, следует ли его повышать. .
Компания заявила, что если пользователь считает, что его учетная запись была ошибочно помечена, «он может подать апелляцию на восстановление своей учетной записи».
Но есть также опасения, что авторитарные правительства могут попытаться использовать систему для мониторинга граждан, таких как активисты, выступающие против режима.
В дальнейшем анализе Грин сказал«Независимо от долгосрочных планов Apple, они послали очень четкий сигнал. По их (очень влиятельному) мнению, безопасно создавать системы, сканирующие телефоны пользователей на предмет запрещенного контента. Это сообщение, которое они посылают правительствам, конкурирующим службам, Китаю и вам ».
Исследователь продолжил: «Неважно, окажутся ли они правы или неправы в этом вопросе. Это прорвет плотину – правительства потребуют этого от всех. И когда мы узнаем, что это была ошибка, будет слишком поздно ».
Между тем, Джон Кларк, президент и генеральный директор NCMEC, описанный Действия Apple как «изменит правила игры», добавив: «Поскольку так много людей используют продукты Apple, эти новые меры безопасности могут спасти жизнь детям, которых заманивают в сети и чьи ужасающие изображения распространяются в материалах о сексуальном насилии над детьми».
Apple заявила, что изменения поступят сначала в США в обновлениях iOS 15, iPadOS 15, watchOS 8 и macOS Monterey в конце этого года.
Рекомендации редакции
Добавить комментарий