La detección de cargas de imágenes de abuso infantil suficientes para proteger contra falsos positivos desencadenará una revisión humana y un informe del usuario a la policía, explicó Apple. Agregaron que el sistema está diseñado para reducir los falsos positivos a uno en un billón.
La mayoría de los otros proveedores de tecnología importantes, incluidos Google de Alphabet Inc, Facebook Inc y Microsoft Corp, ya están comparando imágenes con una base de datos de imágenes conocidas de abuso sexual infantil.
Así funcionará el sistema de Apple
Los funcionarios encargados de hacer cumplir la ley mantienen una base de datos de imágenes conocidas de abuso sexual infantil y traducen esas imágenes en «hashes», códigos numéricos que identifican positivamente la imagen pero que no se pueden usar para reconstruirlas.
Apple implementó esa base de datos utilizando una tecnología llamada «NeuralHash», diseñada para capturar también imágenes editadas similares a las originales. Esa base de datos se almacenará en iPhones.
Las fotos almacenadas solo en el teléfono no se verifican, enunció Apple, y la revisión humana antes de informar una cuenta a la policía tiene como objetivo garantizar que las coincidencias sean genuinas antes de suspender una cuenta.
Apple añadió que los usuarios que sientan que su cuenta fue suspendida indebidamente pueden apelar para que se restablezca.
Una característica que distingue al sistema de Apple es que verifica las fotos almacenadas en los teléfonos antes de que se carguen, en lugar de verificar las fotos después de que llegan a los servidores de la compañía.
Posible escaneo de teléfonos
En Twitter, algunos expertos en privacidad y seguridad expresaron su preocupación de que el sistema podría eventualmente expandirse para escanear teléfonos de manera más general en busca de contenido prohibido o discurso político.
Otros investigadores de privacidad como India McKinney y Erica Portnoy de Electronic Frontier Foundation escribieron en una publicación de blog que puede ser imposible para los investigadores externos verificar si Apple cumple sus promesas de verificar solo un pequeño conjunto de contenido en el dispositivo.
La medida es «un cambio de opinión impactante para los usuarios que han confiado en el liderazgo de la compañía en privacidad y seguridad», escribió la pareja.
“Al final del día, incluso una puerta trasera bien documentada, cuidadosamente pensada y de alcance limitado sigue siendo una puerta trasera”, escribieron McKinney y Portnoy.
