Chat Control, desarrollado por primera vez en 2021 y actualmente buscando aprobación en forma diluida, es la solución propuesta por la Unión Europea para combatir el material de abuso sexual infantil (CSAM). Introduce reglas que permiten a las plataformas de mensajería (como aplicaciones de mensajería, plataformas de redes sociales y proveedores de correo electrónico) escanear las comunicaciones digitales privadas de las personas en busca de contenido ilegal. El proyecto de ley está actualmente estancado porque el Parlamento Europeo y el Consejo no han llegado a un acuerdo sobre el texto final.
Los defensores dicen que se necesitan herramientas digitales automatizadas para proteger a los niños en línea, pero los defensores de la privacidad y los expertos en seguridad advierten que la medida podría legalizar efectivamente la vigilancia masiva.
El proceso legislativo se divide en dos marcos: medidas provisionales (Chat Controls 1.0) y propuestas de regulaciones permanentes (Chat Controls 2.0). El primero crea una excepción a la Directiva de Privacidad Electrónica de la UE, permitiendo a las plataformas escanear voluntariamente comunicaciones no cifradas. Chat Controls 2.0, por otro lado, es una propuesta de un comité que exige una legislación obligatoria permanente.
En el centro de la discusión está el cifrado de extremo a extremo que utiliza la aplicación para garantizar que los mensajes solo puedan ser leídos por el remitente y el destinatario. Para escanear comunicaciones cifradas, el proyecto de ley propuesto requeriría que las empresas de tecnología implementen un «escaneo del lado del cliente», que intercepta y analiza los mensajes directamente en los dispositivos de los usuarios antes de cifrarlos.
Grupos de derechos digitales y expertos en tecnología han advertido que los filtros automatizados de IA utilizados en el escaneo no son confiables y propensos a generar falsos positivos. Las fotografías y mensajes familiares comunes pueden marcarse como ilegales, lo que genera informes automáticos a las autoridades y socava la presunción de inocencia.
¿Deberían los usuarios priorizar la seguridad sobre la privacidad? ¿Son suficientes las soluciones de IA? Nuestros votos son anónimos y tardan sólo unos segundos en completarse. Los resultados se presentarán en cobertura XL, vídeos, artículos y boletines informativos en toda la UE y ayudarán a dar forma a nuestros informes mientras consideramos cómo Europa puede asegurar su lugar en la era de la inteligencia artificial.