La Ley de Inteligencia Artificial de la UE (AI Act) es una de las regulaciones más ambiciosas del mundo en este ámbito. Su objetivo es equilibrar la innovación con la protección de los derechos fundamentales, estableciendo prohibiciones claras para prácticas de alto riesgo.
Sin embargo, dentro de las restricciones, existen algunas excepciones que permiten el uso de IA en situaciones específicas. En este post exploramos algunos puntos de la normativa y qué implica realmente la regulación en identificación biométrica, reconocimiento emocional, predicción del crimen y puntuación social.
🔥 1. Identificación biométrica en tiempo real… con excepciones
El uso de la IA para el reconocimiento facial en espacios públicos está prohibido, salvo en ciertos casos excepcionales:
✅ Búsqueda de personas desaparecidas o víctimas de delitos graves.
✅ Prevención de ataques terroristas inminentes.
✅ Identificación de sospechosos de delitos graves.
📌 Para aplicar estas excepciones, se requiere autorización previa de una autoridad judicial o administrativa independiente.
🎭 2. Reconocimiento de emociones: prohibido, pero con matices
La IA que detecta emociones no podrá usarse en entornos laborales ni educativos, pero…
✅ Sí se permite para fines médicos y de seguridad. Por ejemplo, puede utilizarse para detectar el cansancio de conductores o evaluar el estado emocional de pacientes en terapia.
🕵️♂️ 3. Predicción del crimen: permitida bajo supervisión humana
El uso de IA para prever delitos basándose en perfiles psicológicos o de personalidad está prohibido, pero…
✅ Se autoriza cuando la IA solo apoya la evaluación de un humano, siempre que se base en hechos objetivos y verificables relacionados con una actividad delictiva.
🏆 4. Crédito social: ¿un sistema al estilo chino en Europa?
Uno de los puntos más debatidos de la AI Act es la prohibición del "social scoring" o puntuación social. La normativa europea prohíbe cualquier sistema que evalúe a las personas en función de su comportamiento social si los datos se utilizan para discriminarlas en contextos no relacionados.
Sin embargo, hay excepciones:
✅ Sistemas de evaluación en sectores específicos como seguros o créditos bancarios, siempre que sean proporcionales y justificados.
🤔 ¿Cómo se diferencia del sistema chino?
El crédito social en China es un sistema gubernamental que supervisa y puntúa el comportamiento de los ciudadanos basándose en múltiples factores, como su historial de pagos, comportamiento en redes sociales o relaciones con personas con mala reputación. Este puntaje afecta su acceso a servicios como empleo, educación o viajes.
En cambio, la regulación de la UE prohíbe este tipo de sistemas, asegurando que la IA no se use para castigar o recompensar a ciudadanos de manera injustificada. El único uso permitido en Europa es en el ámbito financiero, donde ya existen evaluaciones crediticias, pero con criterios transparentes y regulados.
🛑 5. IA en defensa y seguridad nacional: sin restricciones
Los sistemas de IA utilizados en militarización o defensa nacional quedan fuera del alcance de la regulación, lo que significa que los Estados miembros pueden utilizarlos sin restricciones dentro de su marco legal.
🚀 Conclusión: Regulación con margen para estrategias de IA
La AI Act marca un antes y un después en la regulación de la inteligencia artificial, estableciendo límites claros para evitar abusos, pero permitiendo ciertos usos estratégicos.
🔍 ¿Te preocupa el impacto de esta ley en la innovación y la seguridad?
Síguenos en LinkedIn y mantente informado.
🔹 Notas:
Este artículo toma como base información oficial del Reglamento de Inteligencia Artificial de la UE 2024/1689 y las directrices de la Comisión Europea sobre IA prohibida.