La Unión Europea ha dado un paso histórico en la regulación de la inteligencia artificial al comenzar a prohibir, desde este domingo 2 de febrero, el uso de sistemas de IA que se consideren de "riesgo inaceptable" o que puedan causar daño a los ciudadanos.
Nueva era en la regulación de la IA
Esta medida marca la primera fecha límite de cumplimiento de la Ley de IA de la UE, un marco regulatorio integral que fue aprobado por el Parlamento Europeo en marzo del año pasado tras años de desarrollo. La ley entró oficialmente en vigor el 1 de agosto de 2024.
Niveles de riesgo y sistemas prohibidos
La UE ha establecido cuatro niveles de riesgo para los sistemas de IA:
- Riesgo mínimo (como filtros de spam): sin supervisión regulatoria
- Riesgo limitado (chatbots de servicio al cliente): supervisión ligera
- Alto riesgo (IA para recomendaciones médicas): supervisión intensiva
- Riesgo inaceptable: prohibición total
Entre las actividades consideradas de riesgo inaceptable y ahora prohibidas se incluyen:
- Puntuación social basada en el comportamiento de las personas
- Manipulación subliminal o engañosa
- Explotación de vulnerabilidades por edad, discapacidad o situación socioeconómica
- Predicción de delitos basada en la apariencia
- Uso de datos biométricos para inferir orientación sexual
- Recopilación de datos biométricos en tiempo real en espacios públicos
- Sistemas de IA para inferir emociones en entornos laborales o educativos
- Creación de bases de datos de reconocimiento facial mediante raspado de imágenes en línea
Sanciones y cumplimiento
Las empresas que incumplan estas prohibiciones se enfrentarán a multas de hasta €35 millones o el 7% de sus ingresos anuales del año fiscal anterior, la cantidad que sea mayor. Sin embargo, como señaló Rob Sumroy, jefe de tecnología de la firma legal británica Slaughter and May en declaraciones a TechCrunch, las sanciones no entrarán en vigor inmediatamente.
Compromiso del sector
En septiembre del año pasado, más de 100 empresas, incluyendo Amazon, Google y OpenAI, firmaron el Pacto de IA de la UE, comprometiéndose voluntariamente a aplicar los principios de la Ley de IA antes de su entrada en vigor. Sin embargo, algunas empresas importantes como Meta, Apple y la startup francesa Mistral optaron por no unirse al pacto.
Excepciones contempladas
La legislación incluye algunas excepciones específicas:
- Las fuerzas del orden pueden usar sistemas de recopilación biométrica en situaciones de emergencia, como búsqueda de personas secuestradas o prevención de amenazas inminentes
- Se permiten sistemas de inferencia emocional en entornos laborales y educativos cuando existe justificación médica o de seguridad
Próximos pasos
La Comisión Europea ha anunciado que publicará directrices adicionales a principios de 2025, tras una consulta con las partes interesadas realizada en noviembre. Mientras tanto, los expertos señalan la importancia de considerar cómo esta nueva regulación interactuará con otras leyes existentes como el GDPR.
Como señala Sumroy, "es importante que las organizaciones recuerden que la regulación de la IA no existe de forma aislada". La claridad sobre cómo estas diferentes normativas se complementarán entre sí será crucial para su implementación efectiva.
