La nueva Ley europea (en adelante AI Act) que trata de regular la Inteligencia emocional para mitigar cualquier riesgo que atente contra los derechos humanos. Cuatro son los niveles de riesgos que contempla:
- Riesgo mínimo, cuando no conllevan obligaciones jurídicas e invitan a una autorregulación voluntaria
- Riesgo limitado, cuando afectan a la transparencia (manipulaciones, chatbots…)
- Alto riesgo, aquellas que se recogen en un listado actualizado porque pueden afectar a la seguridad o derechos de las personas. Es el caso de la vigilancia biométrica en espacios públicos (por ejemplo, caso del reconocimiento facial, salvo supervisión policial), tanto en tiempo real como posterior, en espacios públicos. También la articulación de algoritmos que discriminen sesgos que induzcan a prejuicios sociales (por razón de edad, sexo, religión, o raza…), así como impactos medioambientales, etcétera.
- Riesgo inadmisible, esos pocos usos de la IA que atentan contra los derechos fundamentales (predicciones policiales, valoraciones sociales, reconocimientos emocionales, etc.) y no están vinculados a razones de salud o similar.
Esta Ley pionera se aplicará de manera gradual (hasta el ejercicio 2026) a cuantos agente públicos o privados se desenvuelvan en la Unión Europea: obligando a cualquier nuevo sistema de IA que quiera operar a registrarse en una base de datos pública. Correspondiendo a los Estados miembros a implementar sanciones disuasorias y alinearse con la Oficina Europea de la IA y restantes organismos o foros competentes.
En definitiva, entre los desafíos éticos de la IA destacan el grado de transparencia que permitan, el grado de clarificación que acompañan a las decisiones para resolver imprecisiones y superar sesgos.
Agenda 2030. ODS 9. Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación
Meta 9.5. Aumentar la investigación científica y mejorar la capacidad tecnológica de los sectores industriales de todos los países, en particular los países en desarrollo, entre otras cosas fomentando la innovación y aumentando considerablemente, de aquí a 2030, el número de personas que trabajan en investigación y desarrollo por millón de habitantes y los gastos de los sectores público y privado en investigación y desarrollo.