El Parlamento Europeo aprobó su Ley de Inteligencia Artificial (IA) por 499 votos a favor, 28 en contra y 93 abstenciones. Con ella, los Estados miembros afinarán el texto definitivo de la ley.
La normativa deberá garantizar que la Inteligencia Artificial desarrollada y utilizada en Europa se ajuste plenamente a sus derechos y valores.
Respetando requisitos como:
- Supervisión humana.
- Seguridad.
- Privacidad.
- Transparencia.
- No discriminación.
- Bienestar social y medioambiental.
- Prácticas prohibidas.
El Parlamento, detalló en su comunicado, que las normas están enfocadas a prevenir riesgos, y fija obligaciones para los proveedores y para quienes despliegan herramientas basadas en Inteligencia Artificial, en función del nivel de riesgo que pueda presentar la inteligencia artificial.
Se puede leer en el texto: “Los sistemas de IA que presentan un nivel inaceptable para la seguridad de los ciudadanos, como los utilizados en sistemas de puntuación social (como clasificar a las personas a partir de su comportamiento o características personales), quedarían totalmente prohibidos”.
Los eurodiputados también ampliaron la lista propuesta por la Comisión Europea, al prohibir los referentes a los usos intrusivos y discriminatorios de la IA, como:
- Sistemas de identificación biométrica remota, en tiempo real, en espacios públicos.
- Soluciones de identificación biométrica remota, a posteriori, excepto para usos policiales en investigaciones por delitos graves y con autorización judicial.
- Herramientas de categorización que utilicen características como: género, raza, etnia, estatus de ciudadanía, religión u orientación política.
- Sistemas policiales predictivos (basados en la elaboración de perfiles, ubicación o historial delictivo.
- Los de reconocimiento de emociones por las fuerzas de seguridad, en las fronteras, lugares de trabajo o instituciones de enseñanza.
- Rastreo indiscriminado de imágenes faciales, sacadas de Internet o de circuitos cerrados de televisión, para crear bases de reconocimiento facial.
Además, el Parlamento explicó que incluyó una clasificación de aplicaciones de alto riesgo, como las que se utilizan para influir en los votantes, elecciones y en los sistemas de recomendaciones que emplean las redes sociales.
Del lado de los proveedores de modelos fundacionales —que consideran avanzan rápidamente— deberán ser evaluados. Para, entre otros aspectos, mitigar los posibles riesgos a la salud, seguridad, derechos fundamentales, medio ambiente, democracia y Estado de Derecho. Además de registrar sus modelos en la base de datos de la Unión Europea antes de comercializarlos en las naciones que la integran.
Se trata de modelos como el ChatGPT, que también deberán cumplir requisitos adicionales de transparencia. Para identificar el contenido como generado por la inteligencia artificial y ayudar, entre otras cosas, a distinguir las falsificaciones de las imágenes auténticas.
Adicional, deberán publicarse resúmenes detallados de los datos protegidos por derechos de autor, que utilicen en su desarrollo.
Para impulsar la innovación en Inteligencia Artificial y apoyar a las Pymes, los legisladores añadieron como excepción los proyectos de investigación y componentes suministrados con licencias de código abierto.
También, promueven los llamados «espacios controlados de pruebas», o entornos reales, donde las empresas puedan testear sus desarrollos; con la supervisión de las autoridades, antes de salir al mercado.
El Parlamento, incluso, reformó el papel de la Oficina Europea de Inteligencia Artificial para que se encargue de supervisar la forma en que se aplica el código normativo sobre IA.
