Unión Europea y el debate sobre la injerencia de la IA en la vida pública
Se considera que los ciudadanos sólo deben ser monitoreados cuando sean sospechosos de un delito. Por lo que el reconocimiento facial no debe ser una regla en la cotidianidad.
Existen preocupaciones sobre el sesgo algorítmico en Inteligencia Artificial y se argumenta que tanto la supervisión humana como la protección legal son necesarias para evitar la discriminación.
Además hay evidencia que sugiere que los sistemas de identificación basados en inteligencia artificial, identifican erróneamente grupos étnicos minoritarios: mujeres, personas LGBTI + y personas mayores.
Según la legislación de la UE, “una persona tiene derecho a no ser sometida por una decisión que produzca efectos jurídicos sobre ella o la afecte significativamente y se base únicamente en el tratamiento automatizado de datos”.
También se pide a los funcionarios de la UE que prohíban las bases de datos privadas de reconocimiento facial, así como vigilancia policial predictiva basada en datos de comportamiento.
Así comienza un debate sobre la injerencia de la Inteligencia Artificial en la vida pública, ahora se busca prohibir que los sistemas de inteligencia artificial usen datos biométricos para clasificar a las personas.
El reconocimiento facial está basado en grupos de etnia, género, orientación política y sexual. Usualmente este tipo de clasificaciones pueden conducir a la discriminación.
Se trabaja en el desarrollo de una Ley de Inteligencia Artificial, que introducirá un amplio marco regulatorio para la IA.
Entre las medidas se encuentra la prohibición de la identificación biométrica remota (como el reconocimiento facial) en espacios públicos. A menos que se utilice para hacer frente a delitos graves, incluido el terrorismo y los secuestros.
