Julia Conley, Common Dreams
Los grupos de derechos humanos pidieron a los legisladores que incluyan protecciones para los migrantes en los cruces fronterizos en la legislación final, que podría aprobarse más adelante este año.
Los grupos de derechos digitales aplaudieron el miércoles a los legisladores de toda la Unión Europea después de que aprobaron un proyecto de ley que regularía estrictamente el uso de la inteligencia artificial, incluida la tecnología de reconocimiento facial y los chatbots, lo que podría establecer un nuevo estándar para proteger al público del uso indebido de la IA, pero señalaron que algunas disposiciones podrían excluir a las personas vulnerables. En particular a los migrantes y determinados colectivos específicos.
El Parlamento Europeo aprobó un importante obstáculo legislativo al votar a favor del proyecto de reglas en la Ley de Inteligencia Artificial, con 499 legisladores que apoyan las disposiciones, 28 se oponen y 93 se abstienen de votar.
La propuesta radical requeriría que los fabricantes de “sistemas generativos de IA” como el chatbot ChatGPT y los videos “deepfake” publiquen resúmenes del material que utilizan para entrenar sus sistemas y demostrar que las máquinas no generarán contenido ilegal. No demostrar la seguridad de sus productos podría resultar en que las empresas se vean obligadas a eliminar sus aplicaciones o sean multadas con hasta el 7% de sus ingresos, lo que podría ascender a cientos de millones de dólares.
La ley también prohibiría a las empresas extraer datos biométricos de las redes sociales para crear bases de datos de usuarios, una práctica que la compañía estadounidense Clearview AI no pudo continuar el año pasado después de un acuerdo judicial resultante de una fuerte ley a nivel estatal en Illinois.
Las disposiciones de reconocimiento facial surgieron en los últimos días como un punto clave de discordia entre los legisladores progresistas y los miembros del Partido Popular Europeo (PPE) de centroderecha, que presentaron enmiendas la semana pasada para incluir excepciones a la prohibición de la tecnología en espacios públicos. Las excepciones se habrían aplicado cuando la policía buscaba niños desaparecidos, criminales violentos y terroristas acusados.
A pesar del “agresivo impulso de última hora”, dijo la coalición European Digital Rights (EDRi), “los eurodiputados demostraron que escucharon las voces de más de 250,000 personas en toda Europa que quieren mantener nuestros espacios públicos libres de reconocimiento facial y otros sistemas biométricos de vigilancia masiva”.
La coalición entregó una petición firmada por personas de todo el continente la semana pasada, exigiendo la prohibición del uso de la tecnología de reconocimiento facial en espacios públicos.
“Esta es la señal más clara hasta ahora de que el Parlamento Europeo ha presentado la protección de todos nuestros derechos a vivir libremente y con dignidad en espacios públicos, por encima de las ganancias privadas y las falsas afirmaciones de ‘seguridad'”, dijo Ella Jakubowska, asesora principal de políticas de EDRi.
El proyecto de ley incluye disposiciones que prohíben el “reconocimiento emocional”, que se ha utilizado para identificar el cansancio en los conductores de camiones en China, en escuelas y lugares de trabajo, así como la vigilancia pública de reconocimiento facial, la vigilancia predictiva y la puntuación social.
Con la reciente introducción de ChatGPT y el rápido desarrollo de las nuevas capacidades en el campo de la IA, EDRi calificó la aprobación del proyecto de ley como “en muchos sentidos una victoria para los derechos fundamentales”.
La coalición fue una de las críticas que señaló que la Ley de IA en su forma actual no extiende las protecciones a los migrantes en los cruces fronterizos de la UE “a pesar de que los sistemas de IA se desarrollan cada vez más para rastrear, controlar y monitorear a los migrantes de maneras nuevas y dañinas”.
“La lista de prácticas prohibidas que se adoptó hoy no incluye el uso de IA para facilitar devoluciones ilegales, o para perfilar a las personas en movimiento de manera discriminatoria”, dijo EDRi. “Sin estas prohibiciones, el Parlamento Europeo refuerza el panóptico en las fronteras de la UE”.
Mientras los miembros del Parlamento Europeo, la Comisión Europea y el Consejo de la Unión Europea negocian la legislación final, que podría convertirse en ley a finales de este año, el grupo de derechos digitales Access Now dijo que los responsables políticos deberían “agregar prohibiciones a la evaluación automatizada de riesgos en los procedimientos de migración y los sistemas de análisis predictivo utilizados para reducir los movimientos migratorios”.
“En esta histórica votación de la Ley de IA, el Parlamento Europeo pidió una sociedad libre de vigilancia masiva”, dijo Caterina Rodelli, analista de políticas de la UE en Access Now. “Sin embargo, ha trazado una línea gruesa entre los que tienen y los que no tienen: la falta de prohibiciones para los sistemas de IA utilizados en la migración confirma que la UE no busca proteger los derechos fundamentales cuando las personas migrantes son los titulares de derechos”.
“Sin prohibiciones en el contexto de la migración”, agregó Rodelli, “la UE está sacrificando los derechos de las personas en movimiento y deliberadamente pondrá en riesgo a las comunidades marginadas”.
