La UE aprueba nuevas normas innovadoras para regular la IA, ¿se puede seguir acotando esta tecnología mientras se mejora?

La UE aprueba nuevas normas innovadoras para regular la IA, ¿se puede seguir acotando esta tecnología mientras se mejora?

marzo 14, 2024 Desactivado Por

El Parlamento de la UE aprobó ayer el marco de nuevas reglas la Ley de Inteligencia Artificial, también conocida como Ley IA de la UE, que tiene como objetivo garantizar la seguridad y el respeto de los derechos fundamentales mientras promueve la innovación de esta nueva industria. Esta aprobación inicial se produjo tras un acuerdo entre el Parlamento y el Consejo en diciembre de 2023, y la votación en el Parlamento resultó en 523 votos a favor, 46 en contra y 49 abstenciones, pero como la IA avanza tan rápido, dicha Ley necesitaba retoques, los cuales, os contamos en detalle cómo la UE va a regular toda IA mediante estas nuevas normas.

Las nuevas reglas definidas por el Parlamento prohíben ciertas aplicaciones de IA que amenazan los derechos de los ciudadanos, como la categorización biométrica (WorldCoin y lo que está pasando en España, por ejemplo) basada en características sensibles y la vigilancia policial predictiva. Sin embargo, se han establecido excepciones estrictamente definidas para el uso de sistemas biométricos de identificación remota por parte de las autoridades encargadas de hacer cumplir la ley en situaciones específicas, como la búsqueda de personas desaparecidas o la prevención de ataques terroristas.

Nuevas normas para regular la IA y su avance por parte de la UE

El reglamento también establece obligaciones para los sistemas de IA de alto riesgo, como evaluar y mitigar los riesgos, mantener registros de uso y ser supervisados por humanos. Además, se aplicarán requisitos de transparencia a los modelos de IA, como la publicación de resúmenes detallados del contenido utilizado para la capacitación.

Los principales puntos de las normas son los siguientes:

Garantías de Inteligencia Artificial de Propósito General.
Restringir el uso de sistemas de identificación biométrica remota por parte de los organismos encargados de hacer cumplir la ley.
Prohibir el uso de IA para evaluar el comportamiento social, influir en las personas o explotar sus debilidades.
Derecho del consumidor a presentar quejas y dar explicaciones significativas.

Laboratorios reales para realizar pruebas en cada país

Para fomentar la innovación y apoyar a las pymes, se crearán laboratorios de prueba accesibles para estas empresas en los Estados miembros. Estos laboratorios les permitirán desarrollar y probar sistemas de IA innovadores antes de que lleguen al mercado.

Durante el debate plenario, los representantes destacaron la importancia de la ley de IA para proteger los derechos fundamentales y promover la transparencia en el uso de la tecnología. En concreto, la UE señaló que:

En el futuro, se aplicarán requisitos adicionales a los modelos más potentes que podrían plantear riesgos sistémicos; por ejemplo, se deben realizar evaluaciones de modelos, se deben evaluar y mitigar los riesgos sistémicos y se deben informar los incidentes.

También señalaron que la ley es una respuesta a las propuestas de los ciudadanos en la Conferencia sobre el Futuro de Europa, que abogaban por el fortalecimiento de la competitividad de la UE y la promoción de la innovación digital.

El reglamento aún está siendo revisado por expertos jurídicos y lingüísticos, pero se espera que sea adoptado antes de que finalice la legislatura electoral. Una vez adoptado, entrará en vigor 20 días después de su publicación en el Diario Oficial de la UE y será plenamente aplicable durante 24 meses, con algunas excepciones específicas relacionadas con prohibiciones y obligaciones adicionales para sistemas de alto riesgo.

La entrada La UE aprueba nuevas normas innovadoras para regular la IA, ¿se puede seguir acotando esta tecnología mientras se mejora? aparece primero en El Chapuzas Informático.