La Unión Europea quiere criminalizar las imágenes porno generadas por IA y los deepfake

La Unión Europea quiere criminalizar las imágenes porno generadas por IA y los deepfake

febrero 8, 2024 Desactivado Por

El Consejo Europeo y el Parlamento han llegado a un acuerdo para criminalizar las imágenes porno generadas por IA y los deepfakes en la Unión Europea. En concreto, el acuerdo está ligado sobre la propuesta para tipificar como delito, entre otras cosas, distintos tipos de ciberviolencia. Estas normas abarcan desde el intercambio no consentido de imágenes íntimas, hasta realizar los deepfakes mediante herramientas de inteligencia artificial. También se tipificarán como delitos el ciberacoso, el hostigamiento en línea, la incitación al odio misógino y el «ciberflashing», o envío de desnudos no solicitados. Así que si, las famosas «fotopoia» podrían ser denunciables.

Los deepfakes de Taylor Swift han acelerado esta decisión. Justo la semana pasada dábamos a conocer que incluso el Gobierno de los Estados Unidos se había pronunciado en torno a la alarmante proliferación de imágenes pornográficas falsas de Taylor Swift. La portavoz de la Casa Blanca, indicó que uno de estos deepfake de Taylor fue visto por más de 45 millones de personas antes de ser eliminada en las redes 17 horas después.

Ante esto, la Unión Europea también ha anunciado que tomará cartas en el asunto para que esto no se repita. Ya sea con una famosa, o con una persona de a pie buscando su difamación o por venganza.

Los Estados Miembro de la Unión Europea deberán desarrollar medidas que ayuden a identificar estos deepfakes

Además de desarrollar medidas para ayudar a los usuarios a identificar las imágenes falsas, también se exigirá un portal en línea donde se puedan enviar quejas sobre este contenido generado mediante IA. Por otro lado, las grandes plataformas de redes sociales, como X y Meta, deben facilitar a los ciudadanos y a la policía la denuncia de contenidos potencialmente ilegales -y su rápida retirada cuando sea el caso- como parte de la normativa de la UE sobre moderación de contenidos, la Ley de Servicios Digitales (DSL).

Eso sí, estas medidas tardarán en llegar. Según se indica, fue el pasado martes cuando los negociadores de la Unión Europea alcanzaron un acuerdo sobre un proyecto de ley. Este penalizará el intercambio de este tipo de contenido en toda la Unión Europea. Además penalizará la pornografía vengativa y el acoso en línea. Eso sí, tendremos que esperar a mediados del 2027 para esperar que todo esto se criminalice.

«La última forma repugnante de humillar a las mujeres es compartir imágenes íntimas generadas por la IA en un par de minutos por cualquier persona», dijo Věra Jourová, vicepresidenta de la Comisión Europea, al periódico POLITICO.

«Esas imágenes pueden hacer un daño enorme, no solo a las estrellas del pop, sino a todas las mujeres que tendrían que demostrar en el trabajo o en casa que se trata de un deepfake».

«Nuestro compromiso de salvaguardar la dignidad y los derechos de las mujeres y las niñas en Europa ha llevado a tipificar como delito diversas formas de ciberviolencia, como el intercambio no consentido de imágenes íntimas, incluidos los deepfakes, el ciberacoso, el ciberhostigamiento, la incitación al odio misógino y el ciberflashing», ha declarado la Comisaria Europea de Igualdad, Helena Dalli.

La entrada La Unión Europea quiere criminalizar las imágenes porno generadas por IA y los deepfake aparece primero en El Chapuzas Informático.