Facebook e Instagram etiquetarán el contenido de IA que provenga de OpenAI y Google, ¿adiós a los fake?

Facebook e Instagram etiquetarán el contenido de IA que provenga de OpenAI y Google, ¿adiós a los fake?

febrero 7, 2024 Desactivado Por

La inteligencia artificial generativa es la que nos permite crear todo tipo de contenido a una velocidad muy superior a la de un ser humano. Esta capacidad de producción tanto de textos como de imágenes ha provocado una avalancha de contenido en Internet donde la IA aparece en todos los sitios. Antes de que sea demasiado tarde hay que parar y regular este tipo de contenido y para ello, Meta anuncia su plan para etiquetar todo lo que se ha generado por las IA de OpenAI y Google en las redes sociales de Facebook e Instagram.

En muchas ocasiones nos hemos encontrado con noticias e imágenes que son motivo de controversia y nos hacen dudar de su veracidad. Muchas de estas han sido creadas por IA y gracias a los avances realizados con los años, cada vez son más realistas. Aunque sigue siendo posible reconocer cuando se ha hecho con inteligencia artificial, para muchas personas siguen pasando desapercibidas y ahí es donde se pueden promover las noticias falsas.

Meta anuncia su plan para etiquetas imágenes generadas por IA en Facebook e Instagram para mejorar la transparencia

Precisamente en las redes sociales es donde es más fácil poder promocionar este tipo de contenido, pues la gente puede compartirlo a sus seguidores o amigos y esto forma una cadena que puede convertirlo en algo viral. Ya hemos visto algunos casos un tanto cómicos hace tiempo, como la imagen del Papa vestido con un abrigo de la marca Balenciaga. También se han creado imágenes por IA de temática bélica, usando a su favor la guerra de Rusia y Ucrania o el conflicto entre Israel y Gaza.

Gracias a herramientas como Midjourney, Stable Diffusion o Dall-E, es posible crear cualquier imagen por IA de la temática que queramos (y esté permitida) en cuestión de unos segundos. No solo cualquier persona puede hacerlo, sino que además muchas de estas inteligencias artificiales generativas son gratuitas. Aunque hubo cierta crítica sobre el uso de la IA para este fin, no hay mucho que podamos hacer para evitar la creciente oleada de contenido. Compañías como Meta están dispuestas a controlar la situación y para ello, ha anunciado un plan para etiquetar las imágenes generadas por IA en Facebook e Instagram.

Está creando herramientas de etiquetado de IA de contenido generado por OpenAI, Midjourney, Microsoft, Adobe o Google

Meta hace referencia a las imágenes generadas por la inteligencia artificial de OpenAI (ChatGPT), Midjourney, Adobe (Photoshop con IA), Microsoft, Shutterstock y Google (Vertex AI por ejemplo). Respecto al etiquetado de IA, este es necesario para poder calificar que contenido se ha creado usando una inteligencia artificial. Dado que los programas que hacen esto automáticamente no saben diferenciar con total seguridad si algo se ha creado con una IA, se necesitan trabajadores humanos. Aunque no tiene relación con Meta, ya escribimos sobre lo turbio y difícil que puede ser trabajar en el etiquetado de IA.

Ahora que hemos hecho ese pequeño inciso, volviendo al caso de Meta, esta tomó la decisión debido a que quiere mejorar la transparencia en sus redes sociales como Threads, Instagram y Facebook. Aunque no se hace mención a la Unión Europea, nos recuerda a sus leyes DSA y DMA que exigen a las empresas tecnológicas mostrar una mayor transparencia a los usuarios. En este caso, esperan conseguir su plan de etiquetado de contenido de IA desarrollando «herramientas líderes en el sector que pueden identificar marcadores invisibles a escala». Estos marcadores son precisamente la información que genera la IA, como los metadatos.

Eso sí, Meta ya avisa de que si el contenido por IA no dispone de marcas de agua ni metadatos, no será posible su etiquetado. Si bien se están centrando en las herramientas de etiquetado de imágenes, en un futuro quieren lanzar versiones que sean compatibles con vídeos y audio generados por IA. Por último, Meta menciona que el etiquetado del texto generado por IA no es posible en la actualidad, por lo que aquí seguiremos viendo una vía libre para la inteligencia artificial.

La entrada Facebook e Instagram etiquetarán el contenido de IA que provenga de OpenAI y Google, ¿adiós a los fake? aparece primero en El Chapuzas Informático.