Google, Meta y OpenAI han anunciado en los últimos días diferentes medidas para facilitar la identificación de imágenes o archivos que hayan sido producidos o retocados con inteligencia artificial (IA). Estas iniciativas se enmarcan en el temor de que la difusión indiscriminada de mensajes falsos condicione los resultados de las elecciones o tenga otras consecuencias inesperadas. Las tres empresas ya habían anunciado que intentarán impedir el uso de IA en los procesos electorales de 2024.
Después de años de invertir miles de millones de euros en mejorar la capacidad de la inteligencia artificial generativa, las tres plataformas se han sumado a la Coalition for Content Provenance and Authenticity (C2PA), que propone un certificado estándar y aglutina a buena parte de la industria digital, los medios de comunicación. medios como la BBC o Los New York Times a bancos y fabricantes de cámaras. Las empresas admiten en sus comunicados que actualmente no existe una solución única, ni eficaz en todos los casos, para la identificación de contenidos generados con IA.
Las iniciativas varían entre marcas visibles en las propias imágenes y mensajes ocultos en los metadatos del archivo o en píxeles generados artificialmente. Con su herramienta aún en versión beta, SynthID, Google también dice que ha encontrado una manera de identificar el audio.
El estándar C2PA para ingresar información en metadatos de imágenes tiene numerosas debilidades técnicas, identificadas en detalle por los desarrolladores. La propia OpenAI, que utilizará C2PA en Dall-3 (su generador de imágenes), advierte en su comunicado de que no debemos confiar demasiado en sus posibilidades: “Los metadatos como C2PA no son una solución milagrosa para abordar cuestiones de procedencia. Se puede eliminar fácilmente de forma accidental o intencionada. Una imagen que carece de estos metadatos puede haber sido generada o no con ChatGPT o nuestra API”, afirmó la empresa que creó el chatbot que ha popularizado la inteligencia artificial generativa.
Las empresas no dan plazos claros para la plena implantación de sus medidas. Este 2024 es un año lleno de eventos electorales en países importantes y la influencia de los contenidos generados por la IA puede ser explosiva. La necesidad de protegerse preventivamente es vital. “Estamos desarrollando esta capacidad y en los próximos meses comenzaremos a aplicar etiquetas en todos los idiomas que soporta cada aplicación”, afirma en su comunicado Nick Clegg, presidente de asuntos públicos de Meta.
Meta promete no sólo etiquetar visualmente las imágenes generadas por sus herramientas de IA, sino también detectar e identificar las publicadas en sus redes: Instagram, Facebook y Threads, siempre que sea posible. «Podemos etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock a medida que implementan sus planes para agregar metadatos a las imágenes creadas por sus herramientas», dice Clegg.
Google aplicará sus métodos a YouTube. Aunque estos enfoques afirman representar el estado del arte de lo que es técnicamente posible en este momento, la compañía cree que su método creado por SynthID puede sobrevivir a modificaciones voluntarias para ocultarlo, como «agregar filtros, cambiar colores y guardar con varias compresiones con pérdida». esquemas, que son los más utilizados para archivos JPEG”.
puedes seguir EL PAÍS Tecnología en Facebook y X o regístrate aquí para recibir nuestra boletín semanal.
