Google prueba una marca de agua para identificar imágenes hechas por IA

Ya que los sistemas de Inteligencia Artificial crean imágenes cada vez más realistas, Google ha desarrollado una forma de identificar las fotografías y diseños generados por computadora. Aunque actualmente está solo para clientes selectos de Google Cloud, esta tecnología, llamada SynthID, representa un paso hacia la identificación de tecnologías generadas por IA.

Esto debido a que SytnID incorpora marcas de agua digitales e imperceptibles a las imágenes generadas por Inteligencia Artificial, permitiendo que sean detectadas incluso después de modificaciones como recortes o cambios de color.

Con el fin de que conozcas más del tema, en IlMaistro te explicamos todo sobre SynthID y cómo identificar imágenes hechas por IA. Para esto, sigue leyendo el siguiente artículo.

¿Qué es SynthID?

SynthID es una herramienta que utiliza una tecnología de marca de agua integrada que agrega una marca de agua digital directamente en los píxeles de las imágenes generadas por Inteligencia Artificial, haciendo que esta sea imperceptible para el ojo humano.

Te puede interesar: Cómo la inteligencia artificial está remodelando nuestras vidas

¿Cómo identificar imágenes hechas por IA con SynthID?

A diferencia de las marcas de agua comúnmente utilizadas hoy, las marcas de agua digitales de SynthID se entrelazan directamente con los píxeles. La función de SynthID se centra en usar dos herramientas juntas, una para añadir marcas de agua y otra para identificarlas.

Google optimiza estas herramientas para agregar marcas de agua que se alineen con el contenido de la imagen original, manteniendo la calidad visual y permitiendo la detección. En pruebas internas, SynthID identificó adecuadamente imágenes generadas por IA después de una intensa edición.

Esto proporciona tres niveles de confianza para indicar las probabilidades de que una imagen contenga marcas de agua de SynthID. Mientras que Google no promete la infalibilidad contra manipulaciones extremas de imágenes, SynthID brinda un enfoque técnico para utilizar las imágenes generadas por IA con responsabilidad.

Se espera que esta herramienta logre evolucionar a la par con otras tecnologías de Inteligencia Artificial, así como extender sus capacidades más allá de las imágenes y pasar a la identificación de audio, texto y video. 

¿Por qué utilizan marcas de agua digitales en la identificación de imágenes hechas por IA?

Las marcas de agua son diseños que se pueden superponer en imágenes para identificarlas. Desde impresiones físicas hasta texto traslúcido y símbolos visibles en fotografías digitales, han ido evolucionando a lo largo de la historia.

Las marcas de agua tradicionales no son suficientes para identificar las imágenes generadas por Inteligencia Artificial porque generalmente son agregadas a modo estampa en las fotografías y es sencillo que puedan ser editadas. Por ejemplo, las marcas de agua colocadas al borde de una imagen pueden ser recortadas o alteradas usando herramientas de edición.

Encontrar el balance justo entre imperceptibilidad y solidez a las manipulaciones de imágenes es difícil. Las marcas de agua muy visibles, que a menudo se agregan como una capa con un nombre o logotipo, también presentan desafíos estéticos para fines creativos o comerciales.

Del mismo modo, algunas marcas de agua imperceptibles desarrolladas previamente se pueden perder mediante técnicas de edición simples como el cambio de tamaño. Ante esta problemática, SynthID ofrece soluciones mucho más adecuadas al utilizar tecnología digital que se entrelaza con los píxeles de la fotografía.

¿Cómo pueden utilizar SynthID las empresas?

Gracias a SynthID y sus funcionalidades, el avance en la detección de imágenes generadas por IA puede ser usado en diversas empresas de la siguiente manera:

• Agregar marcas de agua imperceptibles en imágenes generadas por IA proporciona una manera de identificar el sistema de Inteligencia Artificial que fue utilizado.

• Las empresas deben considerar cuándo y cómo identificar las imágenes generadas por IA que utilizan en sus campañas. La adecuada atribución generará mayor confianza en los clientes y consumidores.

• Este tipo de tecnología genera mayores posibilidades creativas para generar imágenes por Inteligencia Artificial manteniendo las atribuciones adecuadas.

¿Cuál es el futuro de las tecnologías de identificación de imágenes hechas por IA?

Para crear contenido generado por IA de manera responsable, las empresas deben estar comprometidas a desarrollar enfoques seguros y confiables en cada paso del camino, desde la generación e identificación de imágenes hasta la alfabetización mediática y la seguridad de la información.

Estos enfoques deben ser sólidos y adaptables a medida que los modelos generativos avanzan y se expanden a otros medios. Se espera que la tecnología SynthID pueda funcionar en conjunto con una amplia gama de soluciones para creadores y usuarios de toda la sociedad.

SynthID podría ampliarse para su uso en otros modelos de IA y existe el potencial de integrarlo en más productos de Google y ponerlo a disposición de terceros en un futuro cercano, lo que permitirá a las personas y organizaciones trabajar de manera responsable con contenido generado por IA.

¡Ahora sabes todo sobre la identificación de imágenes hechas por IA! Esperamos que esta información te haya servido de utilidad y puedas trabajar de manera responsable con contenido generado por Inteligencia Artificial.

Traducido y adaptado de: Google tests watermark to identify AI images, Google unveils new tool to detect AI-generated images, Catalogue of tools & metrics for trustworthy AI y Identifying AI-generated images with SynthID