Google está tomando medidas para abordar una de las principales preocupaciones en la era de la IA. El uso de imágenes manipuladas con fines maliciosos está en el radar de las empresas desde hace un tiempo. Ahora, Google está dando un nuevo paso hacia la transparencia en el uso de la IA generativa.
Todavía hay personas que dudan en utilizar inteligencia artificial para generar imágenes. Por ejemplo, algunos artistas creen que los servicios basados en inteligencia artificial roban sus obras de Internet sin su consentimiento, mientras que a otros les preocupa el posible uso indebido de imágenes manipuladas. Por tanto, los grandes nombres del segmento tienen por delante la difícil tarea de convencer al público.
«Acerca de esta imagen» mejorado de Google para brindar más transparencia sobre las imágenes generadas por IA
En esta línea, Google está implementando herramientas para una mayor transparencia sobre el origen de las imágenes, incluidas aquellas generado por servicios de IA. A principios de este año, la empresa se unió al comité de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Desde entonces, han estado ayudando a desarrollar tecnologías que ayudan a identificar el «rastro» de imágenes en Internet. Ahora, un nueva publicación de blog de la empresa proporciona actualizaciones.
En los próximos meses, los resultados de la Búsqueda de Google obtendrán una función mejorada «acerca de esta imagen». La empresa será implementar metadatos C2PA para que la función sea más potente. Los metadatos de C2PA pueden indicar si una imagen se originó a partir de IA, se sometió a edición o se originó directamente desde una cámara. La función «Acerca de esta imagen» ya era capaz de mostrar etiquetas de imágenes generadas por IA. Sin embargo, la integración con los metadatos de C2PA le permitirá mostrar más información sobre el origen de la imagen.
Mejoras impulsadas por el estándar C2PA
Si no lo sabes, el estándar C2PA incluye una serie de datos técnicos que crean un rastro del origen de una imagen. Grandes nombres como Google, Amazon, OpenAI, Microsoft, Adobe, Intel y Arm han respaldado el estándar. Sin embargo, la implementación en sus herramientas principales ha sido un poco lenta. La medida de Google podría inspirar a otras empresas a tomar medidas al respecto.
Todavía existen algunas limitaciones técnicas para la implementación masiva de metadatos C2PA. En cuanto al hardware de la cámara, actualmente sólo unos pocos modelos de Leica y Sony lo admiten. Se espera que las cámaras Nikon y Canon también sean compatibles en el futuro. Además, todavía no hay noticias sobre el soporte en dispositivos Android e iOS. En cuanto al software, importantes herramientas de edición siguen sin ser compatibles. Por ejemplo, Photoshop y Lightroom de Adobe admiten los estándares C2PA, mientras que otros como Affinity Photo o Gimp aún no lo hacen. Además, no todas las plataformas sociales pueden mostrar todavía etiquetas generadas por IA.
En general, es sólo cuestión de tiempo antes de que se produzca una adopción masiva de estándares y legislación para la IA. Los LLM conquistaron el mundo y se desarrollaron a un ritmo más rápido que los legisladores y los desarrolladores de estándares. De hecho, a principios de agosto de 2024 se estableció la primera Ley de IA de la UE.
Fuente: Android Headlines