OpenAI ha desarrollado una herramienta con la capacidad de detectar imágenes generadas por su modelo DALL-E 3 con un alto grado de precisión. Esta herramienta representa un avance significativo en la lucha contra la desinformación digital, especialmente en un contexto donde las imágenes generadas por inteligencia artificial pueden ser indistinguibles de las fotografías reales para el ojo humano.
La herramienta de OpenAI ha demostrado ser capaz de identificar correctamente el 98% de las imágenes creadas por DALL-E 3. Sin embargo, no es infalible. Su eficacia disminuye notablemente al intentar clasificar imágenes generadas por otros modelos de IA, con una tasa de éxito que oscila entre el 5 y el 10%. Además, la herramienta enfrenta desafíos adicionales al detectar imágenes que han sido modificadas. En particular, los ajustes de tonalidad pueden reducir la precisión de detección al 82%.
La relevancia de esta herramienta se magnifica en el contexto electoral, donde las imágenes manipuladas pueden tener un impacto significativo en la opinión pública. La posibilidad de que las imágenes generadas por IA sean utilizadas con fines de desinformación o manipulación política es una preocupación creciente. Por ello, la capacidad de detectar y señalar estas imágenes es crucial para mantener la integridad de los procesos democráticos.
OpenAI ha sido transparente respecto a las limitaciones de su herramienta y está comprometida con la mejora continua de sus capacidades de detección. La colaboración con Microsoft y la financiación del Fondo de Resiliencia Social son pasos hacia la promoción de una mayor educación y alfabetización en IA. Estos esfuerzos buscan no solo mejorar la tecnología en sí, sino también equipar a la sociedad con las herramientas necesarias para comprender y navegar el complejo paisaje de la información digital.
Fuente: https://www.engadget.com