En la era de la IA, los temas de derechos de autor y legitimidad del contenido han recibido mucha atención. Ya sea para determinar si un contenido se utilizó con autorización para el entrenamiento de IA o si se generó una imagen/vídeo realista inteligencia artificiallas herramientas de detección de legitimidad del contenido son clave en la industria. Google DeepMind ahora ha introducido una herramienta de marca de agua con IA centrada en texto.
SynthID, la herramienta de marca de agua de Google DeepMind centrada en detectar texto generado por IA
La nueva herramienta, llamada SynthID, fue diseñada para detectar texto generado por los modelos Gemini de Google. Sin embargo, DeepMind, la división de la empresa centrada exclusivamente en Desarrollos basados en IA, lo abrió a desarrolladores externos. Esto significa que cualquier empresa externa centrada en la IA puede aprovechar los recursos y las API de SynthID para permitir la detección de texto a través de sus propios desarrollos.
SynthID se une Herramientas similares de DeepMind desarrolladas para identificar imágenes, música y videos generados por IA. Funciona realizando ligeras modificaciones en el texto analizado para alterar el resultado probabilístico del modelo. Luego, compara directamente el texto original con la versión modificada para obtener un resultado. Básicamente, determina la probabilidad de que un modelo de IA en particular (como Gemini) genere ciertas cadenas de palabras, oraciones y párrafos presentes en el texto.
Google DeepMind afirma que su herramienta de marcas de agua con IA tiene cuidado de no realizar demasiadas modificaciones en el texto original. Una entrada que difiere significativamente de la original puede distorsionar potencialmente los resultados de la comparación. Cruzar esta fina línea podría afectar potencialmente la validez del resultado. Sin embargo, la división de IA de Google afirma tenerlo bajo control.
Pruebas DeepMind para garantizar la autenticidad de los resultados
Para asegurarse de que SynthID no fuera demasiado lejos al modificar el contenido del texto original, DeepMind realizó pruebas con aportación humana. La división de inteligencia artificial de Google envió a las personas alrededor de 20 millones de pasajes de texto generados por Gemini. Algunas personas recibieron el contenido de texto generado en su forma original, mientras que otras recibieron el mismo contenido modificado por SynthID para las pruebas de detección. Los resultados mostraron que todos los pasajes del texto, originales y modificados, eran prácticamente indistinguibles.
El hecho de que SynthID sea de código abierto es fantástico, pero también hay algunos inconvenientes a considerar. Por ejemplo, los malos actores podrían usarlo para aprender a eludir las herramientas de detección de contenido generadas por IA. Podrían utilizar ese conocimiento para desarrollar herramientas de inteligencia artificial que generen texto indetectable mediante herramientas de marcas de agua. Sin embargo, suponemos que DeepMind también es consciente de esto y está preparado.
Fuente: Android Headlines