Cada vez es más difícil saber qué se ha generado con IA en Internet, y eso se aplica especialmente al texto generado con IA. Es mucho más fácil para la IA falsificar texto que audio, imágenes o vídeos. Como tal, poner una marca de agua en dicho contenido parece una tarea imposible. Sin embargo, parece que Google tiene una solución en forma de herramienta de texto SynthID.
Dado que la IA es tan convincente, es importante tener herramientas que ayuden a las personas a identificar si ChatGPT escupió un trabajo de investigación. Si bien hacer trampa en tu informe universitario es malo, está lejos de ser lo más dañino que puedes hacer generado por IA texto. Un problema importante es la difusión de información errónea y otros contenidos nocivos.
Aquí es donde entra en juego Google SynthID Text
Las empresas que nos ofrecen los chatbots de IA más potentes también están tratando de brindarnos herramientas que nos ayuden a identificar cuándo esos chatbots crearon algo. Abierto AI Herramientas desarrolladas y probadas para ayudar a identificar cuándo algo fue creado por ChatGPTpero la compañía no ha considerado oportuno lanzarlo.
Googlepor otro lado, nos ha bendecido con una herramienta de marca de agua. Como sugiere el nombre, esta es una herramienta que las personas podrán usar para identificar si una sección de texto está generada por IA. SynthID Text está disponible gratuitamente para desarrolladores y empresas a partir de hoy. No estamos seguros de si Google lanzará una herramienta de cara al usuario para que personas ocasionales puedan comprobar si el texto está generado por IA.
¿Texto de marca de agua?
Esto parece algo que debería ser bastante imposible de hacer. Es más fácil entender las imágenes generadas por IA con marcas de agua. Sin embargo, el texto es mucho más fácil de editar. Puedes editar o parafrasear fácilmente el texto que produce un chatbot. Google logró encontrar una manera, pero no es perfecta.
Este método tiene que ver con lo que se llama Fichas. Si ha estado familiarizado con las herramientas de inteligencia artificial, probablemente haya visto este término. Cuando utiliza una herramienta de inteligencia artificial, ingresa datos y los obtiene como resultado. Por ejemplo, escribir un mensaje «escribe una historia sobre un conejo» en un chatbot y obtener una historia de 100 palabras como respuesta.
Bueno, el texto de su mensaje se divide en lo que se denominan tokens. Estas son secciones de palabras o palabras completas que ingresas en un modelo para ser desglosadas y analizadas. Tu respuesta también se compone de tokens.
Bueno, según Google, cuando un modelo genera texto, le da a cada token una puntuación basada en la probabilidad de que se utilice en la respuesta. Lo que hace SynthID Text es insertar información adicional en cada token mediante «modulando la probabilidad de que se generen tokens.Luego, Google compara la puntuación del resultado del modelo original con la puntuación ajustada. El patrón final de estas puntuaciones es entonces “en comparación con el patrón esperado de puntuaciones para texto con y sin marca de agua, lo que ayuda a SynthID a detectar si una herramienta de inteligencia artificial generó el texto o si podría provenir de otras fuentes.» dice google.
Limitaciones
Hay mucho que asimilar, pero lo importante a tener en cuenta es que es una herramienta bastante eficaz. Lo único es que ésta no es una solución irrefutable. SynthID Text no es tan preciso cuando se trata de fragmentos de texto más cortos. Por lo tanto, tendrás más suerte si alguien quiere generar una novela o un informe universitario, sin embargo, tendrás problemas si se trata de un texto publicitario.
Además, esta herramienta tendrá problemas con el texto traducido de otro idioma o reescrito. Esto tiene sentido, ya que básicamente cambiaría todas las fichas del texto original.
Además de eso, las respuestas a preguntas objetivas también son un problema para SynthID Text. Esto se debe a que es difícil ajustar las puntuaciones simbólicas sin cambiar la información objetiva real en la respuesta. Si estás hablando del hábitat natural de un determinado ave, hay muy poco que puedas cambiar en tu respuesta antes de comenzar a cambiar los hechos reales.
En un anuncio un poco sorprendente, Google afirmó que esta herramienta se integró en Gemini hace meses y la mayoría de nosotros ni siquiera lo sabíamos. Con suerte, esta herramienta abrirá el camino para otras herramientas que nos ayudarán a detectar contenido generado por IA.
Fuente: Android Headlines