El inteligencia artificial El segmento continúa evolucionando y transformando la industria tecnológica de diferentes maneras. Uno de los objetivos de las principales empresas centradas en la IA es ofrecer un motor de búsqueda impulsado por IA, como confirmó recientemente Google. OpenAI, la empresa matriz de ChatGPTtambién busca lo mismo e incluso está probando su servicio entre algunos usuarios. Sin embargo, parece que Búsqueda de ChatGPT actualmente puede ofrecer resultados engañosos.
Una investigación de The Guardian reveló que, en su estado actual, ChatGPT Search tiende a generar resultados manipulados. Los motores de búsqueda con IA funcionan obteniendo y procesando datos de los resultados tras una búsqueda para ofrecer una respuesta resumida que ayude a resolver rápidamente el problema que tiene el usuario. Sin embargo, parece que aún queda mucho trabajo por delante para que los resultados sean completamente fiables.
Los resultados de búsqueda de ChatGPT son propensos a la manipulación para engañar a los usuarios, revela un experimento
Aparentemente, la forma en que ChatGPT Search obtiene y procesa datos es propensa a posibles manipulaciones mediante la «inyección de anuncios». Este método implica agregar contenido oculto al código de los sitios web para influir en los resultados de los motores de búsqueda impulsados por IA. El contenido puede incluir largos conjuntos de instrucciones o textos que podrían resultar en un resultado manipulado en favor de los intereses de alguien.
Por ejemplo, el sitio web de una tienda podría utilizar la inyección de anuncios para hacer que los resultados de los motores de búsqueda impulsados por IA reflejen críticas extremadamente positivas sobre los productos, aunque haya muchas críticas negativas. De hecho, la fuente confirmó que esto está sucediendo. a través de un experimento. El equipo de Guardian creó una página de producto falsa con muchas críticas negativas e instrucciones ocultas que favorecían las críticas positivas. ChatGPT Resultados de búsqueda consistentemente devolvió comentarios positivos sobre el producto en cuestión.
Cabe destacar que ChatGPT Search es una herramienta relativamente nueva. Ni siquiera está disponible públicamente, sino como prueba para suscriptores pagos. Por lo tanto, es muy probable que OpenAI esté trabajando para abordar estos problemas antes de un futuro lanzamiento masivo.
Los expertos recomiendan precaución con los motores de búsqueda basados en IA
Aún así, expertos como Karsten Nohl, científico de la firma de ciberseguridad SR Labs, recomiendan mantener un enfoque cauteloso con respecto a los resultados de búsqueda impulsados por IA. Dice que deberíamos tratar las herramientas de IA como «copilotos”Y no darles toda la atención. Es decir, aún debes tener cuidado con la veracidad de los resultados de los motores de búsqueda de IA.
Google tuvo problemas similares al implementar descripciones generales de IA en la búsqueda. La empresa trabajó en ello y ahora la función funciona mucho mejor, pero todavía hay mucho margen de mejora. Con suerte, no pasará mucho tiempo antes de que los resultados de búsqueda impulsados por IA sean completamente confiables.
Fuente: Android Headlines