AI Es una maravillosa pieza de tecnología, pero está lejos de ser perfecta. A veces cita conocimientos obsoletos y, a veces, simplemente los inventa. Esto se conoce como alucinaciones y, si bien puede ser un inconveniente leve para algunos, podría ser potencialmente perjudicial para otros. Tanto es así que Google es ahora enfrenta una demanda por difamación por su IA.
Google se enfrenta a una demanda por difamación de IA
Actualmente, Google se enfrenta a una demanda por difamación de IA presentada por Robby Starbuck. Starbuck alegó que la IA de Google lo asoció falsamente con acusaciones de agresión sexual y con ser un nacionalista blanco. Starbuck había demandado previamente a Meta en una demanda similar, aunque en el caso de Meta, la empresa optó por llegar a un acuerdo.
Sin embargo, Google No parece estar tan ansioso. De hecho, Google ha presentado una moción para desestimar la demanda. Según la empresa, afirma que Starbuck había «abusado» de las herramientas de desarrollo para «inducir alucinaciones». Starbuck aún tiene que identificar qué indicaciones utilizó para generar los resultados que llevaron a la demanda. Tampoco está claro si hubo personas reales que pudieran haber sido engañadas por estas alucinaciones.
Starbuck reclama a Google 15 millones de dólares por daños y perjuicios, pero si Google tiene éxito en su apelación de despido, se marcharía sin nada. Google podría resolver esto fácilmente como Meta, pero como dijimos, la compañía no parece estar interesada en hacerlo en este momento.
El problema de las alucinaciones
Si bien no está claro qué impulsó a la IA de Google a producir esas alucinacionesresalta la importancia de aceptar que la IA no siempre tiene la razón. Claro, puede que tenga acceso a una gran cantidad de conocimientos, pero no siempre lo hace bien.
A veces, la IA se entrena con un conjunto de datos con una fecha límite. Esto significa que si le solicita nueva información después de esa fecha, es posible que se equivoque. Además, la IA casi nunca admite que está mal. De hecho, si revisas los subreddits de IA, encontrarás muchos ejemplos de usuarios de modelos de IA que iluminan con gas.
Sólo podemos esperar que con el tiempo y a medida que la tecnología mejore, la IA se vuelva más inteligente. Pero hasta entonces, Nunca tomes la palabra de una IA como un evangelio.. Sólo asegúrate de volver a verificar todo.
Fuente: Android Headlines