Chatgpt se está convirtiendo para Chatbots de ai Lo que Google se convirtió en la búsqueda en línea. El servicio es el más popular en su segmento, por ejemplo, liderando consistentemente las mejores aplicaciones gratuitas en la App Store de Apple. Sin embargo, no ha sido libre de controversia a lo largo de su existencia. Debido a un grave error en una producción, un hombre presentó una demanda contra ChatGPT, ya que el chatbot afirmó que el hombre había asesinado a sus hijos.
Puede que no recuerdes, pero hubo un momento en que ChatGPT no tenía acceso a Internet. Cada actualización de la plataforma también incluía una base de datos más moderna. Entonces, si hizo preguntas sobre las cosas después del límite de fecha de la base de datos del servicio, es probable que obtenga la respuesta incorrecta, o un mensaje de error.
El hombre presenta una demanda contra chatgpt por afirmar que asesinó a sus hijos
Durante ese tiempo, Arve Hjalmar Holmen le preguntó al chatbot todo lo que sabía de él. El hombre tuvo una sorpresa desagradable cuando Chatgpt afirmó que fue declarado culpable de asesinar a sus hijosademás de Intentando matar a un tercero. La plataforma también mencionó que Holmen estaba cumpliendo una sentencia de 21 años en Noruega.
Aparentemente, ChatGPT sufrió «alucinaciones» mientras generaba la salida. Las alucinaciones en las plataformas de IA ocurren cuando «inventan» información falsa y la pasan como reales, lo que afecta la confiabilidad de la producción. El chatbot supuestamente mezcló los detalles falsos con detalles reales sobre la vida del hombre. Por ejemplo, la respuesta mostró correctamente la ciudad natal de Holmen, cuántos hijos tenía y el género de sus hijos.
Es posible que la falta de acceso a Internet en ese momento impida que ChatGPT realizara más verificaciones antes de enviar la salida. La plataforma también podría haber tomado información sobre otra persona con un nombre similar y mezclarla. De todos modos, está claro que la respuesta no hizo feliz a Holmen en absoluto.
Noyb, un grupo de defensa austriaca, presentó la demanda con el noruego de datos noruego contra Chatgpt en nombre del hombre por retratarlo como un asesino condenado. La demanda afirma que Operai’s El servicio violó los requisitos de privacidad de los datos de la UE.
La producción de ChatGPT supuestamente violó los requisitos de privacidad de datos de la UE
«El GDPR es claro. Los datos personales deben ser precisos. Y si no es así, los usuarios tienen derecho a cambiarlo para reflejar la verdad«, Dijo Joakim Söderberg, abogado de Noyb».Mostrar a los usuarios de Chatgpt un pequeño descargo de responsabilidad que el chatbot puede cometer errores claramente no es suficiente. No puede simplemente difundir información falsa y, al final, agregar un pequeño descargo de responsabilidad diciendo que todo lo que dijo puede no ser cierto.«
El grupo Noyb está buscando una multa de OpenAI y la eliminación de información difamatoria sobre Holmen. También exige mejoras a ChatGPT para evitar problemas similares. Dicho esto, es posible que Operai resuelva el último requisito hace mucho tiempo. Actualmente, los resultados de ChatGPT para el mismo aviso que enumeró a Holmen cuando un asesino infantil ahora solo muestra noticias sobre la demanda.
Fuente: Android Headlines