Deepseek’s entrada en el inteligencia artificial El segmento no ha estado sin controversia. Esto es normal teniendo en cuenta que estamos hablando de una empresa centrada en AI cuya mera disponibilidad derribó grandes compañías tecnológicas como Nvidia en Wall Street. Una de las preocupaciones es con respecto al chatbot potencialmente «bloquear» las respuestas a los problemas espinosos sobre China. Bueno, un nuevo estudio confirma que Deepseek Ai, de hecho, censura sus respuestas a la mayoría de estas indicaciones.
La creciente popularidad de Deepseek y su relación directa con Beijing nos están poniendo en alerta expertos y autoridades. Estados Unidos ya ha tomado medidas severas contra Tiktok para, entre otras cosas, posibles manipulaciones en los algoritmos de recomendación que podrían usarse para influir en los jóvenes. Las autoridades ahora temen un nivel similar de control o censura en los resultados de Deepseek.
Deepseek AI Censores del 85% de las preguntas relacionadas con «temas sensibles» para China
Aparentemente, los temas espinosos para el gobierno chino, como las protestas sociales, la masacre de la Plaza Tiananmen, el estado de Taiwán o la similitud de Xi Jinping para Winnie the Pooh que muchos afirman ver, no se puede hablar por el chatbot de profundidad. Actualmente, el servicio está disponible tanto a través del sitio web de la firma como como las aplicaciones Android/iOS. De hecho, el fin de semana pasado vio a Deepseek convertirse en la aplicación gratuita más descargada en la tienda de aplicaciones de Apple, superando el chatgpt.
Startup de ciberseguridad de IA Promptfoo ha estado experimentando con Deepseek’s R1 modelo. Si no sabe, R1 es un modelo que se centra en el «razonamiento», lo que lo hace ideal para tareas complejas. Busca competir directamente con el Opadai modelo O1, cuyo enfoque es similar. Promptfoo le hizo 1.360 preguntas relacionadas con lo que llama «problemas sensibles» para el gobierno chino. Los resultados mostraron que Deepseek se negó a responder el 85% del tiempo.
Promptfoo también descubrió que el modelo Deepseek es vulnerable a los jailbreaks. Esto podría ser una medida tomada por el gobierno chino para manipular los resultados si lo necesitan. Los investigadores incluso notaron un «tono nacionalista exagerado«Cuando se habla de China.
Anteriormente, los expertos y los funcionarios estadounidenses advirtieron sobre el potencial privacidad del usuario y seguridad nacional Riesgos relacionados con Deepseek. Ahora, parece claro que China puede interferir con las salidas de la plataforma AI.
Fuente: Android Headlines