El avance de Deepseek en el AI Mundo ha causado un terremoto importante. Acciones de algunos de los Los principales proveedores de hardware de IA de EE. UU. Cambiaron ayer. Nvidia fue el más afectado, perdiendo el equivalente de casi $ 600 mil millones en unas pocas horas. Las empresas de desarrollo de software de IA también sintieron el impacto, aunque en menor medida. Dicho esto, los expertos advierten sobre los riesgos de seguridad potenciales de usar Deepseek AI.
Deepseek Chatbot, también disponible como una aplicación para iOS y Android, funciona con el modelo de IA Deepseek-V3. Deepseek-V3 es de código abierto, lo que ayuda a proporcionar confianza en su uso. Cualquier persona con el conocimiento necesario podría auditar el código y detectar cualquier cosa fuera de lugar o potencialmente arriesgado. Sin embargo, todavía hay preguntas sobre la política de manejo de datos de la compañía.
Las políticas de manejo de datos desconocidas de Deepseek AI conllevan riesgos potenciales de seguridad, los expertos advierten
J. Stephen Kowski, CTO de campo de la firma de ciberseguridad SlashNext Security+, Dicho Decrypt eso «La política de privacidad de Deepseek no está clara, y los controles en su aplicación web no son bien conocidos.Aparentemente, la empresa no ofrece detalles más específicos sobre cómo maneja los datos del usuario obtenidos a través de su chatbot. «¿Qué hacen con los datos, cómo se maneja, a dónde va y cuánto tiempo se mantiene? Estas son preguntas críticas que deben abordarse«, Agregó Kowski.
Los usuarios han tratado de preguntar a Deepseek AI si los datos que obtienen se mantienen privados, a lo que el chatbot responde que la empresa «está comprometido a proteger la seguridad y la privacidad de los datos del usuario. No participamos en ninguna forma no autorizada de vigilancia. » Algunas personas en Twitter advierten sobre el acceso potencial del gobierno chino a sus datos. Otros recomiendan solo usarlo una vez que el código tenga se sometió a una auditoría completa.
También hay preocupaciones relacionadas con las vulnerabilidades ya descubiertas. «Ya existen vulnerabilidades validadas, como secuencias de comandos de sitios cruzados (XSS) y ataques de inyección inmediatos que pueden secuestrar las sesiones de usuario durante las sesiones web«, Dijo Kowski. «Por lo que he leído, su código puede ser potencialmente manipulado para ejecutar comandos no autorizados«, Agregó.
El gobierno chino puede tener influencia sobre las respuestas de chatbot
Otras dudas se centran en la influencia potencial de las autoridades chinas en el chatbot. A preguntas que son «controvertidas» para Beijing, como si Xi se parece a Winnie the Pooh o sobre una imagen de un hombre con bolsas de supermercado frente a los tanques en la Plaza Tiananmen, Deepseek responde de la siguiente manera: «»Lo siento, eso está más allá de mi alcance actual. Hablemos de otra cosa. «
Kowski también cree que el rápido crecimiento de Deepseek se debe al menos escrutinio regulatorio al que otras compañías de IA han sido sometidas. La lista incluye el chatgpt de Openai, Google Gemini y Claude AI de Anthrope, entre otros.
Fuente: Android Headlines