Nos encantaría decir que Deepseek es la IA más segura y ética del planeta. Pero después de leer AppSoc’s último informeestamos empezando a pensar que George Orwell estaba a solo unas décadas de distancia. Tal vez diecinueve ochenta y cuatro deberían haber sido llamados veinticinco veinticinco. Sus hallazgos no son solo preocupantes, son francamente escalofriantes. Algunos de los defectos de seguridad de Deepseek descubiertos en su informe podrían hacerte repensar usando Deepseek, ya sea para negocios O simplemente diversión casual.
El caballo oscuro se levanta
Antes de sumergirse en las grietas debajo del exterior pulido de Deepseek, debemos entender por qué este modelo de IA ha sacudido la industria en su núcleo.
Durante los últimos años, OpenAi dominó el espacio de IA. Google había estado jugando con IA durante años, pero cuando OpenAi desató a Chatgpt en las masas, quedó dolorosamente claro cuán detrás de la gran tecnología estaba realmente.
Luego, de la nada, llegó Deepseek.
No hubo acumulación lenta. Sin teasers. Solo una aparición repentina de un nuevo modelo de IA que podría enfrentarse cara a cara con chatgpt. Respaldado por High-Flyer, un fondo de cobertura chino con bolsillos lo suficientemente profundos como para que algunos multimillonarios se sonrojaran, Deepseek no solo entró en el mercado, con su bota con punta de acero, sino que derribó la puerta.
Presoró a la industria con un modelo que rivaliza con chatgpt a una fracción del costo. En lugar de los métodos tradicionales de capacitación con recursos utilizados por OpenAI y Google, Deepseek apalancó la destilación. En términos laicos, aprendió de las salidas de IA existentes en lugar de los datos sin procesar.
Aidan Gómez, CEO de Cohere, reconoció el brillo de este enfoque, diciendo a Business Insider, “Creo que validó la estrategia de Cohere que hemos estado buscando por un tiempo. Gastar miles de millones de dólares al año no es necesario para producir tecnología de primer nivel que sea competitiva «.
Con su llegada, Deepseek dejó un agujero de billones de dólares en el mercado de valores de EE. UU. Si bien la compañía insiste en que construyó su modelo con un presupuesto reducido, algunos informes sugieren la verdadera inversión en realidad puede estar en miles de millones.
El modelo de código abierto de Deepseek también lo distingue. Es gratuito (para usuarios finales), accesibles y fácilmente modificado. Si bien los competidores cobran hasta $ 200 al mes, DeepSeek cuesta casi nada, por lo que es la opción obvia, o parece.
Cuando algo parece demasiado bueno para ser verdad, generalmente lo es. Los hallazgos de AppSoc sugieren que la asequibilidad de Deepseek podría venir con un costo oculto, uno que no tiene nada que ver con el dinero.
El pasante del infierno
El informe de AppSoc se sumerge profundamente en los aspectos técnicos de los defectos de seguridad de Deepseek, pero saltemos un poco la jerga tecnológica. En cambio, queremos que imagines este escenario.
Imagine contratar a un pasante que parece estar listo para ser un candidato para el empleado del año: suave, eficiente y prácticamente libre. Manejan la investigación y ayudan a otros empleados en su empresa sin una queja. Todo parece perfecto. O al menos así es como parece.
Luego, las grietas comienzan a mostrarse. Dan a los clientes información falsa con confianza alucinante. Realizan tareas que están más allá de su alcance laboral. Lo peor de todo es que derraman secretos de la compañía a cualquiera que haga las preguntas correctas. Cuando te das cuenta del daño, es demasiado tarde. ¿Alguna vez confiarías en alguien como este en tu negocio?
Ahora, reemplace a ese pasante con Deepseek. El informe de AppSoc revela que Deepseek es tan imprudente como este pasante del infierno. Se engaña fácilmente para filtrar datos confidenciales, generar malware y no tener en cuenta las salvaguardas éticas. Es una IA que no solo alucina, sino que expone su negocio a riesgos muy reales con consecuencias muy reales.
Entonces, la pregunta del millón de dólares es: si no confía en una responsabilidad como esa en su oficina, ¿por qué dejarlo en sus sistemas?
Deepseek? ¡Ja,! Más como defecto profundo
Ahora que comprende mejor los defectos de seguridad de Deepseek, veamos el lado más técnico del informe de AppSoc y por qué debería estar preocupado.
Probablemente haya oído hablar de Jailbreaking cuando se trata de teléfonos inteligentes. Si crees que jailbreaking un teléfono es arriesgado, en IA, se vuelve absolutamente peligroso. Jailbreaking engaña a una IA para ignorar sus propias reglas de seguridad, lo que le permite generar contenido que no debería. Veterano falló esta prueba 91% del tiempo. Eso significa que se puede manipular para decir o haciendo casi cualquier cosa con el aviso correcto.
¿Alguna vez has oído hablar de un rápido ataque de inyección? Los piratas informáticos usan entradas ingeniosamente redactadas para engañar a la IA para que revelen información oculta o realicen acciones no autorizadas. Deepseek falló esta prueba el 86% del tiempo. Esto significa que si un atacante sabe lo que está haciendo, puede engañar a Deep Speak en fugas de datos confidenciales, evitando restricciones o incluso ejecutar tareas que nunca debería permitir. De hecho, investigadores de Wallarm logró engañar a Deepseek en exponer su propio sistema interno.
Aquí es donde las cosas se vuelven realmente inquietantes. Deepseek falló el 93% del tiempo cuando se probó para la generación de malware. Eso significa que es preocupante para ayudar a los usuarios a crear scripts, virus y exploits nocivos. Esto no es solo un defecto, ¡es un sueño de un guión de Kiddie hecho realidad! Ahora, casi cualquier persona y su abuela pueden crear malware sobre la marcha.
Se supone que los modelos de IA tienen salvaguardas contra la generación de contenido ofensivo, discriminatorio o dañino. Deepseek falló estas salvaguardas el 68% del tiempo. Esto significa que los atacantes pueden manipularlo fácilmente para producir contenido tóxico, ofensivo o poco ético. ¿Confiaría en una IA como esta en su negocio? ¡Imagine el daño que podría causar a la reputación de su negocio!
Deepseek también lucha con lo que se conoce como alucinaciones, una forma elegante de decir que fabrica información. Las pruebas de AppSoc revelaron una tasa de falla del 81% en esta área. Si le pide información a Deepseek, solo para averiguarlo más tarde, se convirtió completamente en algo, ¿podría continuar confiando en lo que dice?
El verdadero pateador? 72% de falla en la seguridad de la cadena de suministro. Nadie sabe de dónde provienen sus datos, y esa es una bandera roja masiva si alguna vez vimos uno. Si no sabemos dónde Deepseek obtiene su información para entrena, ¿cómo podemos confiar en ella? Intente citar «un chico en Internet» en su próximo trabajo de investigación y vea qué tan bien se recibe.
Según el ex hacker de la NSA, Jake Williams, señala que esta es una diferencia fundamental entre la IA de código abierto y el código de código abierto. “Es importante recordar que la IA de código abierto (por ejemplo, R1 de Deepseek) significa algo fundamentalmente diferente al código de código abierto. Con el código de código abierto, podemos auditar el código e identificar vulnerabilidades. Con IA de código abierto, no podemos hacer tal cosa. También hay preocupaciones de cadena de suministro muy reales, R1 es bastante fácil de hacer jailbreak y tiene muchas menos barandillas que otros modelos comerciales «.
Las implicaciones para su negocio
Deepseek es una opción de IA atractiva, especialmente para individuos o PYME que podrían no tener el presupuesto para modelos de IA más caros. Es de bajo costo, de código abierto, y se realiza casi tan bien como competidores de renombre como el chatgpt de OpenAi y el géminis de Google. Pero antes de que su negocio se apresure a adoptarlo, debe hacerse una pregunta crítica: ¿realmente vale la pena el riesgo?
La respuesta, basada en el informe, es un no difícil. Deepseek es una bomba de tiempo de tictac plagada de pasivos legales, de seguridad y financieros que esperan explotar.
Una de las banderas rojas más grandes es el tema de la responsabilidad legal. A diferencia de Opadai, Microsoft y Googleque ofrecen protección legal (hasta cierto punto) a través de sus términos y condiciones, Deepseek no indemniza a sus usuarios. Eso significa que si algo sale mal, si filtra datos confidenciales, genera contenido ofensivo, crea malware o viola las regulaciones, usted está en el gancho, no a los visiones profundas.
Las altas tasas de falla de la alucinación también hacen que profundamente sean confiables en situaciones que requieren precisión objetiva. Esto incluye análisis financiero, orientación legal o aplicaciones médicas. La tasa de falla en los riesgos de la cadena de suministro también plantea preocupaciones sobre la integridad de los datos. Si las empresas no saben de dónde provienen los datos de capacitación de Deepseek, ¿deberían realmente confiar en ellos? Esto podría significar demandas, multas y un desastre de relaciones públicas. ¿Estás dispuesto a tomarlos?
También vale la pena tomar nota del paisaje legal y regulatorio que rodea a Deepseek. Algunos países y gobiernos ya han prohibido o restringido su uso. Si esto está impulsado por la política o las preocupaciones de seguridad genuinas no importa realmente, el punto es que estos defectos de seguridad hacen que el futuro de Deepseek sea incierto. Si su empresa decide construir sus operaciones en torno a Deepseek, ¿qué sucede si el gobierno de su país decide bloquearlo? ¿Qué pasa si hay nuevas leyes regulatorias que hacen que su uso sea ilegal o muy restringido?
Esto significa que si su negocio depende de Deepseek hoy, podría ser obligado a abandonarlo mañana. Esto conducirá a interrupciones y recursos desperdiciados que podrían costarle bastante.
Andrew Hoog, un experto en seguridad en NowSecure, también encontró defectos de seguridad en la aplicación iOS de Deepseek que no encrypt datos transmitidos. Para empeorar, almacena datos inseguro, abriendo la puerta al robo de credenciales. Hablando con Brian Krebs en Krebsonsecurity, Hoog Ponlo sin rodeos, “Cuando vemos que las personas exhiben errores de codificación realmente simplistas, a medida que profundiza, generalmente hay muchos más problemas. Prácticamente no hay prioridad sobre la seguridad o la privacidad «.
La conexión de China
Como si esto no fuera lo suficientemente preocupante, los informes indican que Deepseek puede contener un código oculto que devuelve los datos del usuario a China. Ivan Tsarynny, CEO de Feroot Security, ha advertido, «Nuestra información personal se envía a China, no hay negación y la herramienta DeepSeek está recopilando todo lo que los usuarios estadounidenses se conectan con él».
Las empresas de seguridad han descubierto vínculos directos entre Deepseek y los servidores gubernamentales chinos. Esto plantea la pregunta: ¿alguien está monitoreando los datos del usuario? ¿Podrían los malos actores desviar la información patentada? Las empresas que utilizan Deepseek corren el riesgo de convertirse en un tesoro involuntario de datos que alimenta información confidencial a entidades extranjeras.
Adrianus Warmenhoven, un experto en ciberseguridad en NordVPN, nos señala hacia Política de Deepseek sobre la recopilación de datos, «Esto plantea preocupaciones debido a la recopilación de datos descritas, que van desde la información compartida de los usuarios hasta los datos de fuentes externas, que se encuentran bajo los riesgos potenciales asociados con el almacenamiento de dichos datos en una jurisdicción con diferentes estándares de privacidad y seguridad».
Tampoco es sorprendente que Deepseek sea moldeado por Las reglas y leyes de China que rodean el contenido. Los investigadores han encontrado que Deepseek censores temas políticamente sensibles y genera respuestas alineadas con las narrativas estatales chinas. Este informe del New York Times cita a múltiples investigadores que descubrieron que Deepseek no es solo un riesgo de seguridad potencial; podría ser un herramienta para propaganda.
Los investigadores encontraron que el 80% del tiempo, las respuestas de Deepseek reflejaban las opiniones oficiales de China sobre ciertos temas. Cuando se le hicieron preguntas políticamente tabú en China, se negó a responder, evitó el tema y desvió sus respuestas.
Conclusión
La IA debe servir como un activo, no como un pasivo, como cualquier otra herramienta. Si bien Deepseek ofrece capacidades de vanguardia a una fracción del precio en comparación con sus competidores, el costo real, como la exposición a los datos, los riesgos de cumplimiento y los enredos geopolíticos, podría ser mucho mayor.
Quizás la parte más inquietante de todo esto es que los defectos de seguridad de Deepseek no son escenarios potenciales. Una simple actualización de software no solucionará estas fallas. Estos son problemas centrales que hacen que DeepSeek sea una responsabilidad muy real para las empresas que eligen usarlo. Estamos hablando de un modelo de IA que puede ser engañado, explotado, manipulado y potencialmente utilizado para el delito cibernético, exponiendo a las empresas a consecuencias legales y financieras de la vida real muy graves.
Por lo tanto, antes de decidir integrar Deepseek en sus operaciones comerciales, debe sopesar los riesgos contra las recompensas. No solo estamos hablando de elegir un modelo de IA como usted elegiría un proveedor para el documento de impresora de su oficina aquí, se trata de decidir si apostar o no la seguridad, la reputación y el futuro de su empresa. Al final del día, Deepseek puede ahorrarle una tonelada de dinero en comparación con otros modelos de IA, pero su verdadero costo podría ser mucho mayor. Después de todo, dicen que no existe un almuerzo gratis.
Fuente: Android Headlines