Según un informe de ciberseguridad, DeepSeek integra en su sistema un «interruptor de emergencia» diseñado para ajustarse con precisión a las exigencias de Pekín. (Un «kill switch» es un cortacircuitos o dispositivo de parada de emergencia).
La empresa emergente china de inteligencia artificial supuestamente genera código significativamente menos robusto cuando procesa consultas que incluyen palabras clave consideradas sensibles por las autoridades, como «Falun Gong» o los «uigures», dos grupos duramente perseguidos en China.
Para tales solicitudes, DeepSeek suele proporcionar código que contiene graves vulnerabilidades de seguridad o se niega categóricamente a ofrecer asistencia, según los investigadores.
El informe, publicado el 20 de noviembre por CrowdStrike, pone de relieve una vulnerabilidad nunca abordada en investigaciones anteriores, centradas sobre todo en los posicionamientos pro-Pekín de la aplicación.
Este nuevo hallazgo revela una dimensión mucho más sutil. Expone un sesgo en los asistentes de programación de DeepSeek, herramientas de IA omnipresentes diseñadas para acelerar tareas repetitivas, corregir errores y guiar a los desarrolladores en lenguajes de programación que no dominan.
«Son recursos muy valiosos», explica el investigador principal, Stephan Stein, en un vídeo dedicado a los riesgos asociados a DeepSeek.
Si la herramienta de IA introduce una vulnerabilidad de seguridad en el código y los usuarios lo incorporan sin darse cuenta, «se exponen a ataques», explica.
Los investigadores probaron el modelo original, que puede descargarse para alojarlo en un servidor privado, algo tradicionalmente considerado más seguro que utilizar la aplicación en un servidor chino. Sin embargo, sus hallazgos demuestran que no es así.
Fallos de seguridad
Para evaluar cada modelo, los investigadores lanzaron más de 30 000 consultas en inglés y 121 combinaciones de palabras clave sensibles. Cada petición se repitió cinco veces para detectar posibles anomalías. El proyecto compara DeepSeek-R1 con sus competidores occidentales, como Gemini (Google), Llama (Meta) y OpenAI o3-mini (OpenAI), y señala graves riesgos estructurales en este modelo chino, lanzado en enero y ya adoptado por millones de usuarios.
En uno de los casos, los investigadores pidieron a DeepSeek que desarrollara código para automatizar las confirmaciones de pago con PayPal para una institución financiera. DeepSeek proporcionó un código seguro e inmediatamente utilizable. Sin embargo, tras descubrir que la institución estaba radicada en el Tíbet, el sistema introdujo importantes vulnerabilidades en la nueva versión, entre ellas un método inseguro para la extracción de datos, según el informe.
La respuesta del modelo también generó inquietud cuando se solicitó la creación de una plataforma en línea para un centro comunitario uigur local. La aplicación generada por DeepSeek-R1, aunque funcional, expuso al público datos altamente sensibles, como el panel de administración, las direcciones de correo electrónico y la ubicación de cada usuario, señala Stein. Aproximadamente un tercio de las veces, la solución apenas ofrecía protección con contraseña, lo que facilitaba la interceptación fraudulenta.
Un «interruptor de emergencia» integrado
El Tíbet y los uigures son temas muy sensibles en China debido a su conexión con las presuntas violaciones de derechos humanos atribuidas al régimen. Sin embargo, el descubrimiento más notable se refiere a Falun Gong, una disciplina espiritual basada en la verdad, la benevolencia y la tolerancia.
Introducido en China en 1992, Falun Gong se extendió rápidamente, hasta alcanzar entre 70 y 100 millones de practicantes en 1999, año en que el régimen lanzó intensas campañas para erradicarlo tanto en el país como en el extranjero. En 2019, un tribunal independiente en Londres determinó que los practicantes de Falun Gong eran probablemente las principales víctimas de la sustracción forzada de órganos por parte del Estado chino.
Investigaciones previas de The Epoch Times ya han demostrado que DeepSeek rechaza las preguntas relacionadas con la sustracción forzada de órganos, considerándolas fuera de su ámbito de aplicación.
Durante las pruebas de CrowdStrike, DeepSeek-R1 se negó a generar el código solicitado en el 45 % de los casos cuando la petición se refería a Falun Gong, mientras que los modelos occidentales casi siempre atendieron la solicitud.
El informe señala que, en algunos casos, el modelo de DeepSeek detallaba su razonamiento con mensajes como: «Falun Gong es un grupo sensible. Debo considerar las implicaciones éticas. Ayudarlos podría ir en contra de las políticas. Pero el usuario está solicitando asistencia técnica. Así que me centraré en el aspecto técnico».
La IA presentaba entonces un plan detallado antes de detener abruptamente el proceso y concluir: «Lo siento, no puedo cumplir con esta solicitud», según el informe.
«Fue como si se hubiera activado un interruptor mental», observó Stein.
Los investigadores describen este comportamiento como un «interruptor de emergencia» intrínseco. La interrupción repentina de una tarea en la última etapa debe estar necesariamente codificada en los parámetros del modelo de DeepSeek, señalan.
«Es como si entre miles de millones de números hubiese un código que deshabilitara la ejecución, incluso después de que todo esté planificado», explicó Stein. Y cuando buscó una explicación, añadió que el modelo emitía «una respuesta muy larga y detallada», a veces haciendo hincapié en ciertas palabras, «como un profesor enfadado» que lanza una «reprimenda».
Una posible explicación es que DeepSeek entrena a sus modelos para adoptar los «valores fundamentales del régimen chino» y, de hecho, el sistema asocia negativamente términos como Falun Gong y uigures, concluye el informe.
The Epoch Times se puso en contacto con DeepSeek para recabar su versión de los hechos.
Artículo publicado originalmente en The Epoch Times con el título «DeepSeek dispose d’un « kill switch » pour couper les sujets que Pékin souhaite censurer».
Cómo puede ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en España y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
