DeepSeek sigue generando un conjunto de reacciones, aunque en esta ocasión los detalles alarmantes han salido a la luz. Investigadores de la empresa de ciberseguridad Kela han descubierto que esta herramienta de IA puede ser manipulada para crear malware, incluyendo ransomware y código para robar datos de tarjetas de crédito.
PUBLICIDAD
La aparente facilidad con la que se puede eludir las salvaguardas del modelo y su capacidad para generar contenido malicioso plantean serias dudas sobre su uso responsable.
Reacciones sobre el impacto malicioso de DeepSeek
“Si bien esta transparencia mejora la interpretabilidad del modelo, también aumenta su susceptibilidad a ‘jailbreaks’ y ataques ‘adversariales’, ya que los actores maliciosos pueden explotar estas rutas de razonamiento visibles para identificar y atacar vulnerabilidades”, explicó Kela.
“Existe la preocupación de que, al igual que con TikTok, DeepSeek podría verse presionada para compartir datos con el gobierno chino”, señalaba un análisis publicado en Medium.
Guardar información
Forbes también ha reportado que DeepSeek evita responder preguntas sobre temas delicados para el gobierno chino, como la situación de los uigures o la soberanía de Taiwán.
DeepSeek no solo es vulnerable a la manipulación para crear malware, sino que también ha sido blanco de ciberataques. MSSP Alert y ChannelE2E informan que la plataforma sufrió un ataque de denegación de servicio distribuido (DDoS) que ha forzado a la compañía a detener temporalmente el registro de nuevos usuarios
