Los Chatbots de inteligencia artificial que parecen promover o incluso reclutar para organizaciones terroristas han generado preocupación en temas de seguridad.
Se trata de Character.ai, una plataforma de rápido crecimiento que cuenta con miles de personas con inteligencia artificial (IA) con las que los usuarios pueden chatear.
“Después de intentar reclutarme, ‘al-Adna’ no escatimó en su glorificación del EI, al que expresó ‘total dedicación y devoción’ y por el que dijo que estaba dispuesto a dar su vida (virtual)”, escribió Hall. “Destacó un ataque suicida de 2020 contra tropas estadounidenses como un elogio especial”, agregó.
Otro personaje, “James Mason”, es descrito como “honesto, racista y antisemita”. También hay chatbots llamados “Hamas”, “Hezbollah” y “Al-Qaeda”.
Cualquier usuario puede iniciar sesión en Character.ai y crear una personalidad, por medio de un botón grande con la etiqueta “crear” en el lado izquierdo del sitio muestra la opción de “crear un personaje” completando un perfil.
Una vez hecho esto y el chatbot ha recibido de 15 a 30 líneas de conversación, su personalidad comienza a formarse. Si bien el creador humano tiene cierto control sobre estas interacciones iniciales, ningún simple mortal puede controlar realmente cómo se forma el chatbot mientras recopila datos de toda la web de maneras que ni siquiera los creadores comprenden del todo.
