Tecnología

Opiniones divididas en TikTok: Los riesgos de su nueva función de clonación de voz con IA

Su fecha aún es un misterio, pero sus posibles alcances no son difíciles de adivinar.

Agencia
ARCHIVO - El logotipo de TikTok aparece en la pantalla de un teléfono celular frente al monitor de una computadora, el 14 de octubre de 2022, en Boston. (AP Foto/Michael Dwyer, archivo) AP (Michael Dwyer/AP)

Para nadie que lea este medio de comunicación es sorpresa que estamos viviendo una revolución en cuando a inteligencia artificial. Los grandes actores como OpenAI, Google o Microsoft lo están dando todo en esta batalla, con nuevos anuncios y adelantándose varios pasos para ganar el podio tecnológico. En ese contexto, las redes sociales no se han quedado fuera, con Meta de Mark Zuckerberg anunciando herramientas como Llama 3 o funciones de IA para WhatsApp e Instagram.

PUBLICIDAD

Algo que también estaría buscando replicar TikTok, la popular red social china de videos cortos que ahora busca integrar la inteligencia artificial a la plataforma, cambiando la forma en que los usuarios interactúan y crean contenidos.

ARCHIVO - El logotipo de TikTok aparece en un teléfono móvil frente a un monitor de computadora que muestra la pantalla de inicio de TikTok el sábado 18 de marzo de 2023, en Boston. (AP Foto/Michael Dwyer, Archivo) AP (Michael Dwyer/AP)

La inteligencia artificial en TikTok

Actualmente TikTok utiliza algoritmos avanzados de IA para personalizar y optimizar la experiencia de sus usuarios, mostrándoles videos que tienen más probabilidades de gustarles y que van en función del comportamiento de visualización anterior de cada persona. Junto a ello, la app emplea IA para moderar contenidos, revisar estándares de la comunidad y una que otra herramienta creativa para editar videos.

Respecto a este último punto, es que la red social de Bytedance está generando revuelo. Todo comenzó luego de que AssembleDebug anunciara el lanzamiento de una función de inteligencia artificial que permite a los usuarios clonar su voz en cuestión de segundos, una potente innovación que podría dar pie a creaciones increíbles así como peligrosos deepfakes.

Clonación de voz | TikTok
Clonación de voz | TikTok

Es evidente que esta nueva herramienta, que se sumaría a la ya extensa lista de efectos y filtros de la red social, facilitará enormemente el proceso de narración en los videos. De acuerdo a los trascendidos, la función se llamará “Clonar tu voz con IA”, y utilizará inteligencia artificial para replicar la voz del usuario a partir de una sola frase pronunciada. De esta forma, tras decir una frase y cargar un guion, los usuarios podrán tener la narración completa de un video sin necesidad de grabar repetidamente su voz.

¿El problema? La falta de regularización, sumado a las dudas sobre privacidad, están generando un debate abierto sobre los alcances de la inteligencia artificial y su posible mal uso, sobre todo cuando hablamos de voces clonadas, algo que podría hacer cualquiera para generar daño, fines poco éticos o ganancias ilícitas, como estafas o suplantación de identidad.

Por ahora TikTok no se ha referido a una fecha exacta para lanzar esta nueva función. Lo que sabemos, eso sí, es que para utilizarla sólo se necesitará un guión y pronunciar un par de frases para que la IA capture tu tono y modulación de voz.

Hablamos de un gran paso hacia la apertura tecnológica, y que podría ser un beneficio si se usa con responsabilidad. Los límites éticos y de privacidad los establecerá la misma red social, mientras que su impacto quedará en manos de los usuarios que la prefieran.

Se hace viral en TikTok el testimonio de una redactora que tiene que entrenar a la Inteligencia Artificial que la va a sustituir.
Imagen de portada: Inteligencia Artificial (Archivo) | Se hace viral en TikTok el testimonio de una redactora que tiene que entrenar a la Inteligencia Artificial que la va a sustituir.

PUBLICIDAD

Tags


Lo Último