El padrino de la inteligencia artificial, Yoshua Bengio, junto a Geoffrey Hinton y Yann LeCun lanzaron una importante advertencia sobre los riesgos potenciales de desarrollar agentes IA demasiados poderosos.
PUBLICIDAD
Advertencia sobre la inteligencia artificial
En una entrevista con Business Insider, Bengio enfatizó que “todos los escenarios catastróficos con AGI o superinteligencia suceden si tenemos agentes”. Según explicó, los agentes son sistemas que actúan de forma autónoma, con objetivos propios, lo que los convierte en una amenaza potencial si sus decisiones no están alineadas con los valores y los intereses humanos.
Durante el Foro Económico Mundial, el ‘padrino de la IA’ instó a minimizar los riesgos destacando la importancia de sistemas IA no basados en agentes. Estos últimos podrían representar un grave peligro si no se diseñan ni controlan adecuadamente.
Entre los escenarios más alarmantes que mencionó se encuentran los sistemas de armas autónomos, que podrían tomar decisiones letales sin intervención humana.
¿Por qué no existe un freno?
“El problema es que las personas seguirán construyendo agentes sin importar qué, especialmente porque las empresas y los países competidores temen que otros logren alcanzar primero la AGI autónoma”, afirmó Bengio en Business Insider.
Estas palabras se suman a los debates entre expertos y filósofos, los cuando apuntan la posibilidad de que las máquinas desarrollen conciencia propia. Para Bengio, es importante la colaboración internacional para establecer estandares éticos y de seguridad.
