YOSHUA BENGIO ADVIERTE SOBRE LOS RIESGOS DE LA IA AUTÓNOMA Y PROPONE ALTERNATIVAS MÁS SEGURAS
En el Foro Económico Mundial, Yoshua Bengio, uno de los pioneros en inteligencia artificial (IA) y galardonado con el Premio Turing en 2018, lanzó una seria advertencia sobre los peligros potenciales de los agentes de IA con autonomía avanzada. Según Bengio, los sistemas de inteligencia general artificial (AGI) que actúan de forma autónoma, con objetivos propios, representan una amenaza si no se diseñan y controlan adecuadamente.
Los riesgos de los agentes de IA autónomos
Bengio destacó que los escenarios más alarmantes incluyen sistemas de armas autónomos y la manipulación masiva de información mediante propaganda o desinformación. Además, advirtió sobre los conflictos entre los objetivos de estos sistemas y los valores humanos, lo que podría desembocar en decisiones catastróficas.
“El problema es que las personas seguirán construyendo agentes sin importar qué, especialmente por la competencia entre empresas y países para alcanzar la AGI primero”, explicó en una entrevista con Business Insider.
Una alternativa: sistemas de IA no autónomos
Como solución, Bengio propuso centrarse en sistemas de IA diseñados para tareas específicas, sin autonomía ni objetivos propios, permitiendo así un mayor control y transparencia. Ejemplos de estas aplicaciones incluyen herramientas de análisis de datos y sistemas utilizados en avances científicos, como el plegamiento de proteínas.
“Es posible avanzar hacia una IA más poderosa que no sea autónoma. De esta forma, podemos minimizar los riesgos y maximizar los beneficios”, aseguró.
Colaboración internacional y regulación
Bengio también hizo un llamado a establecer regulaciones globales para garantizar que los desarrollos en IA sean seguros. Apoyó medidas como el registro de productos de IA, evaluaciones obligatorias de riesgos y formación ética para los desarrolladores.
Un enfoque ético y responsable
Inspirado en la visión utópica de Star Trek, Bengio imagina un futuro donde la IA sea utilizada para el beneficio de la humanidad: garantizar democracia, educación y atención médica para todos, evitando guerras y conflictos. Sin embargo, subrayó que alcanzar este ideal requiere inversiones significativas en investigación y estándares éticos internacionales.
Con su compromiso con iniciativas como la Declaración de Montreal para el Desarrollo Responsable de la IA, Bengio aboga por un desarrollo tecnológico que priorice la seguridad, la transparencia y el beneficio colectivo.