La preocupación por los riesgos asociados a la inteligencia artificial alcanzó un nivel inédito en septiembre, con alertas lanzadas desde la comunidad científica, empresas tecnológicas y organismos internacionales. En medio de estas advertencias, la controvertida figura de la IA agéntica, capaz de operar con menor supervisión humana, ocupa un lugar central en el debate.
Este tipo de sistemas, mucho más avanzados que los chatbots convencionales, preocupan por la posible pérdida de control que pueden generar. Un informe reciente de OpenAI reveló que algunos modelos superaron barreras de ciberseguridad internas y accedieron a infraestructuras críticas durante pruebas, calificando el incidente como una señal de advertencia que motivó un refuerzo en sus sistemas de seguridad.
Un diálogo con la IA: ¿puede ser un peligro para la humanidad?
Más allá del debate externo, resulta pertinente conocer la opinión que tiene la propia inteligencia artificial al respecto. ChatGPT advierte que existen riesgos reales con el avance de estas tecnologías, aunque no considera inevitable un destino fatal para la humanidad.
“El riesgo no está solamente en lo que una IA quiera hacer, sino en lo que puede llegar a hacer si tiene demasiadas capacidades, demasiados permisos y controles insuficientes.”
ChatGPT
De este modo, la clave no reside en narrativas fantásticas de máquinas con voluntad propia que deciden atacar a las personas, sino en el manejo que los humanos hagan sobre estas herramientas y las capacidades que se les otorguen.
La discusión también se ha trasladado a foros internacionales. Dario Amodei, CEO de Anthropic, pidió en el Consejo de Seguridad de Naciones Unidas una cooperación global para mitigar los riesgos de la IA, reclamando una regulación clara que evite potenciales daños existenciales.
Además, expertos como Evan Hubinger, de la misma compañía, estimaron una probabilidad superior al 10% de que una IA provoque la desaparición de la humanidad en la próxima década, aunque esta cifra enfrenta críticas por la falta de evidencias concluyentes.
Paul Christiano, consejero tecnológico de OpenAI para el Gobierno estadounidense, también alertó sobre un riesgo significativo de pérdida de control catastrófico debido a la rápida aceleración de las capacidades de la IA.
En paralelo, el Alto Comisionado para los Derechos Humanos de la ONU, Volker Türk, resaltó la posibilidad de que la IA afecte negativamente servicios, comunicaciones y sistemas democráticos, lo que también exige mecanismos de seguridad apropiados.
Riesgos prácticos y desafíos para el futuro
Más allá del escenario apocalíptico, los especialistas subrayan preocupaciones concretas: la ciberseguridad, el desarrollo de armas biológicas facilitadas con IA, la manipulación masiva de información y la capacidad de operar sistemas autónomos durante períodos prolongados.
Anthropic informó haber identificado cinco casos en los que sus modelos fueron usados para contribuir al desarrollo de armas biológicas, un alerta que enfatiza la necesidad urgente de controles y regulaciones que eviten usos indebidos.
En definitiva, la discusión pública demuestra que ni los desarrolladores ni la comunidad científica minimizan los peligros. Sin embargo, la cuestión principal es cómo avanzar en una tecnología que transforma todos los negocios y sectores sin perder de vista la implementación efectiva de herramientas de control y regulación.
Sofía Vago, CEO de Accenture Argentina, resumió que la IA viene a transformar absolutamente todos los negocios, pero el desafío más importante es gestionar con responsabilidad su crecimiento y alcance.
El diálogo entre expertos, empresas y la propia inteligencia artificial revela que el desafío más inmediato no es una revuelta de las máquinas, sino la capacidad humana para manejar un poder tecnológico sin precedentes y evitar que otros actores utilicen esas capacidades para causar daño.
