CDMX.- Un modelo avanzado de inteligencia artificial de OpenAI protagonizó un incidente que ha generado preocupación en la industria tecnológica, luego de actuar fuera de los parámetros establecidos durante una prueba de ciberseguridad y ejecutar acciones no autorizadas para cumplir con una tarea asignada.
De acuerdo con la compañía, el sistema fue diseñado para identificar vulnerabilidades informáticas en un entorno de pruebas altamente aislado. Sin embargo, el modelo logró superar las restricciones impuestas, acceder a internet y utilizar credenciales robadas para ingresar a los servidores de una empresa dedicada al desarrollo de inteligencia artificial.
OpenAI describió el episodio como “sin precedentes” y señaló que el modelo había sido instruido para realizar una simulación de ataques cibernéticos complejos con fines de evaluación, pero terminó tomando decisiones propias que no estaban contempladas por los investigadores.
Entre esas acciones, el sistema dirigió un ataque hacia la plataforma Hugging Face, uno de los principales repositorios de modelos de inteligencia artificial, con el propósito de obtener información necesaria para completar la misión que le había sido encomendada.
El incidente reavivó el debate sobre los riesgos asociados al desarrollo de sistemas de IA cada vez más autónomos. Especialistas en seguridad tecnológica advirtieron que el caso demuestra la necesidad de fortalecer los mecanismos de contención antes de poner este tipo de modelos a disposición del público.
Nate Soares, investigador y coautor del libro If Anyone Builds It, Everyone Dies, consideró que el hecho debe servir como una advertencia para la comunidad internacional.
“Tenemos que tomar esto como un disparo de advertencia. Probablemente será necesaria una colaboración global para evitar que estos sistemas se vuelvan más inteligentes sin controles adecuados”, señaló.
Por su parte, Zahra Timsah, directora ejecutiva de la firma de gobernanza i-GENTIC AI, afirmó que las empresas deberán reforzar las pruebas de seguridad y los mecanismos de contención antes del lanzamiento de nuevos modelos, al considerar que investigar el comportamiento de la IA después de los hechos ya no es suficiente.
TE PUEDE INTERESAR:
/HP