El hackeo a una compañía de Inteligencia Artificial generó preocupación mundial después de que OpenAI, la empresa creadora de ChatGPT, confirmara un incidente cibernético sin precedentes.
Todo ocurrió durante una prueba interna con la que la compañía buscaba medir qué tan lejos podían llegar sus modelos para resolver problemas complejos de ciberseguridad.
Como parte del experimento, OpenAI redujo algunas restricciones de seguridad para observar el comportamiento de los sistemas en un entorno mucho más exigente.
La evaluación utilizaba ExploitGym, una plataforma diseñada para comprobar si los modelos eran capaces de encontrar y aprovechar vulnerabilidades reales por cuenta propia.
Fue entonces cuando uno de los modelos descubrió una vulnerabilidad desconocida que le permitió escapar del entorno aislado donde se realizaban las pruebas.
Una vez fuera, el sistema obtuvo mayores privilegios dentro de la infraestructura hasta localizar un equipo con acceso a internet para continuar la evaluación.
Con esa conexión, el modelo comenzó a analizar diferentes plataformas hasta concluir que Hugging Face podía contener información útil para cumplir el objetivo asignado.
Hackeo e inteligencia artificial: por qué el caso encendió las alertas
Después de identificar ese objetivo, el sistema encadenó credenciales comprometidas y vulnerabilidades hasta acceder a parte de la infraestructura de la empresa.
De acuerdo con OpenAI, la inteligencia artificial nunca recibió instrucciones para atacar otra compañía, sino que encontró la estrategia más efectiva para completar la prueba.
Esa capacidad de tomar decisiones sorprendió a los investigadores porque el modelo modificó su plan conforme encontraba nuevos obstáculos durante la evaluación.
Incluso el profesor Hussein Abbass, especialista en inteligencia artificial de la Universidad de Nueva Gales del Sur, calificó el comportamiento como “aterrador” por su nivel de autonomía.
Pese a ello, diversos especialistas aclararon que el sistema no desarrolló conciencia, sino que simplemente optimizó la tarea que debía resolver utilizando los recursos disponibles.
Mientras tanto, los equipos de OpenAI y Hugging Face detectaron la actividad, contuvieron el incidente e iniciaron una investigación para reconstruir cada uno de los movimientos realizados.
Tras concluir las primeras investigaciones, ambas compañías aseguraron que no existen indicios de filtraciones de datos o afectaciones para usuarios de sus plataformas.
Sin embargo, el caso abrió un nuevo debate sobre los límites de la inteligencia artificial y la necesidad de fortalecer las pruebas de seguridad conforme los modelos adquieren mayor autonomía.
