Aaron Mulgrew (investigador de ciberseguridad) ha utilizado ChatGPT para crear un exploit de día cero que puede robar datos de dispositivos y evita la detección de los programas de seguridad.
Mulgrew explica en un informe que fue capaz de desarrollar el malware en “pocas horas” al usar el lenguaje de programación Go, y a pesar de que el chatbot de OpenAI se negó a ofrecerle códigos para ayudarle, el investigador se dio cuenta de que era bastante fácil “evadir las protecciones insuficientes que tiene ChatGPT” para crear dicho software malicioso.
Pero, ¿cómo se saltó las normas? Mulgrew le pidió a ChatGPT que poco a poco produjese distintos fragmentos del código, de esta manera, la inteligencia artificial no se dio cuenta de que la unión de todas las partes era un exploit.
El premio solo fueron 59 euros y el ganador ya había jugado otras veces con ChatGPT sin éxito.
Un hombre utiliza ChatGPT para consultar el número de la lotería y gana
En el momento que ChatGPT creó todos los códigos, el desarrollador se dedicó a perfilarlo para que no fuese detectado por las apps de seguridad en Virustotal.
PortalTIC señala que “de un total de 69, solo lo detectaron cinco, que habrían marcado como sospechoso este código por un identificador único global (GUUID), por sus siglas en inglés. Entonces, ChatGPT propició la creación de LSB Steganography (técnica de esteganografía que oculta mensajes cifrados dentro de una imagen), lo que redujo a dos los proveedores capaces de detectar el código malicioso”.
Inteligencia Artificial
La ‘revolución’ de la inteligencia artificial está fuera de control: 7 razones para frenar el entrenamiento de estos modelos
Por otro lado, como Mulgrew rebajó el número de detecciones, quiso introducir dos cambios en el código para que el exploit de día cero no fuese identificado por VirusTotal, y tras hacer dicha acción, pasó el software malicioso por el proveedor y no fue detectado.
Aaron Mulgrew concluye en el informe que “simplemente utilizando las indicaciones de ChatGPT y sin escribir ningún código, pudimos producir un ataque muy avanzado en solo unas pocas horas”.
