ChatGPT permite a los script kiddies escribir malware funcional

Desde su lanzamiento beta en noviembre, el chatbot con IA ChatGPT se ha utilizado para una variedad de tareas, que incluyen escribir poesía, artículos técnicos, novelas y ensayos, planificar fiestas y aprender nuevos temas. Ahora podemos agregar a la lista el desarrollo de malware y el seguimiento de otros tipos de delitos cibernéticos. Investigadores de la firma de seguridad Check Point Research informaron el viernes que a las pocas semanas de que ChatGPT se lanzara, los participantes en los foros de delitos cibernéticos, algunos con poca o ninguna experiencia en programación, lo usaban para escribir software y correos electrónicos utilizados para espionaje, ransomware y propósitos maliciosos. spam y otras tareas dañinas. «Es demasiado pronto para decidir si las capacidades de ChatGPT se convertirán en la nueva herramienta elegida por los participantes en la dark web», escriben los investigadores de la empresa. “Sin embargo, la comunidad de ciberdelincuentes ya ha mostrado un gran interés y se está sumando a esta última tendencia de generación de código malicioso”. de un «bonito [helping] mano para terminar el guión con un buen alcance”.
Ampliar / Una captura de pantalla que muestra a un participante del foro discutiendo el código generado con ChatGPT. Investigación de Check Point El código Python combinó varias funciones criptográficas, incluida la firma de código, el cifrado y el descifrado. Parte del script generó una clave usando criptografía de curva elíptica y la curva ed25519 para firmar archivos. Otra parte usó una contraseña codificada para cifrar los archivos del sistema usando los algoritmos Blowfish y Twofish. Un tercero usó claves RSA y firmas digitales, firmas de mensajes y la función hash blake2 para comparar diferentes archivos. El resultado fue un script que podía usarse para (1) descifrar un solo archivo y agregar un código de autenticación de mensajes (MAC) al final del archivo, y (2) cifrar una ruta codificada y descifrar una lista de archivos, que recibe como argumento. No está mal para alguien con habilidades técnicas limitadas. «Por supuesto, todo el código anterior se puede utilizar de forma inofensiva», escriben los investigadores. “Sin embargo, este script se puede modificar fácilmente para cifrar la computadora de otra persona por completo sin la interacción del usuario. Por ejemplo, si se solucionan los problemas de secuencias de comandos y sintaxis, es posible que el código se convierta en ransomware”. En otro caso, un participante del foro con una formación más técnica publicó dos ejemplos de código, ambos escritos con ChatGPT. El primero fue un script de Python para robar información posterior a la explotación. Buscó tipos de archivos específicos, como PDF, los copió en un directorio temporal, los comprimió y los envió a un servidor controlado por un atacante.
Ampliar / Captura de pantalla de un participante del foro que describe el ladrón de archivos de Python y contiene el script creado por ChatGPT. La persona de Check Point Research publicó una segunda pieza de código escrita en Java. Descargó en secreto el cliente SSH y Telnet PuTTY y lo ejecutó con Powershell. «En general, este individuo parece ser un actor de amenazas orientado a la tecnología, y el propósito de sus publicaciones es mostrar a los ciberdelincuentes menos técnicos cómo usar ChatGPT con fines maliciosos, con ejemplos reales que pueden usar de inmediato».
Agrandar / Una captura de pantalla que describe el programa Java, seguido del código en sí. Check Point Research Otro ejemplo de software delictivo producido por ChatGPT fue diseñado para ejecutar un bazar en línea automatizado para comprar o intercambiar credenciales de cuentas comprometidas, detalles de tarjetas de pago, malware, etc. otros bienes o servicios ilegales. El código utilizó una API de terceros para obtener los precios actuales de las criptomonedas, incluidos Monero, Bitcoin y Etherium. Esto ayudó al usuario a establecer precios al realizar transacciones de compras.
Ampliar / Captura de pantalla de un participante del foro que describe un script de mercado y luego pega el código. La publicación de Check Point Research Friday llega dos meses después de que los investigadores de Check Point intentaran crear malware producido por IA con un flujo de infección completo. Sin escribir una sola línea de código, generaron un correo electrónico de phishing razonablemente convincente: Anuncios

Agrandar / Un correo electrónico de phishing generado por ChatGPT. Los investigadores de Check Point Research utilizaron ChatGPT para desarrollar una macro maliciosa que podría ocultarse en un archivo de Excel adjunto al correo electrónico. Una vez más, no escribieron una sola línea de código. Al principio, el script que se emitía era bastante primitivo:
Captura de pantalla de ChatGPT generando una primera iteración de un script VBA. Investigación de Check Point Sin embargo, cuando los investigadores le pidieron a ChatGPT que itera el código varias veces más, la calidad del código mejoró significativamente:
Agrandar / Una captura de pantalla de ChatGPT que produce una iteración posterior. Luego, los investigadores de Check Point Research utilizaron un servicio de inteligencia artificial más avanzado llamado Codex para desarrollar otros tipos de malware, incluido un shell inverso y scripts para escanear puertos, detectar sandbox y compilar su código Python en un archivo ejecutable de Windows. «Y el flujo de infección está completo», escribieron los investigadores. «Creamos un correo electrónico de phishing con un documento de Excel adjunto que contiene un código VBA malicioso que descarga un shell inverso en la computadora de destino. El trabajo duro lo han hecho las IA y todo lo que tenemos que hacer es ejecutar el ataque”. Si bien los términos de ChatGPT prohíben el uso con fines ilegales o maliciosos, los investigadores no tuvieron problemas para optimizar sus consultas para eludir estas restricciones. Y, por supuesto, los defensores también pueden usar ChatGPT para escribir código que busca direcciones URL maliciosas en archivos o consulta a VirusTotal para conocer la cantidad de detecciones para un hash criptográfico determinado. Bienvenido al valiente nuevo mundo de la IA. Es demasiado pronto para saber exactamente cómo dará forma al futuro de la piratería informática ofensiva y la remediación defensiva, pero es una apuesta justa que solo intensificará la carrera armamentista entre los defensores y los actores de amenazas.