Los LLM escriben SQL correcto, pero no necesariamente seguro

Los modelos de lenguaje de gran tamaño (LLM) han demostrado ser efectivos en la generación de código SQL, produciendo consultas sintácticamente correctas y funcionales. Sin embargo, esto no garantiza que el código sea seguro ni que siga buenas prácticas de protección contra vulnerabilidades comunes como inyección SQL.

Según análisis de especialistas en seguridad, aunque los LLM pueden generar consultas que ejecutan correctamente, a menudo omiten medidas esenciales de protección. El código generado puede ser vulnerable a ataques que comprometan la integridad de las bases de datos y expongan información sensible.

Los desarrolladores que confían exclusivamente en los LLM para generar SQL corren el riesgo de implementar código inseguro en producción. Es fundamental que los profesionales revisen y validen el código generado, aplicando principios de seguridad como consultas parametrizadas, validación de entrada y principios de menor privilegio.

Esta brecha entre funcionalidad y seguridad subraya la importancia de mantener la supervisión humana en la generación de código crítico, especialmente en sistemas que manejan datos sensibles.