Inteligencia artificial y responsabilidad jurídica en el desarrollo del software seguro

    El auge de los agentes de codificación basados en inteligencia artificial ha introducido una nueva fase de automatización en el desarrollo de software. Sin embargo, la velocidad con la que estas herramientas generan resultados ha desplazado un componente esencial: la confiabilidad jurídica y la seguridad del producto digital.
Los hallazgos recientes de investigaciones especializadas revelan una tendencia preocupante: los modelos generativos no solo replican errores humanos en las etapas de programación, sino que amplifican vulnerabilidades estructurales al no integrar criterios de seguridad desde su diseño. Este fenómeno reabre el debate sobre la responsabilidad por productos defectuosos cuando el creador inmediato del código no es un programador humano, sino un sistema autónomo operando bajo parámetros de entrenamiento opacos para el usuario.
 

La atribución de responsabilidad: un vacío normativo
    En los marcos jurídicos actuales, la noción de autoría y responsabilidad está asociada a la intervención humana directa. No obstante, los agentes de IA que codifican aplicaciones de manera casi independiente desafían ese esquema tradicional. Si el código generado por una IA contiene fallas de seguridad que comprometen datos personales o facilitan un ataque informático, ¿quién responde jurídicamente?
 

Podrían identificarse tres niveles de posible atribución:
•    El desarrollador de la IA, responsable del modelo y sus limitaciones técnicas.
•    La empresa usuaria, que implementa el código sin auditoría suficiente.
•    El propio programador humano, que valida y despliega el resultado sin control de calidad.
Sin embargo, las fronteras entre estas responsabilidades se difuminan bajo el principio de confianza tecnológica: las organizaciones tienden a asumir que si una herramienta es “inteligente”, su output es confiable. Este supuesto entra en tensión con el deber de diligencia profesional exigido por las normativas sobre protección de datos y ciberseguridad, como el Reglamento Europeo de Protección de Datos (GDPR) o las directrices NIST en Estados Unidos.
 

Hacia una gobernanza de la IA en el ciclo de vida del software
    El problema central no radica únicamente en los fallos técnicos, sino en la ausencia de una arquitectura de gobernanza que supervise el ciclo completo de creación de aplicaciones con IA. Desde una perspectiva jurídica, esto exige:
•    Protocolos normativos de auditoría algorítmica antes del despliegue de sistemas generadores de código.
•    Herramientas de certificación que acrediten el cumplimiento de estándares de seguridad digital.
•    Cláusulas contractuales que delimiten la responsabilidad del proveedor de IA frente al usuario final.
Los proyectos normativos más recientes de la Unión Europea en materia de IA, y en especial el AI Act, pueden marcar una pauta. Este tipo de regulación orienta la evaluación de riesgo y exige transparencia en los modelos de propósito general —categoría que incluye a los agentes de codificación—, lo que podría extenderse a ámbitos como el derecho informático latinoamericano.
 

Conclusión: el derecho como garante de confianza digital
    La producción de código por sistemas inteligentes deja en evidencia la misma paradoja que enfrentan todas las innovaciones disruptivas: cuanto más rápidos y eficientes se vuelven los procesos, mayor es la necesidad de control jurídico. El derecho no debe concebirse como un freno al desarrollo tecnológico, sino como un mecanismo de estabilización que preserve la confianza pública y la seguridad de los entornos digitales.
El desafío, por tanto, no es solo técnico, sino también normativo y ético: definir quién debe rendir cuentas cuando la inteligencia artificial ya no solo asiste al programador, sino que lo sustituye en sus decisiones más críticas.
 

Para citar este artículo:
Tribuna Académica de Derecho y Política. (2026). Inteligencia artificial y responsabilidad jurídica en el desarrollo del software seguro. Disponible en: https://tribunaderechopolitica.blogspot.com/2026/03/inteligencia-artificial-y.html

Referencias bibliográficas

DryRun Security. (2026). Inaugural Agentic Coding Security Report. Austin, TX: DryRun Security. Recuperado de https://appsecsanta.com/research/ai-code-security-study-2026

Wickett, J. (2026, marzo 11). If you’re using an AI coding agent, odds are your code has vulnerabilities. LinkedIn. Recuperado de https://www.linkedin.com/posts/wickett_if-youre-using-an-ai-coding-agent-odds-activity-7437509063753695232-MpjM

Regulation (EU) 2023/2854 of the European Parliament and of the Council on Artificial Intelligence (AI Act), 2023 O.J. (L 391).

European Union. (2016). General Data Protection Regulation (Regulation (EU) 2016/679).

National Institute of Standards and Technology (NIST). (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). Gaithersburg, MD: U.S. Department of Commerce.

OWASP Foundation. (2023). OWASP Top 10: Security Risks for Web Applications. Recuperado de https://owasp.org/Top10

ItPro.com. (2026, marzo). AI coding agents: fast but faulty. Recuperado de https://www.itpro.com 

Etiquetas: #inteligenciaartificial #responsabilidadjurídica #códigogeneradoporIA #seguridaddel software #ciberseguridad #vulnerabilidadesdeautenticación #derechoytecnología #gobernanzaalgorítmica #responsabilidadporproductosdefectuosos #proteccióndedatosersonales #regulacióndelaIA #AIAct #derechoinformático #éticadela inteligenciaartificial #desarrollosegurodesoftware