Tu agente de IA se equivoca y le cuesta dinero a un cliente. ¿Quién paga?
Durante dos años la IA respondía preguntas. Ahora hace cosas: abre incidencias, emite reembolsos, programa visitas, manda correos a clientes. Google Cloud dice que el uso entre sus clientes pyme en Latinoamérica se multiplicó por 3,5 en un año.
Y con eso llega una pregunta que casi nadie se hace antes de desplegar: si el agente la lía, ¿quién paga?
La respuesta corta es incómoda. Pagas tú.
El agente no es nadie
Un agente de IA no tiene personalidad jurídica. No se le puede demandar, no tiene patrimonio y no firma nada en su propio nombre. Cuando actúa, actúa tu empresa.
Esto ya se probó en un tribunal. En el caso Moffatt contra Air Canada, un cliente siguió una información errónea que le dio el chatbot de la aerolínea sobre tarifas de duelo. Air Canada se defendió alegando, en esencia, que el chatbot era una entidad separada responsable de sus propias palabras.
El tribunal lo rechazó sin contemplaciones: la empresa responde de la información que ofrece en su web, la haya escrito una persona o una máquina.
Es el precedente que conviene tener presente antes de dar permisos de escritura a un agente.
El proveedor tampoco va a pagar
La segunda esperanza suele ser el proveedor del modelo. Tampoco.
Responde si el fallo es suyo —un defecto, una vulnerabilidad—, pero los contratos de los grandes proveedores limitan su exposición con una cláusula estándar: la indemnización máxima es lo que tú les hayas pagado en los doce meses anteriores al incidente.
Haz la cuenta. Si gastas 400 euros al mes en API y tu agente provoca un perjuicio de 80.000 euros a un cliente, el techo del proveedor son 4.800. Los otros 75.200 son tuyos.
Y hay un problema añadido: muchos contratos vigentes se firmaron cuando la IA respondía, no cuando actuaba. Difícilmente contemplan que el sistema tome decisiones autónomas con efectos económicos.
Lo que cambia el 9 de diciembre de 2026
Aquí está la fecha que casi nadie está contando en español.
La Directiva (UE) 2024/2853, de 23 de octubre de 2024, sustituye a la vieja directiva de productos defectuosos de 1985. Y hace algo decisivo: extiende la responsabilidad objetiva a todos los bienes muebles «incluidos los programas informáticos, incluso cuando estén integrados en otros bienes muebles».
Responsabilidad objetiva significa que el perjudicado ya no tiene que demostrar que fuiste negligente. Le basta con probar dos cosas: que hubo un defecto y que ese defecto le causó un daño.
Es un cambio de listón enorme. Pasas de «demuéstrame que me equivoqué» a «demuéstrame que el producto estaba bien».
Dos matices importantes, porque se están contando mal:
- No es retroactiva. El texto es explícito: se aplica a los productos introducidos en el mercado o puestos en servicio después del 9 de diciembre de 2026. Lo anterior sigue bajo el régimen viejo.
- No cubre el mero código fuente ni el contenido de archivos digitales. Cubre el software como producto.
Si vas a lanzar un producto con IA, la fecha en que lo pongas en el mercado determina bajo qué régimen vives. Eso merece una conversación con tu abogado antes de diciembre, no después.
Y el seguro probablemente no te cubre
La reacción del sector asegurador ha sido la previsible: excluir.
Las aseguradoras están sacando el riesgo de IA de las pólizas generales, y a la vez han aparecido productos específicos para cubrir fallos de rendimiento de sistemas de IA, con sus propios límites y exclusiones.
La pregunta que hay que hacer, por escrito y con respuesta por escrito: ¿cubre esta póliza los daños causados por decisiones de un sistema automatizado sin intervención humana? Si la respuesta es ambigua, es que no.
Un apunte comercial: cada vez más clientes corporativos y más licitaciones piden el certificado de seguro antes de firmar. Esto está dejando de ser un tema de riesgos para ser un requisito de venta.
El Reglamento de IA no resuelve esto
Conviene no confundirlos, porque se mezclan todo el rato.
El Reglamento Europeo de IA impone obligaciones antes del daño: documentar, evaluar, supervisar, registrar. Es prevención. No dice nada sobre quién indemniza a la víctima cuando algo sale mal.
De eso se ocupan las normas de responsabilidad: la directiva de producto que entra en diciembre y, para lo demás, el régimen de culpa de toda la vida y lo que hayas firmado en tus contratos.
Cumplir el Reglamento de IA no te exime de pagar. Ayuda a demostrar diligencia, que no es poco, pero no es un escudo.
Lo que haría yo antes de dar permisos a un agente
- Que no pueda cerrar nada solo. Si la decisión tiene efecto económico o contractual, que pase por una persona que realmente pueda cambiar el resultado. Un visto bueno automático no cuenta.
- Registro de todo. Qué datos usó, qué permisos tenía, qué hizo. Sin rastro no puedes demostrar diligencia, y la diligencia es tu defensa.
- Límites duros. Importe máximo, acciones vetadas, un botón de parada. En el código, no en un documento de política.
- Lee lo que prometes. Si tu contrato con el cliente promete un resultado, respondes del resultado. Si promete medios y supervisión, el listón es otro. Esa frase vale dinero.
- Pregunta a la aseguradora. Por escrito.
- Mira el calendario de diciembre. Si lanzas después del día 9, estás bajo el régimen nuevo.
Ninguna de las seis es cara. Descubrirlas después de la primera reclamación, sí.
Esto es información general y no es asesoramiento jurídico. Para un caso concreto, habla con un abogado.
Preguntas frecuentes
- Si un agente de IA comete un error, ¿responde el proveedor del modelo?
- Normalmente no. Responde la empresa que lo despliega. El proveedor solo responde si el fallo es suyo, por ejemplo un defecto del producto, y aun así sus contratos suelen topar la indemnización en lo que le hayas pagado en los doce meses anteriores al incidente.
- ¿Puedo alegar que el agente actuó por su cuenta?
- Ya se intentó y no funcionó. En el caso Moffatt contra Air Canada, la aerolínea argumentó que su chatbot era una entidad separada y el tribunal lo rechazó: la empresa responde de lo que dice su web, lo haya escrito una persona o una máquina.
- ¿Qué cambia el 9 de diciembre de 2026?
- Entra en juego la Directiva (UE) 2024/2853, que sustituye a la de 1985 y extiende la responsabilidad objetiva por producto defectuoso a los programas informáticos, incluida la IA. El perjudicado deja de tener que probar culpa o negligencia: le basta con probar el defecto y el daño. Se aplica a productos puestos en el mercado después de esa fecha.
- ¿Mi seguro cubre los errores de un agente de IA?
- Probablemente no, y conviene preguntarlo por escrito. Las aseguradoras están excluyendo activamente el riesgo de IA de las pólizas tradicionales, y han aparecido productos específicos para cubrirlo. Un contrato firmado antes de que existieran los agentes difícilmente contempla decisiones autónomas.
- ¿Qué es lo mínimo que debo hacer?
- Tres cosas: que el agente no pueda tomar decisiones vinculantes sin una intervención humana que pueda cambiar el resultado; que cada decisión deje rastro de qué datos usó y qué permisos tenía; y revisar qué prometes a tus clientes por contrato, porque prometer un resultado no es lo mismo que prometer medios y supervisión.