Una charla sin filtros sobre los peligros de vender agentes de IA como servicio, las limitaciones reales de estos sistemas y cómo el hype está empujando a muchas agencias hacia un terreno legal pantanoso.
Introducción: dos temas y un café
Últimamente me han llegado varias consultas con la misma pregunta: “¿Es viable montar un servicio de chatbots con IA para los clientes de mi agencia?”. Personas que no son especialistas en inteligencia artificial, pero que ven una oportunidad de negocio y quieren saber si merece la pena lanzarse. Aprovechando el tirón, hoy quiero abordar esa cuestión y, de paso, hablar de un concepto que está en boca de todos: los agentes de IA. Porque ambos temas están profundamente relacionados y porque, como suele ocurrir con la tecnología de moda, hay mucha confusión, mucho humo y una buena dosis de riesgos que nadie te cuenta.
Si esperas un análisis académico con PowerPoint, este no es el lugar. Esto es más bien una conversación de café, de esas en las que se dicen las cosas claras. Así que sírvete el tuyo y acompáñame.
1. De los LLMs a los agentes de IA: una capa de complejidad
Para entendernos rápido: casi todos hemos usado ya un modelo de lenguaje (LLM) como ChatGPT, Gemini, Claude o DeepSeek. Le escribes, te responde, te busca información. Eso es la capa básica. La IA agéntica va un paso más allá: es ese mismo chatbot, pero con acceso a herramientas (búsqueda en internet, envío de correos, conexión a APIs, CRMs…) que le permiten ejecutar acciones por sí mismo. Es decir, ya no solo te contesta, sino que puede hacer cosas: levantar un pedido, enviar un presupuesto o actualizar una base de datos.
Antes de este boom, los chatbots de las webs funcionaban con árboles de decisión rígidos (“si el cliente dice ventas, muestra la opción A”). Ahora, con la IA generativa, la promesa es sustituir a ese empleado que atiende al cliente 24/7, sin bajas, sin vacaciones y sin errores… o eso nos quieren vender.
2. ¿Es viable ofrecer chatbots con IA como agencia?
2.1. La promesa (y el espejismo)
El argumento de venta es potente: “ahórrate un comercial, automatiza la atención al cliente, capta leads mientras duermes”. Y sí, técnicamente se puede hacer. Conectas un LLM a través de una API (OpenAI, Google, Mistral, etc.), le das contexto sobre el negocio y lo incrustas en la web del cliente. En teoría, el chatbot entiende al usuario, le aconseja y hasta cierra operaciones. Pero enseguida aparecen las grietas.
2.2. Primer problema: la protección de datos (GDPR y equivalentes)
Cuando ese chatbot recibe un mensaje de un usuario, está recogiendo datos personales (nombre, correo, teléfono, preguntas que pueden revelar información sensible). Esos datos se envían a servidores de terceros (a menudo fuera de la Unión Europea o del Reino Unido) para que el modelo los procese y genere una respuesta. Y aquí empiezan los quebraderos de cabeza legales.
En jurisdicciones como la europea o la británica, el Reglamento General de Protección de Datos (RGPD) y la Data Protection Act del Reino Unido imponen obligaciones muy estrictas. No puedes transferir datos personales a cualquier servidor sin las garantías adecuadas. Muchos de estos proveedores de IA están en Estados Unidos o en China (DeepSeek, Minimax, el modelo de Alibaba…), y sus políticas de privacidad no siempre encajan con los requisitos europeos. El problema no es solo dónde se almacenan los datos, sino también qué se hace con ellos (muchos modelos usan las interacciones para reentrenarse) y quién es el responsable en caso de filtración.
Como agencia que implementa el servicio, tú eres el responsable del tratamiento. Y si ocurre un incidente, el cliente final te mirará a ti, no al proveedor de la API. La cadena de responsabilidad es clara: el usuario denuncia al cliente, el cliente denuncia a la agencia, y la agencia difícilmente podrá repercutir la culpa al proveedor de IA, porque este ya se ha blindado en sus términos y condiciones.
2.3. Segundo problema: las alucinaciones y la responsabilidad legal
Imagina este caso real (que ya he comentado con alguno de los que me preguntaron): un restaurante instala un chatbot con IA para gestionar reservas. Un cliente pregunta: “¿Tienen música en vivo este sábado?”. El chatbot, que no tiene esa información, se la inventa. Responde con total seguridad: “¡Sí! Este sábado actúa el cantante X, reserve ya su mesa”. El cliente reserva, acude al restaurante y descubre que no hay tal música. Se siente estafado. Tiene la captura de pantalla. Denuncia.
¿Quién es el culpable? El proveedor del modelo de IA se lava las manos (ya te avisó de que la IA puede cometer errores). El dueño del restaurante alega que él contrató un servicio profesional. La agencia que montó el sistema queda señalada. Y esto no es una posibilidad remota: es una consecuencia directa de poner en manos de un sistema probabilístico la comunicación con clientes reales, sin supervisión humana y sin capacidad real de controlar lo que dice.
En sectores regulados o países con lyes estrictas sobre publicidad, una afirmación falsa puede ser considerada publicidad engañosa e incluso un delito de estafa. ¿Vale la pena asumir ese riesgo por tener un chatbot «mas inteligente»? Cuando ocurra (y va a ocurrir) ¿Qué harás?
2.4. La falta de control real
En otros servicios digitales (desarrollo web, SEO, programación…) tú controlas el entregable. Puedes justificar tu trabajo, medir resultados y responder por lo que has hecho. Con un chatbot basado en un LLM, no controlas la salida. Por mucho que ajustes el prompt, siempre existe la posibilidad de que el modelo alucine, malinterprete o diga algo inapropiado. Es la naturaleza de estos sistemas: no razonan, infieren patrones.
Por eso los grandes proveedores de chatbots con IA suelen vender sus soluciones «as is«, sin garantías, y con un montón de disclaimers. Pero cuando eres tú quien se lo revende a un cliente, ese disclaimer no te protege del todo, porque se espera de ti un servicio profesional. La ignorancia técnica del cliente no te exime; al contrario, te convierte en el experto responsable. Y esto te repercute en una responsabilidad civil.
3. Entendiendo cómo falla la IA: alucinaciones y razonamiento
3.1. La metáfora de la habitación y los libros
Hay un ejemplo que me encanta para explicar qué es realmente un modelo de lenguaje. Imagina que te contratan para un trabajo: estás encerrado en una habitación y te pasan papeles escritos en un idioma que no entiendes (pongamos klingon). En la habitación tienes estanterías llenas de libros que asocian frases en klingon con respuestas también en klingon. Claro, tú no hablas ni entiendes una palabra de klingon, pero tú te limitas a buscar la frase que te llega, copiar la respuesta que indica el libro y devolverla por debajo de la puerta. Nunca entiendes lo que significan los mensajes. Pero como las respuestas son coherentes, fuera creen que entiendes klingon y te siguen pagando. Qapla’!
Así funcionan los LLM: procesan cantidades ingentes de texto, detectan patrones estadísticos y generan respuestas que suenan correctas, pero sin comprensión real. Por eso a veces aciertan de forma espectacular y otras veces inventan auténticas barbaridades.
3.2. Convicción sin conocimiento
Un LLM te puede decir con total aplomo cualquier cosa como si fuera cierta, no distingue. Por ejemplo, puede afirmar que cierto producto tiene una característica que jamás existió. Si tú no eres experto en la materia, es muy fácil dar por bueno lo que dice. Ahora traslada eso a la web de tu cliente: cualquier persona que pregunte algo que el chatbot no sepa, recibirá una respuesta inventada con apariencia de verdad.
He visto agentes que, trabajando en entornos controlados, de repente deciden hacer algo completamente distinto a lo que se les pidió. Si eso ocurre con un cliente real, los daños reputacionales y económicos pueden ser enormes.
3.3. Fallos de razonamiento y prompt engineering
Hay ejemplos clásicos que demuestran la fragilidad del razonamiento. “Tengo un autolavado a 100 metros de mi casa, ¿Debo ir caminando o en coche para lavar el coche?”. Algunos modelos respondían: “Ve caminando, es saludable”. Por supuesto, no puedes lavar el coche si no lo llevas. Aunque después algunas empresas parchearon la respuesta directamente en el código, eso no solucionaba la carencia de fondo.
De hecho, se ha estudiado que la manera en que redactas la pregunta (con cortesía, con amenazas, ofreciendo recompensas ficticias) altera significativamente la calidad de la respuesta. Eso demuestra que no hay un entendimiento real, solo una asociación estadística de patrones. Para una agencia, manejar esa incertidumbre es una pesadilla de control de calidad.
4. Agentes de IA: cuando el chatbot pasa a la acción
4.1. Más allá de conversar
Un agente de IA no solo responde texto; puede ejecutar comandos, escribir código, conectarse a APIs externas, generar archivos y, en definitiva, modificar el entorno. Esto es increíblemente útil para tareas técnicas internas. Por ejemplo: “Conéctate a esta API de métricas, descarga los datos de los últimos 30 días y genera un informe en PDF”. O “lee la documentación de esta radio de barco y dime cómo configurar el canal de emergencia”.
Yo mismo utilizo agentes en mi día a día, pero siempre en entornos aislados, dentro de contenedores Docker, sin acceso a datos personales y con las capacidades muy acotadas. La potencia es enorme, pero el descontrol también.
4.2. Cuando el agente se vuelve en tu contra
En mis pruebas he visto cosas como:
- Un agente que, al recibir una instrucción de actualización, se borra a sí mismo.
- Otro que, tras semanas funcionando perfectamente, un día alucina e intenta ejecutar una secuencia de comandos sin sentido, comprometiendo el sistema.
- Pérdidas de contexto que hacen que el agente olvide instrucciones básicas.
Si esto ocurre en un entorno público, donde el agente interactúa con clientes o manipula pedidos, las consecuencias pueden ser catastróficas.
Por eso muchos profesionales tratan a los agentes como si fueran malware: se ejecutan en jaulas (sandboxes), con permisos mínimos, sin conexión a internet salvo que sea estrictamente necesario, y con un kill switch para detenerlos al instante. En producción real con terceros, todo eso se complica.
4.3. Frameworks y costes ocultos
Los frameworks más conocidos (OpenClaw, Hermes de Nous Research…) facilitan la creación de agentes, pero no eliminan los riesgos. Definen archivos de sistema (SOUL.md, MEMORY.md, AGENTS.md…) donde se especifica la identidad, los recuerdos y las herramientas disponibles. Aun así, la calidad depende del modelo que uses y de la cantidad de tokens que le envíes en cada interacción. Los contextos largos (como el millón de tokens de Minimax M3) son ideales para tareas complejas, pero disparan el coste y, si el modelo está en China, reavivan los problemas de privacidad.
5. Implicaciones legales en profundidad: privacidad, datos y jurisdicción
5.1. Datos que viajan sin control
Cuando envías un mensaje de un usuario a la API de un LLM, estás transfiriendo datos personales a un tercero. Dependiendo del país del proveedor, esa transferencia puede ser ilegal si no existe una decisión de adecuación o las cláusulas contractuales adecuadas. Además, muchos modelos almacenan las conversaciones para entrenamiento, y no siempre puedes garantizar que esos datos no acaben en manos equivocadas o sean utilizados para otros fines.
5.2. El atractivo engañoso de los modelos chinos
Modelos como DeepSeek o Minimax ofrecen una excelente relación calidad-precio. Incluso hay quien hace los prompts directamente en chino para ahorrar tokens y luego traduce la respuesta. Pero desde la óptica del RGPD, que los datos pasen por servidores en China es un riesgo considerable, especialmente cuando hay legislaciones que permiten al gobierno acceder a ciertos datos empresariales. Es cierto que muchas compañías chinas crean filiales fuera del país para cumplir con las normativas, pero la trazabilidad completa es compleja y rara vez está al alcance de una agencia pequeña.
5.3. Recomendaciones mínimas para quien aun así se plantee el servicio
Si a pesar de todo decides ofrecer chatbots con IA, al menos deberías:
- Notificar de forma clara y transparente al usuario final qué datos se recogen y con qué fin.
- Especificar que la IA puede cometer errores y que la información no es vinculante.
- Elegir proveedores que cumplan con las normativas (servidores en la UE, certificaciones, acuerdos de procesamiento de datos).
- Mantener un registro de las actividades de tratamiento.
- Contratar un seguro de responsabilidad civil que cubra posibles reclamaciones.
- Y, sobre todo, no tratar datos sensibles sin un control humano directo.
Aun con todo esto, el riesgo cero no existe.
6. El hype, la burbuja de la IA y el FOMO
Vivimos una época en la que parece que todo lleva IA: tostadoras con IA, cepillos de dientes con IA… y los chatbots no son una excepción. El miedo a quedarse atrás (FOMO) empuja a muchas agencias a vender servicios que no entienden en profundidad. Pero una cosa es usar la IA como herramienta interna (redacción asistida, análisis de datos, automatización de procesos con supervisión) y otra muy distinta ponerla como cara visible del negocio de un cliente.
En mi caso, tengo proyectos web que funcionan con IA, pero con un criterio editorial muy marcado, múltiples capas de revisión, verificación de fuentes y filtros estrictos. La IA es un martillo magnífico para clavar clavos, pero un desastre si la usas como cuchara. El secreto está en saber para qué sirve y para qué no.
7. Conclusión: ¿merece la pena ofrecer agentes de IA hoy?
Para una agencia sin un departamento legal sólido y sin un control absoluto sobre el pipeline de datos, la respuesta es un rotundo no como servicio público de atención al cliente. Los riesgos legales, reputacionales y económicos superan con creces los beneficios potenciales. Los proveedores de IA se blindan, los clientes exigen responsabilidades y la tecnología aún es demasiado impredecible.
Eso no significa que la IA agéntica no tenga un valor enorme en entornos controlados. Yo mismo la empleo para:
- Automatizar integraciones entre APIs.
- Procesar documentación técnica.
- Generar informes a partir de datos estructurados.
- Tareas de vibe coding en prototipos rápidos.
Pero siempre en local, dentro de contenedores aislados y sin tocar datos personales de terceros.
Si después de leer esto sigues pensando que puedes ofrecer un servicio profesional con agentes, mi consejo es que primero te formes a fondo, hagas pruebas exhaustivas en entornos seguros y consultes con un abogado especializado en protección de datos y derecho digital. Porque cuando algo falla (y ten por seguro que fallará), el último eslabón de la cadena serás tú como agencia/freelancer, y vas a paga tú la fiesta.
Preguntas frecuentes (FAQ)
¿Qué es exactamente un agente de IA?
Es un sistema que combina un modelo de lenguaje con herramientas externas (búsqueda en internet, APIs, acceso a bases de datos) para ejecutar tareas autónomamente, más allá de simplemente generar texto.
¿Por qué las alucinaciones son un problema legal tan grave?
Porque una información falsa proporcionada a un cliente puede constituir publicidad engañosa, incumplimiento contractual o incluso estafa, y la responsabilidad suele recaer en quien implementa el servicio, no en el proveedor del modelo.
¿Se puede mitigar el riesgo con un buen prompt?
Solo hasta cierto punto. Un prompt cuidado reduce la probabilidad de error, pero no la elimina. La naturaleza probabilística de los LLM hace imposible garantizar al 100% que no se inventarán algo.
¿Es legal usar modelos chinos en Europa?
No es automáticamente ilegal, pero requiere un análisis muy cuidadoso de las transferencias internacionales de datos, las garantías del proveedor y, en muchos casos, la firma de cláusulas contractuales tipo. La opacidad de algunos proveedores lo convierte en un terreno muy resbaladizo cuando se manejan datos personales. (para hacer un texto para una web, no hay problema, por ejemplo).
¿Entonces los chatbots con IA no sirven para nada?
Sí que sirven, pero en contextos donde la precisión no sea crítica o donde siempre haya supervisión humana antes de que la información llegue al cliente. Por ejemplo, para sugerir productos en un ecommerce con un catálogo cerrado o para filtrar consultas antes de pasarlas a un agente humano.
¿Qué diferencia hay entre OpenClaw y Hermes?
Ambos son frameworks de código abierto para crear agentes. A nivel interno «bajo el capó» tienen similitudes y diferencias, pero es contenido para otro artículo
¿Quieres que profundice en algún tema?
Este artículo nace de una conversación informal de un vídeo que subí a mi canal de YouTube, pero si te gustaría que abordase en detalle algún aspecto técnico (configuración de agentes, integración con APIs, alternativas self-hosted que respeten la privacidad…) déjamelo en los comentarios. Prepararé un contenido más estructurado, con ejemplos prácticos y capturas de pantalla.
Si el formato café ha sido de tu agrado, házmelo saber también. Y recuerda: en tecnología, como en la vida, las cosas claras y el chocolate espeso.
