Saltar al contenido
Volver al blogSoftware

Chatbots con IA y RAG: cómo responder con la información de tu empresa

Christian Pumaccahua Cusihuaman9 min de lectura
Ilustración de un globo de chat conectado a documentos y puntos vectoriales, símbolo de un chatbot con IA y recuperación de información

Respuesta corta

Un chatbot con inteligencia artificial basado en RAG primero busca en los documentos de la empresa los fragmentos relacionados con la pregunta y después pide a un modelo de lenguaje que redacte la respuesta usando esos fragmentos. Así puede responder con información propia y actualizada sin reentrenar el modelo. RAG reduce las respuestas inventadas, pero no las elimina, por lo que necesita documentos ordenados, permisos por usuario y evaluaciones periódicas.

Puntos clave

  • RAG separa dos tareas: encontrar la información relevante y redactar la respuesta.
  • La calidad del chatbot depende tanto de los documentos como del modelo.
  • Los permisos deben aplicarse antes de recuperar la información, no solo en la pantalla.
  • RAG reduce las alucinaciones, pero no las elimina: la respuesta debe citar su fuente.
  • La calidad se mide con preguntas reales de clientes o empleados y respuestas revisadas.
  • El costo incluye preparar documentos, búsqueda, consumo del modelo y mantenimiento del contenido.

El problema: un bot que no conoce tu empresa

Un chatbot general puede explicar conceptos, pero no conoce tus tarifas vigentes, tus políticas de cambio o los horarios de tu oficina en Cusco. Cuando un cliente pregunta por esos temas, el bot puede responder algo plausible pero incorrecto, y el equipo termina contestando lo mismo una y otra vez.

Una agencia de turismo, por ejemplo, recibe consultas sobre condiciones de cancelación, rutas o qué incluye cada tour. Si el bot responde con datos de otra empresa o inventa una política, el daño es comercial y de confianza. Por eso el reto no es solo tener un chatbot, sino darle acceso a la información correcta, solo a la que corresponde y con la capacidad de decir cuándo no sabe.

Para ver casos de uso en un sector específico, el artículo sobre chatbots para agencias de turismo y atención automática 24/7 muestra escenarios concretos.

¿Qué es RAG?

RAG es un patrón de diseño en el que un modelo de lenguaje consulta una fuente de información externa antes de generar su respuesta. El nombre viene de sus siglas en inglés, retrieval-augmented generation, que en español se traduce como generación aumentada por recuperación.

La idea tiene origen académico. El artículo Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, de Patrick Lewis y otros coautores, publicado en arXiv en 2020, combina una memoria paramétrica (el modelo generador preentrenado) con una memoria no paramétrica (un índice de documentos que se consulta durante la respuesta). Los autores señalan que, al cambiar el índice, puede actualizarse el conocimiento del modelo sin reentrenarlo por completo.

La documentación de Microsoft describe la misma lógica en términos prácticos: RAG agrega un paso de recuperación de información a un modelo de chat para que sus respuestas se apoyen en contenido empresarial. Ese paso de recuperación es la pieza que más cuidado requiere.

Las piezas de un sistema RAG

Un chatbot con RAG suele tener seis componentes:

  1. Documentos: políticas, catálogos, preguntas frecuentes, manuales y procedimientos, con fecha y responsable.
  2. Fragmentación (chunking): división de cada documento en partes de tamaño manejable, para que la recuperación encuentre el pasaje correcto.
  3. Embeddings: representaciones numéricas de los fragmentos que permiten comparar significados, no solo palabras exactas.
  4. Base vectorial o índice: almacén donde se guardan esos embeddings junto con su texto, su fuente y sus permisos.
  5. Recuperación: búsqueda de los fragmentos más relevantes para la pregunta del usuario.
  6. Generación: el modelo de lenguaje redacta la respuesta usando los fragmentos como contexto.

Una falla en cualquiera de estas piezas afecta la respuesta final. Un documento desactualizado o un fragmento mal cortado pueden producir una respuesta incorrecta aunque el modelo funcione bien.

Flujo paso a paso

La siguiente figura muestra cómo se procesa una pregunta desde que llega hasta que el usuario recibe la respuesta con su fuente.

Diagrama del flujo RAG en seis pasos: pregunta del usuario, búsqueda en documentos permitidos, selección de fragmentos, armado de la instrucción, redacción de la respuesta y entrega con fuentes

Figura 1. Flujo RAG: el modelo redacta solo con los fragmentos recuperados, y la respuesta debe indicar de dónde proviene.

¿Por qué RAG reduce las alucinaciones sin eliminarlas?

Un modelo de lenguaje genera texto según probabilidades. Sin contexto, puede completar una respuesta con algo que suena correcto. Con RAG, el modelo recibe pasajes concretos y tiene una base para responder, lo que suele mejorar la precisión frente a un modelo sin acceso a la empresa.

Sin embargo, RAG no garantiza la verdad. El sistema puede recuperar un fragmento irrelevante, interpretarlo mal, mezclar dos documentos contradictorios o responder algo aunque el documento no contenga la información. El marco NIST AI 600-1, publicado en 2024 como perfil de IA generativa del AI Risk Management Framework, incluye la confabulación entre los riesgos propios o agravados por la IA generativa. Por eso, la respuesta correcta a una pregunta sin respaldo debe ser admitir que no hay información, y transferir la consulta a una persona.

Qué datos prepara una empresa

Antes de conectar el chatbot, conviene preparar el contenido. Una lista práctica incluye:

  • Documentos vigentes: elimina versiones antiguas y deja una sola fuente oficial por tema. Si el contenido vive en varios sistemas, conviene primero revisar la integración de sistemas.
  • Responsable y fecha: cada documento debe indicar quién lo aprueba y cuándo se revisó.
  • Preguntas frecuentes aprobadas: respuestas redactadas por el área responsable, no por el chatbot.
  • Clasificación de confidencialidad: separa lo público, lo interno y lo restringido.
  • Datos personales: no incluyas expedientes de clientes ni datos de empleados sin una evaluación previa. Si se trata de información de personas, revisa las obligaciones de la Ley de protección de datos personales en el Perú.

Un contenido bien ordenado mejora la recuperación más que cambiar de modelo. Muchas fallas que parecen del modelo son, en realidad, documentos duplicados o contradictorios.

Seguridad y permisos: que el bot no muestre datos a quien no corresponde

El riesgo más serio de un chatbot empresarial no es que se equivoque, sino que muestre información a una persona que no debía verla. Si el índice contiene contratos, precios internos y datos de clientes, y el bot los recupera para cualquier usuario, la fuga ocurre aunque la interfaz esté oculta.

La solución debe ser técnica. La documentación de Microsoft sobre RAG indica que, al usar Azure AI Search como fuente de datos, es posible aplicar control de acceso a nivel de documento mediante filtros de seguridad. El principio general es el mismo en cualquier plataforma: cada fragmento debe guardar sus etiquetas de acceso, y la búsqueda debe filtrar por la identidad y el rol del usuario antes de que el modelo reciba nada.

Diagrama de arquitectura con control de permisos: el usuario autenticado llega a la aplicación, el control de permisos filtra el índice y solo el fragmento permitido llega al modelo, con registro de auditoría

Figura 2. Control de permisos en un chatbot RAG: el filtro ocurre durante la recuperación, y cada consulta queda registrada.

OWASP, en su lista de riesgos para aplicaciones con modelos de lenguaje, incluye la divulgación de información sensible y la inyección de instrucciones (prompt injection). Un documento o una pregunta maliciosa puede intentar que el modelo ignore sus reglas o revele contenido que no debe mostrar. Por eso, el filtrado de permisos no debe depender solo de instrucciones dentro del prompt.

Chatbot por reglas, con IA generativa o con RAG

No todos los chatbots son iguales. La siguiente tabla compara los tres enfoques más comunes.

Criterio Chatbot por reglas Chatbot con IA generativa Chatbot con RAG
Cómo responde Con flujos y respuestas predefinidas Con texto generado por un modelo Con texto generado a partir de documentos recuperados
Flexibilidad del lenguaje Baja Alta Alta
Conocimiento de tu empresa El que se programa a mano Limitado al entrenamiento general El de los documentos conectados
Riesgo de inventar respuestas Bajo, pero responde poco Medio o alto sin controles Medio, reducido con fuentes y evaluación
Mantenimiento Actualizar cada regla Revisar el comportamiento del modelo Mantener documentos, índice y permisos
Criterio de la comparación Elaboración propia a partir de la arquitectura descrita Elaboración propia Documentación de Microsoft y artículo de Lewis et al.

Para preguntas cerradas y repetitivas, como el horario o la forma de pago, un flujo por reglas puede bastar. Para consultas abiertas sobre documentos extensos, RAG suele ser la opción adecuada.

Riesgos y mitigaciones

La siguiente tabla resume los riesgos más frecuentes en un chatbot RAG y las medidas de control que conviene aplicar.

Riesgo Qué puede pasar Mitigación
Fuga por permisos Un usuario ve información de otra área Filtrar por identidad y rol antes de recuperar
Inyección de instrucciones Un texto manipula la respuesta o revela datos Tratar el contenido recuperado como dato, no como instrucción; limitar herramientas
Documento desactualizado El bot responde con una política vencida Responsable, fecha de revisión y retiro de versiones antiguas
Datos personales en el índice Se expone información de clientes o empleados Excluir datos personales no necesarios y aplicar controles de acceso
Respuesta sin respaldo El bot afirma algo que no está en los documentos Exigir cita de fuente y derivar a una persona cuando no haya evidencia
Costo sin control El consumo crece sin medirse Límites de uso, monitoreo y revisión mensual

Cada mitigación debe tener un responsable. Sin un responsable, las medidas técnicas se degradan con el tiempo.

Cómo medir la calidad

Un chatbot no debe publicarse solo porque responde con fluidez. La calidad se mide con un conjunto de preguntas reales, tomadas de correos, llamadas o chats de clientes, y con respuestas esperadas revisadas por el área responsable. Conviene evaluar al menos estos aspectos:

  • Exactitud: la respuesta coincide con el documento oficial.
  • Cita: el bot indica el documento o sección de donde sale la respuesta.
  • Rechazo correcto: cuando la información no existe, el bot lo dice y ofrece derivar la consulta.
  • Permisos: un usuario sin acceso no recibe fragmentos restringidos. Esta prueba debe hacerse con cuentas de prueba de cada perfil.
  • Escalamiento: las consultas sensibles pasan a una persona con un resumen de la conversación.

La evaluación no es un evento único. Cada cambio en documentos, modelo o configuración puede alterar los resultados, por lo que conviene repetir las pruebas antes de cada actualización importante.

Costos como estructura

El costo de un chatbot RAG tiene varias partes:

  1. Preparación de documentos: ordenar, limpiar y revisar el contenido, que suele ser el trabajo más largo.
  2. Índice y búsqueda: almacenamiento de los fragmentos y su consulta.
  3. Consumo del modelo: cada pregunta y cada respuesta generan uso, que se factura según la tarifa vigente del proveedor.
  4. Integración y seguridad: conexión con el sitio web o WhatsApp, autenticación y registro de auditoría. Estas conexiones suelen apoyarse en APIs y webhooks.
  5. Mantenimiento: actualizar contenido, revisar conversaciones y repetir las evaluaciones.

No hay datos públicos verificados para Perú sobre precios de estos servicios en soles. Lo prudente es pedir una propuesta con supuestos claros: volumen mensual de consultas, cantidad de documentos y canales de atención.

Límites de un chatbot con RAG

Un chatbot con RAG tiene límites que conviene aceptar desde el inicio:

  • No entiende bien documentos escaneados de mala calidad o tablas complejas si no se preparan antes.
  • No reemplaza el criterio de un asesor en temas legales, tributarios o médicos.
  • Depende de que el contenido esté actualizado; un cambio de tarifa sin actualizar el índice produce respuestas erradas.
  • Puede tardar en responder si la búsqueda es amplia o si el modelo se consulta muchas veces.

Para ver cómo se combinan estos sistemas con otras capacidades de IA en la empresa, revisa el artículo sobre agentes de IA para empresas y cómo aplicarlos en una pyme, y el de IA generativa en la empresa: casos de uso, riesgos y políticas, que trata las reglas internas de uso.

Errores comunes

  • Cargar todos los documentos sin revisarlos. Un índice con versiones contradictorias produce respuestas contradictorias.
  • Aplicar permisos solo en la interfaz. Si el índice no filtra, el riesgo sigue existiendo.
  • No definir qué hacer cuando no hay respuesta. El bot debe saber derivar, no improvisar.
  • Publicar sin evaluación con preguntas reales. La prueba de demostración no refleja las consultas de los clientes.
  • Olvidar el mantenimiento. Un contenido que no se actualiza vuelve inútil al chatbot en pocos meses.
  • Tratar el chatbot como un proyecto cerrado. Necesita un responsable permanente.

Preguntas frecuentes

¿Qué es un chatbot con inteligencia artificial basado en RAG?

Es un asistente que busca primero en documentos de la empresa y luego genera una respuesta usando esos fragmentos. Así responde con información propia sin necesidad de reentrenar el modelo.

¿Cuánto cuesta un chatbot con RAG en Perú?

No hay datos públicos verificados para Perú sobre precios en soles. El costo depende de la cantidad de documentos, del volumen de consultas, de las integraciones y del mantenimiento, por lo que conviene pedir una propuesta con supuestos explícitos.

¿Qué diferencia hay entre RAG y entrenar un modelo con mis datos?

RAG consulta documentos en el momento de responder y permite actualizarlos sin reentrenar. Entrenar o ajustar un modelo cambia su comportamiento de forma más costosa y menos fácil de auditar.

¿Cómo evito que el chatbot muestre datos confidenciales?

Etiqueta cada documento con sus permisos y aplica el filtro durante la recuperación, según la identidad y el rol del usuario. No confíes solo en instrucciones escritas en el prompt.

¿Un chatbot con RAG elimina las respuestas incorrectas?

No. Reduce el riesgo, pero puede recuperar fragmentos irrelevantes o interpretarlos mal. Por eso la respuesta debe citar su fuente y el sistema debe derivar las consultas sin respaldo.

¿Cómo sé si el chatbot responde bien?

Pruébalo con preguntas reales de clientes y compara cada respuesta con el documento oficial. Revisa también que los usuarios sin permiso no reciban información restringida.

¿Qué documentos debo preparar primero?

Empieza por los que generan más consultas repetidas: horarios, condiciones, tarifas, políticas y preguntas frecuentes. Asigna a cada uno un responsable y una fecha de revisión antes de conectarlos.

Glosario rápido

RAG: generación aumentada por recuperación; el modelo consulta documentos antes de responder.

Embedding: representación numérica de un texto que permite comparar significados.

Base vectorial: almacén que guarda embeddings junto con su texto, fuente y permisos.

Fragmentación (chunking): división de documentos en partes para su recuperación.

Alucinación: respuesta generada con apariencia de certeza pero sin respaldo en los datos.

Prompt injection: texto diseñado para manipular el comportamiento del modelo.

Control de acceso: reglas que determinan qué información puede ver cada usuario.

Escalamiento: derivación de una consulta a una persona.

Si tu empresa quiere evaluar un asistente con sus propios documentos y permisos, puedes escribirnos desde la página de contacto. Para integrarlo con sus sistemas y datos, revisa nuestro servicio de plataformas.

Última revisión: 14 de noviembre de 2026.

Fuentes y lecturas recomendadas

Servicio relacionado

Desarrollo de software a medida

Plataformas web y apps que digitalizan y automatizan procesos de tu empresa.