El problema: el conocimiento está, pero nadie lo encuentra
Contratos, escritos, protocolos, manuales, actas, normativa interna. Cualquier empresa con unos años de historia acumula miles de documentos y, cuando alguien necesita una respuesta, la busca a mano o pregunta al compañero que lo sabe. La tentación es subirlo todo a un ChatGPT en la nube, pero esos documentos son justo los que no deberían salir: datos personales protegidos por el RGPD, información de clientes bajo secreto profesional, know-how industrial o expedientes. Si después ofreces ese asistente a tus clientes, el AI Act (art. 50) te obliga además a avisar de que hablan con una IA.
Un RAG privado resuelve las dos cosas: la IA responde con tus documentos, cita la fuente y todo vive en tu servidor. Es, en la práctica, un ChatGPT privado de empresa que conoce tu archivo.
Cómo lo hacemos, paso a paso
- Inventario de fuentes. Qué carpetas, qué gestor documental, qué formatos y quién puede ver qué. Si estáis en Barcelona, lo hacemos en vuestra oficina.
- Preguntas de referencia. Contigo definimos entre 30 y 50 preguntas reales con su respuesta correcta. Son la vara de medir de todo el proyecto.
- Ingesta. Extraemos el texto (incluidos los escaneados), lo partimos en fragmentos con sentido y guardamos de qué documento y página viene cada uno.
- Indexación y ajuste. Probamos combinaciones de troceado, embeddings y reranker hasta que las preguntas de referencia salen bien.
- Interfaz y permisos. El buscador se integra en el chat privado de la empresa, con grupos de acceso.
- Entrega con métricas. Te enseñamos la tasa de acierto, los fallos que quedan y cómo reducirlos.
La tecnología, en palabras sencillas
- Embeddings: un modelo pequeño convierte cada fragmento en una “huella” numérica que captura su significado. Así encuentra “rescisión” aunque preguntes por “romper el contrato”.
- Qdrant: la base de datos donde se guardan esas huellas, dentro de tu servidor.
- Reranker: un segundo modelo que ordena los resultados por relevancia antes de pasárselos a la IA.
- El modelo de lenguaje: corre en local con vLLM u Ollama y redacta la respuesta citando las fuentes.
- La interfaz: Open WebUI o una página propia, conectada a través de la pasarela LiteLLM, que registra quién pregunta qué.
Si aún no tienes servidor, empezamos por la IA local para empresas y el RAG se monta encima.
Cuándo NO te lo recomendamos
Si tienes unas decenas de documentos, una buena estructura de carpetas y el buscador de tu sistema bastan. Si tus documentos ya viven en una herramienta con un buen buscador propio, quizá solo necesitas conectarla. Si son públicos (por ejemplo, normativa publicada en el BOE), un servicio en la nube puede hacerlo sin riesgo para tus datos. Y si la documentación está desordenada, desactualizada o se contradice, la IA heredará ese desorden: a veces el primer paso es poner orden, y te lo diremos.
Lo usamos cada día
Nuestros propios agentes, en el laboratorio de Barcelona, guardan y recuperan información con Qdrant, embeddings y un reranker que corren en nuestras GPU, sin tocar la nube. El agente que gestiona una finca familiar del Penedès también tiene su memoria sobre Qdrant. Es la misma pieza que instalamos en tu empresa, probada con uso diario y no solo en una demo.