Cercador privat RAG
Pregunta als teus documents com si fossin un company expert. La IA respon citant el document i la pàgina, i respecta qui pot veure què.
Un RAG privat és un cercador amb IA que respon amb els teus documents interns i cita la font, sense treure’ls del teu servidor. Per a despatxos, clíniques i indústries amb molta documentació. Queda en marxa en un termini de 3 a 5 setmanes, amb permisos per grup i proves de qualitat abans del lliurament, en català, castellà i anglès.
Contractes, escrits, protocols, manuals, actes, normativa interna. Qualsevol empresa amb uns quants anys d’història acumula milers de documents i, quan algú necessita una resposta, la busca a mà o pregunta al company que ho sap. La temptació és pujar-ho tot a un ChatGPT al núvol, però aquests documents són justament els que no haurien de sortir: dades personals protegides per l’RGPD, informació de clients sota secret professional, know-how industrial o expedients. I si després ofereixes aquest assistent als teus clients, l’AI Act (art. 50) també t’obliga a avisar que parlen amb una IA.
Un RAG privat resol totes dues coses: la IA respon amb els teus documents, cita la font i tot viu al teu servidor. És, a la pràctica, un ChatGPT privat d’empresa que coneix el teu arxiu.
Si encara no tens servidor, comencem per la IA local per a empreses i el RAG es munta a sobre.
Si només tens unes quantes desenes de documents, amb una bona estructura de carpetes i el cercador del teu sistema en tens prou. Si els teus documents ja viuen en una eina amb un bon cercador propi, potser només cal connectar-la. Si són públics (per exemple, normativa publicada al BOE), un servei al núvol ho pot fer sense risc per a les teves dades. I si la documentació està desordenada, desactualitzada o es contradiu, la IA n’heretarà el desordre: de vegades el primer pas és endreçar-la, i t’ho direm.
Els nostres propis agents, al laboratori de Barcelona, desen i recuperen informació amb Qdrant, embeddings i un reranker que funcionen a les nostres GPU, sense tocar el núvol. L’agent que gestiona una finca familiar del Penedès també té la memòria a Qdrant. És la mateixa peça que instal·lem a la teva empresa, provada amb ús diari i no només en una demostració.
Un assistent que coneix els vostres expedients i plantilles, funciona dins del despatx i no exposa ni una sola dada de client.
Menys temps teclejant i més temps amb el pacient: transcripció i resums que es queden dins de la clínica.
El vostre know-how tècnic, consultable en segons i sense sortir de la xarxa de l’empresa.
Tutors i assistents que ensenyen amb el vostre mètode i el vostre temari, sense enviar dades d’alumnes al núvol.
IA en català per a la feina administrativa, instal·lada dins del vostre perímetre de seguretat.
Entre 3 i 5 setmanes, segons el volum de documents, el nombre de fonts i si cal gestionar permisos per grups. Si encara no tens IA local instal·lada, primer muntem el servidor i el RAG hi va a sobre.
És una tècnica que, abans de respondre, cerca els fragments rellevants als teus documents i els passa al model com a context. Així la resposta es basa en la teva informació i no en el que el model recorda, i en pots comprovar la font.
Es pot equivocar, però molt menys que un xat genèric, perquè respon amb fragments reals i cita d’on surten. El configurem perquè digui que no ho troba quan no hi ha base documental, i mesurem l’encert abans de lliurar-lo.
Sí. Fem servir models d’embeddings multilingües que funcionen bé en català, castellà i anglès, i pots preguntar en una llengua sobre documents escrits en una altra, una cosa molt habitual a les empreses de Barcelona.
Un RAG privat és un cercador amb IA que respon amb els teus documents interns i cita la font, sense treure’ls del teu servidor. Per a despatxos, clíniques i indústries amb molta documentació. Queda en marxa en un termini de 3 a 5 setmanes, amb permisos per grup i proves de qualitat abans del lliurament, en català, castellà i anglès.