Parliamone

Blog · 24 settembre 2026 · 7 min di lettura

Come collegare un'AI locale ai documenti aziendali (RAG)

Il valore vero di un'AI in azienda arriva quando risponde con le informazioni dell'azienda: procedure, listini, contratti, manuali. La tecnica si chiama RAG. Ecco come funziona e come impostarla bene su un'AI locale.

In breve: il RAG (retrieval-augmented generation) divide i documenti in piccoli pezzi, li indicizza con un modello di embedding e, a ogni domanda, passa all'AI solo i pezzi pertinenti. In Open WebUI si fa creando una Knowledge (base di conoscenza) e collegandola a un modello. Per l'italiano conviene sostituire il modello di embedding predefinito con uno multilingue, come bge-m3 o qwen3-embedding, e aumentare il contesto del modello.

Come funziona, senza gergo

  1. Preparazione: ogni documento viene diviso in blocchi di testo (in Open WebUI, di default, circa 1.000 caratteri con 100 di sovrapposizione).
  2. Indicizzazione: un modello di embedding trasforma ogni blocco in una "impronta" numerica che ne rappresenta il significato.
  3. Ricerca: quando fai una domanda, il sistema cerca i blocchi con il significato più vicino (di default i 3 migliori).
  4. Risposta: il modello riceve la domanda insieme a quei blocchi e risponde citando le fonti.

Tutto avviene sul computer aziendale: né i documenti né le domande escono dall'azienda.

Configurarlo in Open WebUI

  1. Scarica un modello di embedding multilingue: ollama pull bge-m3 (1,2 GB) oppure ollama pull qwen3-embedding:4b (2,5 GB).
  2. In Pannello di amministrazione → Impostazioni → Documenti scegli Ollama come motore di embedding e seleziona il modello scaricato. Il modello predefinito di Open WebUI è pensato soprattutto per l'inglese.
  3. In Workspace → Knowledge crea una base di conoscenza per argomento (per esempio "Procedure qualità", "Listini 2026") e carica i documenti.
  4. Collega la Knowledge a un modello in Workspace → Modelli, oppure richiamala in chat scrivendo #.
  5. Aumenta il contesto del modello (num_ctx): con il valore predefinito di 4.096 token sulle GPU sotto i 24 GB i blocchi recuperati rischiano di non entrare.

Importante: se cambi modello di embedding dopo aver caricato i documenti, vanno reindicizzati. Sceglilo prima di caricare l'archivio.

Perché le risposte a volte sono sbagliate

  • PDF scansionati: se il PDF è un'immagine senza testo, l'AI non legge nulla. Serve prima il riconoscimento del testo (OCR).
  • Tabelle e listini: divisi in blocchi perdono la struttura. Per dati tabellari spesso è meglio un collegamento diretto al gestionale o al database che il RAG.
  • Documenti duplicati o vecchi: se in archivio ci sono tre versioni della stessa procedura, l'AI può citare quella sbagliata. Carica solo le versioni valide.
  • Troppi documenti in un'unica base: basi più piccole e tematiche danno risposte più precise.
  • Domande troppo generiche: "dimmi tutto sul cliente X" funziona peggio di "quali sono i termini di pagamento nel contratto con il cliente X?".

Permessi: chi può vedere cosa

Un'AI collegata ai documenti vede tutto ciò che le dai. Prima di caricare contratti, dati del personale o informazioni riservate:

  • crea basi di conoscenza separate per reparto o livello di riservatezza;
  • usa i gruppi di Open WebUI per decidere chi può usare quale base;
  • non caricare dati personali non necessari: il principio di minimizzazione del GDPR vale anche per l'AI.

Quando conviene farsi aiutare

Vuoi tutto in un PDF da stampare o girare ai colleghi? Scarica gratis la guida completa: hardware, modelli, installazione, sicurezza e checklist in 20 punti.

Una prova su un computer si fa in un pomeriggio. Portarla in produzione per un'azienda è un altro lavoro: account e permessi per reparto, accesso sicuro da remoto, backup, aggiornamenti, collegamento ai gestionali e formazione del personale (utile anche per l'AI Act).

Se la prova ti ha convinto e vuoi un'installazione affidabile, scrivici: partiamo da quello che hai già provato. La consulenza Dabryx parte da €100 l'ora.

Fonti

Approfondisci

Domande frequenti

Cos'è il RAG?

È una tecnica che permette a un modello di AI di rispondere usando documenti che non conosceva: il sistema cerca i passaggi pertinenti nell'archivio e li passa al modello insieme alla domanda.

Serve riaddestrare il modello sui documenti aziendali?

No, nella maggior parte dei casi. Il RAG è più semplice, più economico e si aggiorna subito quando cambi i documenti; l'addestramento (fine-tuning) serve per esigenze specifiche di stile o formato.

Quanti documenti si possono collegare?

Anche migliaia. Il limite pratico è la qualità: basi tematiche, documenti aggiornati e testo leggibile contano più della quantità.

Vuoi una stima per la tua azienda?

Raccontaci quante persone useranno l'AI e per cosa: ti diciamo quale configurazione serve.

Email

info@dabryx.com

Tempi di risposta

Entro 2 ore nei giorni feriali (9:00–18:00) per i clienti con contratto di assistenza.

Consulenza AI

A partire da €100 l'ora, su server o Mac della tua azienda.

Dove lavoriamo

In tutta Italia, da remoto e in sede dal cliente.