Quando si parla di intelligenza artificiale sui documenti aziendali, la conversazione si incastra sempre nello stesso punto: cloud o on-premise?

È una domanda mal posta, e produce risposte inutili. Da una parte c’è chi vende soluzioni completamente locali e ti spiega che il cloud è il male. Dall’altra chi vende cloud e ti rassicura che è tutto crittografato. Sono due slogan, e nessuno dei due ti dice quello che ti serve sapere davvero.

La domanda giusta è un’altra, ed è molto più concreta: quando un mio dipendente fa una domanda, cosa esce esattamente dalla mia rete?

Non “i dati sono al sicuro”. Non “siamo conformi al GDPR”. Cosa esce. Quali byte, in quale momento, verso chi.

È una domanda a cui un fornitore serio deve saper rispondere con un elenco, non con un aggettivo. Qui sotto trovi il nostro, comprese le parti che di solito nessuno racconta.

Perché la domanda “cloud o on-premise” non basta

Facciamo un esempio concreto, perché aiuta.

Immagina un sistema installato interamente sui tuoi server, che non manda un byte a nessuno. Suona perfetto. Poi scopri che risponde a chiunque qualunque cosa, e il commerciale può chiedergli quanto guadagna il direttore. È perfettamente sovrano e perfettamente insicuro. Il posto in cui stanno i dati non c’entra niente con chi può leggerli.

Ora il contrario: un sistema che manda a un modello esterno tre paragrafi di un contratto per formulare una risposta, e nient’altro. Il tuo archivio da centomila documenti resta dove sta, i tre paragrafi sono quelli che la persona poteva già leggere per conto suo, e i permessi sono rispettati.

Quale dei due preferisci? La risposta non dipende dall’etichetta “cloud” o “on-premise”. Dipende da cosa esce, quando, e cosa succede a chi lo riceve.

Ecco perché conviene smettere di chiedere dove gira il sistema e cominciare a chiedere cosa attraversa il confine.

L’elenco completo, per la configurazione più usata

Reperix si può installare in tre modi. Il più usato, e quello che consigliamo di solito, è il modello ibrido: i documenti, l’indicizzazione e la ricerca stanno da te; solo la scrittura della risposta usa un modello esterno.

In quella configurazione, quando una persona fa una domanda, ecco cosa parte davvero.

Esce dalla tua rete

Cosa arriva al modello che scrive la risposta

La domanda Come l’ha scritta la persona
I passaggi che servono a rispondere Di norma otto brani, presi dai documenti che quella persona può già aprire
Il nome del file e i dati di classificazione dei brani Per esempio: Contratto_Rossi_2024.pdf, fornitore, tipo documento, anno
Le ultime battute della conversazione Fino a sei fra domande e risposte precedenti, se stai continuando a chattare
Solo per le domande di elenco: i valori di classificazione dell’archivio Per esempio la lista dei fornitori, per capire cosa stai chiedendo

Nient’altro. Il resto dell’archivio non parte, e non è mai partito: l’analisi dei documenti è avvenuta dentro la tua rete.

Non esce mai

Cosa resta dentro la tua rete

L’archivio completo Anche i documenti che parlano dello stesso tema
I permessi dei documenti Il modello non sa e non deve sapere chi ha diritto a cosa
Chi ha fatto la domanda Nome, email e identità non lasciano la tua rete
I collegamenti ai documenti originali Servono al tuo browser per aprire la fonte, non al modello
L’indicizzazione dei documenti L’analisi che rende l’archivio cercabile gira interamente da te

Che permessi e identità non escano non è una promessa: nel nostro codice quei campi non esistono proprio, nel punto in cui la richiesta viene composta.

Le tre cose che nessuno ti dice

Qui viene la parte scomoda, ed è il motivo per cui questo articolo esiste. Sono tre cose vere, che valgono per qualunque sistema costruito come il nostro, e che di solito nelle brochure non compaiono.

La conversazione esce a ogni domanda

“Escono solo i brani che servono a questa domanda” è una mezza verità. Se stai chattando, a ogni nuova domanda partono anche le battute precedenti, perché senza quelle il modello non capisce a cosa ti riferisci quando scrivi “e per l’anno prima?”.

Vuol dire che il contenuto di una risposta ricevuta cinque minuti fa può ripartire insieme alla domanda successiva. Non è un difetto: è come funziona una conversazione. Ma se qualcuno ti dice che esce solo il minimo indispensabile per la singola domanda, o non conosce il proprio prodotto, o sta semplificando in modo interessato.

Per un documento breve, il brano è il documento

Diciamo tutti “escono solo i frammenti, mai il documento intero”. È vero come meccanismo: il sistema prende i pezzi rilevanti, non il file.

Solo che una fattura sta in un pezzo. Una lettera di due paragrafi pure. Se quel documento è fra quelli che servono a rispondere, il pezzo rilevante coincide con tutto il contenuto. Nessuno ha mandato “il documento”: è che il documento era corto.

Questa è la differenza fra un meccanismo e una garanzia. Il meccanismo è onesto. La garanzia sarebbe una bugia.

Sulle domande di elenco esce qualcosa in più

Se chiedi “quante fatture abbiamo di Rossi” o “elencami i fornitori del 2024”, il sistema deve prima capire di cosa stai parlando. Per farlo manda al modello la lista dei valori con cui il tuo archivio è classificato: i nomi dei fornitori, i tipi di documento e così via.

Sono etichette, non contenuti: nessun testo di documento, nessun importo. Ma quella lista riguarda l’archivio nel suo insieme, non solo la porzione visibile a chi sta chiedendo. E succede solo su questo tipo di domande, non su tutte.

Preferiamo scriverlo qui che lasciartelo scoprire dopo.

E se non deve uscire niente?

C’è chi non può permettersi nemmeno quei tre paragrafi: chi tratta dati sanitari, chi ha vincoli contrattuali stringenti, chi semplicemente ha deciso così.

Per quei casi esiste la configurazione completamente locale: anche il modello che scrive la risposta gira dentro la tua rete, su tuo hardware. In quel caso nessun contenuto dei documenti, nessuna domanda e nessun metadato lascia il perimetro, perché non c’è nessun servizio esterno da chiamare.

Va detta una cosa per onestà: “non esce niente” riferito ai documenti è letteralmente vero, ma il server continuerà a fare le cose che fa un server, per esempio scaricare gli aggiornamenti quando decidi tu di installarli. Nessuna di queste porta con sé i tuoi documenti. Se qualcuno ti promette una macchina che non parla con nulla, ti sta descrivendo un computer scollegato.

E c’è un compromesso vero da conoscere: un modello locale, sul tuo hardware, oggi non scrive risposte buone come i modelli migliori disponibili via API. Puoi comprarti quella differenza con l’hardware, ma è una scelta consapevole, non un pasto gratis. Chi ti dice che il full local non costa niente in qualità non ti sta dicendo tutto.

Le domande da fare a chiunque

Quando valuti un fornitore, queste domande smontano gli slogan in fretta. Valgono per noi come per chiunque altro.

Fammi l’elenco di cosa esce a ogni domanda. Se la risposta è un aggettivo (“è sicuro”, “è cifrato”, “è conforme”) invece di un elenco, non lo sanno o non lo vogliono dire. È la domanda più discriminante di tutte.
L’indicizzazione dove avviene? È la domanda che quasi nessuno fa. Se per rendere cercabile l’archivio il sistema manda ogni documento a un servizio esterno, allora il tuo corpus completo è già uscito, una volta per tutte, prima ancora della prima domanda. È una cosa completamente diversa dal mandare fuori otto brani per rispondere, e la differenza è enorme.
Escono i permessi o l’identità di chi chiede? Non devono uscire: al modello che scrive la risposta non servono, e sono fra le informazioni più delicate che hai.
La conversazione precedente riparte a ogni turno? Quasi sempre la risposta è sì. Serve per capire se hanno chiaro cosa succede sotto il cofano.
Cosa succede a quello che arriva al fornitore del modello? Attenzione a questa. Quello che il modello fa dei dati che riceve dipende dal contratto con quel fornitore, non da chi ti installa il software. Fatti dire quale provider è, con quali condizioni, e se puoi usare un tuo contratto al posto del loro. Chi ti risponde “stia tranquillo” ti sta chiedendo di fidarti di un contratto che non hai letto.

Perché ti stiamo raccontando anche le parti scomode

Dichiaro il conflitto: costruiamo uno di questi sistemi, quindi non sono un arbitro.

Ma il nostro mestiere è far leggere i documenti della tua azienda a un software. Se su una pagina pubblica semplificassimo le parti scomode, e tu lo scoprissi dopo la firma, avresti ragione a chiederti cos’altro abbiamo semplificato. Su un prodotto del genere la fiducia non si recupera.

Poi c’è un motivo meno nobile e altrettanto vero: l’elenco qui sopra lo possiamo scrivere perché lo sappiamo. Non tutti possono.

Se vuoi vedere le tre configurazioni messe a confronto, con il confine disegnato, sta nella pagina su sicurezza e deployment. Se invece il tuo problema è chi vede cosa, l’abbiamo affrontato in chi vede cosa quando l’AI legge i tuoi documenti.

Cosa esce davvero dalla tua rete quando l'AI legge i tuoi documenti