M365Con 2027 – conferenza online gratuita · 11–22 Jan 2027 · 120 sessions→ m365con.net

Blog · Mirko Peters

Perché l'AI nel cloud mette a rischio la tua strategia di conformità aziendale

By ·

Quando le organizzazioni iniziano a sperimentare con l'intelligenza artificiale, il percorso standard prevede in genere l'attivazione di un'API LLM ospitata nel cloud, il collegamento di una fonte dati aziendale e l'attesa del risultato. Per il brainstorming informale o per i testi di marketing rivolti al pubblico, questo approccio funziona abbastanza bene. Ma nel momento in cui colleghi uno strum

Automatically translated with AI from the original post. Read the English original

Cover: How to Run Local Llama on SharePoint Files Securely

Quando le organizzazioni iniziano a sperimentare con l'intelligenza artificiale, il percorso standard prevede in genere l'attivazione di un'API LLM ospitata nel cloud, il collegamento di una fonte dati aziendale e l'attesa del risultato. Per il brainstorming informale o per i testi di marketing rivolti al pubblico, questo approccio funziona abbastanza bene. Ma nel momento in cui colleghi uno strumento AI nel cloud ai tuoi documenti aziendali interni, ai file delle risorse umane o ai fogli di calcolo finanziari, apri il vaso di Pandora del rischio. Le architetture AI tradizionali nel cloud introducono vettori complessi di esfiltrazione dei dati, dipendenze di fiducia verso fornitori terzi e vulnerabilità immediate che minacciano l'intera postura di conformità dell'azienda.

I severi quadri normativi come GDPR, HIPAA, NIST AI RMF e CMMC non vedono di buon occhio la condivisione di dati senza verifiche preventive. Inviare dati sensibili dei clienti o proprietà intellettuale riservata a un endpoint di modello esterno può far scattare, dall'oggi al domani, gravi violazioni di conformità. Per mantenere una vera sovranità dei dati, i settori regolamentati stanno abbandonando il cloud pubblico e adottando soluzioni on-premises che girano interamente su infrastruttura locale. Tenendo i dati sensibili in locale, elimini il traffico API verso l'esterno e mantieni il controllo totale sul flusso delle informazioni. Per approfondire l'architettura pratica e le scelte di governance necessarie a proteggere i documenti interni, ascolta il nostro podcast di approfondimento: How to Run Local Llama on SharePoint Files Securely.

Smetti di perdere dati con l'AI locale

Perché l'AI locale è più sicura

Vuoi smettere di perdere dati e proteggere i file di SharePoint. Usare un'AI on-premises ti dà più controllo rispetto alle soluzioni nel cloud. Quando elabori i file con un'AI nel cloud, corri diversi rischi:

  • Gli strumenti AI possono richiedere dati sensibili e inviarli involontariamente all'esterno dell'organizzazione.
  • Prompt malevoli possono indurre l'AI a esfiltrare informazioni riservate.
  • Elaborare dati personali dell'UE senza consenso può comportare sanzioni.
  • L'esposizione di dati regolamentati può causare violazioni di HIPAA o SOX.
  • Gli accessi non autorizzati possono danneggiare la reputazione e creare problemi legali.
  • I dati riservati dei clienti potrebbero essere visti da persone che non dovrebbero avervi accesso.

L'AI on-premises mantiene i tuoi dati all'interno della tua infrastruttura. Non effettui chiamate API verso servizi esterni, quindi impedisci gli accessi dall'esterno. Questo approccio è essenziale per settori come sanità, legale e finanza, dove la sicurezza dei dati è più importante. Mantieni la piena conformità normativa e il controllo sul flusso dei dati.

Suggerimento: se vuoi smettere di perdere dati, scegli l'AI on-premises per l'elaborazione dei file di SharePoint. Mantieni le informazioni sensibili all'interno dell'organizzazione e riduci il rischio di esposizione.

Sovranità dei dati e conformità

Devi rispettare regole rigorose in materia di protezione dei dati. L'AI on-premises ti aiuta a soddisfare requisiti come GDPR e HIPAA. Controlli come si muovono i dati e come funzionano i tuoi modelli AI. Eviti il vendor lock-in e costi imprevedibili. Quando invii dati via internet, rischi fughe di dati e accessi non autorizzati. Tenere i file in locale significa restare conformi e proteggere il business.

  • I dati sensibili restano all'interno della tua infrastruttura.
  • Elimini il rischio di violazioni di conformità nei settori regolamentati.
  • Decidi chi può accedere ai file di SharePoint e come li usa l'AI.

La sicurezza dei dati migliora quando usi l'AI on-premises. Costruisci fiducia con clienti e autorità di vigilanza dimostrando che dai valore alla privacy e alla governance.

L'architettura di Local Llama

Local Llama adotta un design modulare che si adatta alle tue esigenze. Puoi partire in piccolo e scalare man mano che l'organizzazione cresce. L'architettura ti consente di eseguire i modelli AI in locale, così i dati di SharePoint non escono mai dal tuo controllo. Questa configurazione riduce il rischio di esporre informazioni sensibili a servizi di terze parti.

Local Llama usa un'applicazione RAG per migliorare accuratezza e sicurezza. L'applicazione RAG recupera in tempo reale i dati privati dalla tua knowledge base protetta. Non memorizza le informazioni sensibili nella memoria del modello. Questo metodo mantiene solidi i confini di sicurezza e impedisce gli accessi non autorizzati.

Ottieni i vantaggi di un'applicazione RAG che ancora le risposte dell'AI ai tuoi documenti. L'applicazione RAG ti aiuta a ottenere risposte affidabili basate sui tuoi file interni. Eviti le allucinazioni dell'AI e mantieni al sicuro i tuoi dati.

Nota: l'applicazione RAG di Local Llama supporta la sicurezza dei dati e la conformità. Puoi affidarti alla tua AI per gestire i file di SharePoint senza rischiare fughe di dati.

Fughe di dati tramite AI: rischi e prevenzione

Scenari comuni di fuga di dati in SharePoint con AI

Quando usi l'AI con SharePoint, i rischi sono concreti. Molte organizzazioni hanno già visto fughe di dati dovute all'AI perché gli agenti accedono ai file senza controlli adeguati. A volte le autorizzazioni vengono ereditate da progetti passati o da ruoli delegati. Potresti non accorgerti di queste fughe finché informazioni riservate non compaiono in posti inattesi.

ScenarioDescrizione
Fuga di documenti HRL'agente di un sales manager mostra un'analisi HR riservata a causa di un accesso ereditato da un progetto precedente.
Esposizione delle comunicazioni dirigenzialiL'agente di un assistente rivela dettagli di discussioni riservate su una fusione a causa di autorizzazioni di delega sul calendario.
Incidente sui dati finanziariL'agente di un marketing coordinator fornisce obiettivi di fatturato specifici da documenti riservati a causa di condivisioni di cartelle configurate in modo errato.

Devi capire questi rischi per prevenire violazioni dei dati. Se non imposti autorizzazioni rigorose, gli agenti AI possono accedere a file che dovrebbero restare privati.

Vulnerabilità dell'AI nel cloud

Le piattaforme AI nel cloud introducono nuove vulnerabilità. Devi tenere d'occhio i modi in cui gli agenti AI possono accedere a file riservati di SharePoint. Ecco alcuni problemi comuni:

  • Gli agenti AI ereditano le autorizzazioni dagli utenti, con conseguente accesso non voluto a dati sensibili.
  • A differenza delle persone, gli agenti AI non limitano spontaneamente il proprio accesso, il che può esporre informazioni riservate.
  • Un agente AI può accedere a report HR per autorizzazioni ereditate, con conseguente esposizione di dati sensibili.

Devi rivedere le autorizzazioni regolarmente. Gli agenti AI non seguono sempre la stessa logica delle persone. Questa differenza può causare fughe di dati tramite AI se non monitori l'accesso con attenzione.

Microsoft 365 e Data Loss Prevention

Microsoft Purview Data Loss Prevention (DLP) ti aiuta a proteggere i file di SharePoint dalle fughe di dati. Puoi usare le funzionalità DLP per bloccare gli accessi non autorizzati e monitorare i contenuti sensibili.

FunzionalitàDescrizione
Integrazione con l'AIMicrosoft Purview integra DLP con funzionalità AI avanzate per automatizzare la protezione dei dati, garantendo una sicurezza coerente su piattaforme come SharePoint.
Ispezione approfondita dei contenutiIl motore DLP esegue un'analisi approfondita dei contenuti, riducendo i falsi positivi e migliorando la precisione dei criteri, validando i pattern e rilevando contenuti sensibili anche in formati non standard.
Protezione adattivaAdegua l'applicazione delle regole in base al comportamento degli utenti, concedendo maggiore flessibilità agli utenti conformi e inasprendo la sicurezza durante attività insolite.
Approfondimenti in tempo realeFornisce ai team di sicurezza approfondimenti utilizzabili per concentrarsi sui problemi critici, rafforzando la strategia complessiva di protezione dei dati.
Compatibilità con Microsoft 365 CopilotGarantisce che i documenti riservati siano esclusi dall'elaborazione o dal riepilogo da parte degli strumenti AI, mantenendo la sicurezza dei dati in SharePoint.

Dovresti combinare DLP con autorizzazioni SharePoint solide. I report di audit e i controlli di accesso ti aiutano a tenere traccia di chi visualizza o condivide i file. Puoi fermare le fughe prima che diventino incidenti gravi. Revisioni regolari e monitoraggio mantengono sicura la tua organizzazione.

Suggerimento: configura i log di audit e controllali spesso. Individuerai attività anomale e prevenirai violazioni dei dati prima che accadano.

Prerequisiti per la distribuzione di Local Llama

Prima di distribuire Local Llama sui tuoi file di SharePoint, devi assicurarti che il tuo ambiente soddisfi alcuni requisiti. Questa preparazione ti aiuta a eseguire il tuo local llm senza intoppi e a mantenere al sicuro i dati sensibili.

Requisiti hardware e software

Dovresti scegliere l'hardware in base alle dimensioni del modello AI che intendi usare.

Dimensione del modelloGPU consigliataVRAM richiesta
3BQualsiasi GPU moderna~6 GB
7-8BRTX 4070 Ti~16 GB
24BRTX 4090~48 GB
70B2x RTX 4090 / A100~140 GB

Ti serve anche un sistema operativo recente, come Windows Server 2019 o Ubuntu 22.04. Assicurati di avere spazio su disco sufficiente per i tuoi file di SharePoint e per i modelli AI. Installa i driver più recenti della tua GPU per ottenere le prestazioni migliori.

Preparazione di SharePoint per l'integrazione

Devi configurare SharePoint in modo che Local Llama possa accedere ai tuoi file in sicurezza. Segui questi passaggi:

  1. Clona il repository con il comando:
    git clone https://github.com/pathwaycom/llm-app.git
  2. Spostati nella directory del progetto:
    cd llm-app/templates/question_answering_rag
  3. Crea un file di configurazione per le variabili d'ambiente. Aggiungi la tua chiave API di OpenAI:
    OPENAI_API_KEY=sk-*******
  4. Modifica il file app.yaml. Sostituisci l'origine locale predefinita con l'integrazione di SharePoint. Aggiungi i parametri richiesti: url, tenant, client_id, cert_path e thumbprint.

Verifica le autorizzazioni di SharePoint prima di connetterti. Consenti l'accesso solo alle cartelle e ai file che vuoi che l'AI utilizzi. Questo passaggio ti aiuta a evitare l'esposizione accidentale di informazioni riservate.

Configurare un ambiente sicuro

Devi proteggere la tua distribuzione da accessi non autorizzati. Usa queste best practice:

  • Usa un computer dedicato per l'elaborazione dell'AI.
  • Disconnetti il sistema da internet per bloccare le minacce esterne.
  • Trasferisci i file tramite unità USB o altri supporti rimovibili.
  • Limita l'accesso fisico all'hardware.
  • Configura uno spazio dei nomi di rete isolato per i processi di AI.
  • Cancella i dati sensibili con strumenti di eliminazione sicura.
  • Esegui i modelli non attendibili in un ambiente sandbox.

Questi passaggi ti aiutano a mantenere sicura la tua distribuzione di LLM locale. Riduci il rischio di fughe di dati e mantieni la tua organizzazione in controllo delle proprie informazioni.

Suggerimento: rivedi spesso la configurazione di sicurezza. Controlli regolari ti aiutano a individuare i problemi prima che colpiscano i tuoi dati.

Distribuire Local Llama su SharePoint

Installare e configurare Local Llama

Download e configurazione

Puoi iniziare scaricando il repository di Local Llama da GitHub. Apri il Prompt dei comandi ed esegui il comando seguente:

git clone https://github.com/pathwaycom/llm-app.git

Spostati nella directory del progetto e segui le istruzioni di installazione nella documentazione. Durante l'installazione potresti riscontrare alcuni errori di compilazione comuni. Ad esempio, potresti vedere errori relativi a std::chrono, come 'system_clock' o 'now' non riconosciuti. Questi errori si verificano spesso se il submodule llama.cpp è obsoleto. Per risolvere il problema, aggiorna il submodule prima di compilare. Usa sempre il Prompt dei comandi invece di PowerShell per il processo di installazione. Questo aiuta a evitare problemi di compatibilità.

Suggerimento: se visualizzi errori di compilazione, aggiorna i submodule e verifica di usare il Prompt dei comandi.

Allocazione delle risorse di sistema

Devi far corrispondere le risorse hardware alle dimensioni del modello che intendi utilizzare. Controlla GPU e VRAM prima di iniziare. Per i modelli più piccoli è sufficiente una GPU moderna con 6 GB di VRAM. I modelli più grandi richiedono GPU più potenti e memoria aggiuntiva. Assicurati che il sistema disponga di spazio su disco sufficiente sia per il modello sia per i file di SharePoint. Aggiorna i driver della GPU per ottenere le migliori prestazioni. Se prevedi di scalare, valuta l'uso di hardware dedicato per ciascun componente della distribuzione.

Connettersi a SharePoint

Autenticazione sicura

Per connettere Local Llama a SharePoint è necessaria un'autenticazione sicura. Hai diversi metodi tra cui scegliere, ognuno con i propri punti di forza e di debolezza.

MetodoVantaggiSvantaggi
OneDrive for BusinessSemplicità, SimpleDirectoryReader di Llamaindex è sufficienteCosto della licenza di Windows, scalabilità limitata, limitato alle credenziali di un solo utente, nessuna immagine container per Google Vertex AI
OnedriverGratuito, filesystem montato, accesso ai file on demandL'accesso on demand può essere lento, la scalabilità è limitata
Llamaindex LoaderScalabilità, funziona in Python, non richiede un accesso interattivoConfigurazione più complessa rispetto ai metodi precedenti

Scegli il metodo più adatto alle esigenze della tua organizzazione. Per la maggior parte delle distribuzioni aziendali, Llamaindex Loader offre il miglior equilibrio tra sicurezza e scalabilità. Funziona in Python e non richiede un accesso interattivo, il che aiuta a proteggere le tue credenziali.

Nota: non archiviare mai credenziali in testo semplice nei file di configurazione. Usa variabili d'ambiente o vault sicuri per proteggere i tuoi segreti.

Indicizzazione dei contenuti

Devi indicizzare i contenuti di SharePoint affinché Local Llama possa cercare e recuperare le informazioni in modo efficiente. Segui questi passaggi per ottenere i risultati migliori:

  1. Usa script Python per scaricare i file di SharePoint ed estrarre il testo. In questo modo avrai accesso locale ai tuoi documenti.
  2. Suddividi in blocchi, vettorializza e indicizza i documenti usando FAISS. Archivia gli embedding in un database locale.
  3. Cerca nell'indice vettoriale i frammenti di documento più pertinenti quando esegui una query.
  4. Costruisci i prompt utilizzando il contesto recuperato. Questo aiuta il modello linguistico a fornire risposte accurate.
  5. Esegui il modello generativo in locale per mantenere tutta l'elaborazione all'interno del tuo ambiente sicuro.

Questo flusso di lavoro garantisce che i tuoi dati proprietari restino sotto il tuo controllo. Puoi scalare il processo di indicizzazione man mano che la libreria di documenti cresce.

Eseguire query e recuperare i dati

Una volta completati la configurazione e l'indicizzazione, puoi iniziare a eseguire query sui tuoi file di SharePoint. Inserisci la domanda nell'interfaccia di Local Llama. Il sistema cerca nei contenuti indicizzati, recupera i frammenti più pertinenti e li usa per generare una risposta basata sui fatti. Ottieni risposte fondate sui tuoi documenti interni, non su dati generici di internet.

Puoi automatizzare questo processo per i flussi di lavoro più comuni. Ad esempio, potresti impostare query pianificate per monitorare la conformità o riassumere gli aggiornamenti recenti. Controlla regolarmente i log delle query per individuare attività insolite e migliorare i prompt.

Suggerimento: eseguire un LLM locale sui tuoi file di SharePoint ti offre risposte rapide, riservate e accurate. Le informazioni sensibili restano all'interno dell'organizzazione e si riduce il rischio di fughe di dati.

Protezione di informazioni sensibili e PII

Isolamento di rete e firewall

Devi tenere la distribuzione di Local Llama al riparo da minacce esterne. L'isolamento di rete è un modo efficace per farlo. Colloca il sistema di IA su un segmento di rete dedicato. Questo passaggio impedisce ai dispositivi esterni di raggiungere i dati sensibili. Puoi usare i firewall per controllare quali servizi Local Llama può utilizzare. Ad esempio, puoi bloccare le porte non necessarie con strumenti come iptables o firewall-cmd. Ecco alcuni comandi che potresti usare:

  • Usa iptables per bloccare una porta:
    sudo iptables -A INPUT -p tcp --dport 11434 -j DROP
  • Usa firewall-cmd per rifiutare il traffico:
    sudo firewall-cmd --permanent --add-rich-rule='rule family="ipv4" port port="11434" protocol="tcp" reject'
    sudo firewall-cmd --reload

Consenti solo il traffico di cui il sistema di IA ha bisogno. Questo approccio riduce il rischio che gli aggressori raggiungano i tuoi file. Puoi inoltre usare strumenti di monitoraggio della rete per individuare attività insolite.

StrategiaDescrizione
Controlli di accesso rigorosiUsa l'accesso basato sui ruoli e l'autenticazione a più fattori. Controlla spesso i log di accesso.
Rilevamento delle minacce basato su IAImposta il rilevamento delle anomalie per individuare schemi strani. Collega gli avvisi alla dashboard di sicurezza.
Convalida dell'inputLimita l'input degli utenti e filtra i caratteri dannosi. Registra i prompt rifiutati per la revisione.
Limita le autorizzazioni dei plug-inConsenti solo plug-in attendibili. Verificali prima dell'uso.
Sicurezza del runtime di IAMonitora in tempo reale i carichi di lavoro di IA alla ricerca di minacce.
Pianificazione della risposta agli incidentiPrepara un piano per gestire gli incidenti di sicurezza legati all'IA.

Suggerimento: isola il sistema di IA da internet ogni volta che è possibile. Questo passaggio aiuta a proteggere le informazioni di identificazione personale.

Controlli di accesso e autorizzazioni

Devi impostare controlli di accesso rigorosi per proteggere i tuoi file di SharePoint. Assegna i ruoli in modo che solo gli utenti attendibili possano accedere ai dati sensibili. Usa l'autenticazione a più fattori per tutti gli account. Verifica spesso le autorizzazioni e rimuovi l'accesso quando le persone cambiano ruolo o lasciano l'organizzazione. Registra ogni accesso ai tuoi file e controlla questi log alla ricerca di segnali di attività non autorizzata.

Il controllo dell'accesso basato sui ruoli (RBAC) ti aiuta a limitare chi può vedere o usare le informazioni di identificazione personale. Dovresti inoltre imporre password robuste e la loro modifica periodica. Questi passaggi rendono più difficile agli aggressori raggiungere i tuoi file.

Nota: verifica sempre ruoli e autorizzazioni degli utenti dopo i progetti importanti o i cambiamenti nei team.

Mascheramento e crittografia

Devi mascherare e crittografare le informazioni di identificazione personale per proteggerle. Il mascheramento nasconde parti dei dati sensibili, in modo che solo gli utenti autorizzati vedano i dettagli completi. Ad esempio, puoi sostituire parti di un numero di previdenza sociale con asterischi. La crittografia rende illeggibili i dati, che solo chi possiede la chiave corretta può decifrare.

MetodoPunti chiave
Implementazione di RA-TLSProtegge i dati in transito creando un tunnel crittografato durante la comunicazione.
Proxy API protetto da TEEMaschera i token prima dell'invio alle API, usando il pattern matching e modelli NLP per mantenere riservati i dati.

Dovresti sempre usare metodi crittografati per inviare e archiviare i dati sensibili. Non inviare mai informazioni di identificazione personale su canali non protetti, come l'email. Usa le funzionalità di sicurezza integrate di SharePoint per controllare chi può accedere ai file.

Suggerimento: aggiorna regolarmente le chiavi di crittografia e verifica le regole di mascheramento per mantenere alta la protezione.

Verifiche periodiche e monitoraggio

Devi sottoporre a verifica e monitorare regolarmente la distribuzione di Local Llama per mantenere sicuri i dati di SharePoint. La verifica ti aiuta a tracciare chi accede ai file sensibili e quando. Il monitoraggio consente di individuare attività insolite prima che diventino un problema. Questi passaggi costituiscono la base di un solido programma di sicurezza.

Inizia configurando un criterio di audit che corrisponda alle esigenze della tua organizzazione. Puoi registrare migliaia di eventi in decine di servizi. Calibra l'ambito di logging sui dati più sensibili e sulle azioni critiche. Ad esempio, potresti tracciare ogni volta che qualcuno consulta documenti riservati delle risorse umane o registrazioni finanziarie.

Gli strumenti di monitoraggio ti aiutano ad analizzare questi log. Cercano schemi e segnalano tutto ciò che sembra fuori posto. Se qualcuno tenta di accedere ai file a orari insoliti o da una posizione anomala, il sistema può avvisarti subito. Questo preavviso ti dà il tempo di reagire prima che un problema minore diventi una violazione grave.

Puoi anche collegare i log di audit a strumenti di analisi avanzati. Molte organizzazioni usano a questo scopo i sistemi SIEM (Security Information and Event Management). Le API rendono semplice inviare i log di Local Llama e SharePoint al tuo SIEM. Questa integrazione ti permette di correlare dati provenienti da fonti diverse e individuare minacce complesse che potrebbero sfuggire ai controlli semplici.

FunzionalitàDescrizione
Criterio di audit e ambitoCopre migliaia di eventi in decine di servizi. Puoi adattare il logging alle tue esigenze.
Monitoraggio e rilevamento delle anomalieGli strumenti analizzano gli schemi dei log e segnalano le anomalie. Puoi identificare gli incidenti in base ad attività insolite.
Integrazione con gli strumenti di analisiLe API ti consentono di aggregare e analizzare i log nei sistemi SIEM. Questo potenzia le operazioni di sicurezza.

Suggerimento: rivedi i log di audit con una pianificazione regolare. Configura avvisi per le azioni ad alto rischio, come l'accesso a PII o le modifiche alle autorizzazioni.

Dovresti anche eseguire verifiche periodiche della configurazione di monitoraggio. Assicurati che gli avvisi funzionino come previsto. Testa il piano di risposta, così il team sa cosa fare se qualcosa va storto. Audit e monitoraggio regolari ti aiutano a individuare i problemi in anticipo e a dimostrare alle autorità di controllo che prendi sul serio la protezione dei dati.

Rendendo audit e monitoraggio una parte di routine della tua implementazione di Local Llama, costruisci una difesa solida contro le fughe di dati. Mantieni al sicuro i file di SharePoint e conservi la fiducia dei tuoi clienti e partner.

Suggerimenti per l'integrazione e risoluzione dei problemi

Automazione dei flussi di lavoro

Puoi risparmiare tempo automatizzando i flussi di lavoro di Local Llama. L'automazione ti permette di eseguire attività senza passaggi manuali. Ad esempio, puoi pianificare l'indicizzazione periodica dei nuovi file di SharePoint. Usa strumenti come Utilità di pianificazione di Windows o i cron job su Linux per eseguire script a orari prestabiliti. In questo modo la tua AI resta aggiornata con gli ultimi documenti.

Puoi anche automatizzare la generazione dei report. Configura script che inviano riepiloghi o verifiche di conformità via email. Se usi Microsoft Power Automate, puoi avviare azioni quando i file cambiano in SharePoint. Così colleghi Local Llama ad altri strumenti aziendali. L'automazione riduce gli errori e rende il tuo sistema AI più affidabile.

Suggerimento: inizia con un'automazione semplice. Aggiungi passaggi man mano che capisci cosa funziona meglio per il tuo team.

Ottimizzazione delle prestazioni

Vuoi risposte rapide e accurate da Local Llama, anche con grandi insiemi di dati di SharePoint. Puoi ottimizzare il sistema per migliorare velocità ed efficienza. Inizia verificando l'hardware. Usa RAM più veloce, come DDR5, e abilita i profili XMP o DOCP nel BIOS. Configura la memoria a doppio o quadruplo canale per una maggiore larghezza di banda.

Aggiorna i driver della GPU all'ultima versione. Se il sistema supporta PCIe Gen4 o Gen5, abilitalo per trasferimenti dati più veloci. Controlla la temperatura della GPU per evitare rallentamenti dovuti al surriscaldamento.

Puoi anche regolare il modo in cui Local Llama gestisce il contesto. Usa la sliding window attention per i documenti lunghi. Questo aiuta il modello a concentrarsi sulle parti giuste dei tuoi dati. La prompt caching accelera le query ripetute. Per le app che richiedono risposte rapide, prova la speculative decoding.

L'elaborazione in batch migliora la produttività. Esegui il comando seguente per gestire quattro richieste contemporaneamente ed elaborare batch più grandi:

./llama-server -m model.gguf --parallel 4 --batch-size 2048
Strategia di ottimizzazioneDettagli
Ottimizzazione della larghezza di banda della memoriaUsa RAM più veloce, abilita XMP/DOCP, configura la memoria a doppio/quadruplo canale
Ottimizzazione della GPUAggiorna i driver, abilita PCIe Gen4/Gen5, monitora la temperatura della GPU
Ottimizzazione del contestoUsa sliding window attention, prompt caching, speculative decoding
Elaborazione in batch per la produttivitàEsegui più richieste in parallelo con dimensioni di batch maggiori

Nota: verifica ogni modifica per capire come influisce sul sistema. Piccoli ritocchi possono fare una grande differenza.

Problemi comuni e soluzioni

Quando usi Local Llama con SharePoint potresti incontrare alcuni problemi ricorrenti. Eccone alcuni e come risolverli:

  • Errori di autenticazione: verifica le credenziali e assicurati di usare variabili di ambiente, non testo in chiaro.
  • Indicizzazione lenta: aggiorna l'hardware o suddividi le librerie di documenti di grandi dimensioni in insiemi più piccoli.
  • Autorizzazione negata: verifica le autorizzazioni di SharePoint e assicurati che l'account di servizio disponga dell'accesso corretto.
  • Errori di caricamento del modello: assicurati che la GPU disponga di VRAM sufficiente per le dimensioni del modello. Se necessario, aggiorna i driver.
  • Errori di rete: verifica le regole del firewall e le impostazioni di isolamento della rete.

Se visualizzi messaggi di errore, consulta i log per i dettagli. La maggior parte dei problemi ha soluzioni chiare. Mantieni aggiornati software e driver. I controlli periodici ti aiutano a individuare tempestivamente i problemi.

Suggerimento: documenta le soluzioni che trovi. In questo modo il tuo team potrà risolvere più rapidamente i problemi in futuro.


Abbandonare gli endpoint cloud vulnerabili e implementare l'elaborazione AI in locale non è più un semplice lusso tecnico, ma una necessità per le aziende che gestiscono dati regolamentati. Scegliendo architetture self-hosted come Local Llama, proteggi la tua proprietà intellettuale, rispetti rigorosi obblighi di conformità e mantieni il controllo totale sugli asset digitali della tua organizzazione. Per concludere questa discussione e approfondire le scelte architetturali che contano negli ambienti Microsoft reali, non perdere il nostro episodio podcast correlato su How to Run Local Llama on SharePoint Files Securely.

Domande frequenti

In che modo Local Llama mantiene privati i miei dati di SharePoint?

Local Llama viene eseguito all'interno della tua organizzazione. I tuoi file non lasciano mai la rete. Tu controlli accesso e archiviazione. Questa configurazione protegge i dati sensibili dalle minacce esterne.

Posso usare Local Llama senza una GPU potente?

Sì, puoi usare modelli più piccoli su CPU moderne o GPU di fascia base. Per i modelli di grandi dimensioni servono più VRAM. Inizia con poco e aumenta la capacità man mano che le esigenze crescono.

Cosa succede se perdo la connessione a SharePoint?

Local Llama non accederà a nuovi file finché non ripristinerai la connessione. I dati indicizzati restano al sicuro. Quando sei pronto, puoi riconnetterti e aggiornare l'indice.

Local Llama supporta la conformità a normative come il GDPR?

Sì. Mantieni tutta l'elaborazione dei dati in locale. Questo ti aiuta a rispettare il GDPR, l'HIPAA e altre norme sulla privacy. Decidi tu come e dove si spostano i tuoi dati.

Come aggiorno Local Llama all'ultima versione?

Esegui git pull nella directory del progetto.
Segui i passaggi di aggiornamento descritti nella documentazione.
Esegui sempre il backup della configurazione prima di aggiornare.

Posso automatizzare l'indicizzazione dei documenti con Local Llama?

Puoi pianificare i processi di indicizzazione con strumenti come cron o Utilità di pianificazione. In questo modo l'AI resta aggiornata con i nuovi file di SharePoint.

Cosa devo fare se visualizzo un errore di autenticazione?

Verifica le credenziali e le variabili di ambiente. Assicurati che l'account di servizio disponga delle autorizzazioni corrette. Consulta i log per ulteriori dettagli.

È possibile usare Local Llama con altre origini di documenti?

Sì! Puoi collegare Local Llama ad altre origini, come condivisioni file o unità cloud. Modifica la configurazione per aggiungere nuove posizioni dei dati.


🎧 Ascolta questo episodio

Vuoi una spiegazione pratica di How to Run Local Llama on SharePoint Files Securely? Questo episodio illustra l'argomento in modo chiaro e mostra perché è importante per Microsoft 365, Azure, Power Platform, sicurezza, AI e il lavoro moderno.

Ascolta questo episodio se vuoi:

  • Capire i concetti chiave alla base di How to Run Local Llama on SharePoint Files Securely
  • Vedere come si inserisce nel più ampio ecosistema tecnologico Microsoft
  • Scoprire dove può creare valore concreto per la tua organizzazione

Potrebbero interessarti anche questi episodi correlati di M365 FM:

Scopri altre conversazioni pratiche su Microsoft su M365 FM.

Ultima revisione: luglio 2026.

A chi è rivolto

Questo episodio è pensato per amministratori Microsoft, architetti, sviluppatori, professionisti della sicurezza e decision maker aziendali che hanno bisogno di basi pratiche prima di prendere decisioni su implementazione, operatività o governance.

🎧 Ascolta anche

  • Microsoft Teams — Un passo successivo molto correlato per approfondire questo argomento.
  • SharePoint Premium — Un passo successivo molto correlato per approfondire questo argomento.
  • OneDrive Sync — Un passo successivo molto correlato per approfondire questo argomento.

Entities in this article

SharePoint Compliance Llama HIPAA Data sovereignty GDPR GitHub LlamaIndex AI agent Data loss prevention (DLP)

Related articles

RSS