Il ruolo dell’AI nella Gestione dei Servizi IT
I Large Language Models (LLM), la Retrieval-Augmented Generation (RAG) e i Knowledge Graphs (KG) stanno trasformando il modo in cui gestiamo e utilizziamo enormi quantità di dati. Comprendere ciascuna di queste tecnologie e come interagiscono tra loro può fornire un’intuizione più profonda del loro potenziale per trasformare l’ITSM. Gli LLM sono modelli di AI avanzati addestrati su vastissime quantità di dati per generare testo simile a quello umano basato su quello che ricevono in input. Vale la pena notare che il modello di linguaggio di grandi dimensioni stesso non ha memoria né accesso a informazioni in tempo reale. Inoltre, gli LLM possono perdere focus e creare allucination, soprattutto quando ricevono input di grandi dimensioni.
Per affrontare alcune limitazioni degli LLM, la Retrieval-Augmented Generation (RAG) può svolgere un ruolo importante. RAG è una tecnica che migliora le capacità degli LLM recuperando dinamicamente informazioni esterne da una knowledge base al momento della query. Questo consente agli LLM di accedere a informazioni aggiornate sulla query e generare risposte più accurate e rilevanti.
Mentre RAG migliora significativamente gli LLM fornendo loro accesso a dati esterni, i Knowledge Graphs (KG) offrono un altro livello di sofisticazione. I KG sono database strutturati che memorizzano i dati in una rete interconnessa di entità e le loro relazioni. Forniscono un modo strutturato per rappresentare la conoscenza in vari domini, incluso l’ITSM. I KG possono essere utilizzati per migliorare ulteriormente le prestazioni degli LLM dove RAG potrebbe ancora essere insufficiente, specialmente negli scenari di problem-solving multi-step complessi comuni nell’ITSM. Utilizzando i KG, i sistemi possono navigare attraverso i punti dati connessi per estrarre e utilizzare le informazioni che sono contestualmente rilevanti per le esigenze specifiche dell’utente.
Insieme, gli LLM, RAG e i KG formano una combinazione forte per i casi d’uso della Gestione dei Servizi IT. Sfruttando gli LLM per le loro potenti capacità di comprensione e generazione del linguaggio, aumentandoli con RAG per il recupero dinamico delle informazioni e incorporando i KG per fornire approfondimenti contestuali profondi e strutturati, le piattaforme ITSM possono raggiungere livelli senza precedenti di automazione, accuratezza ed efficienza. Questo articolo mira a esplorare i vantaggi che queste tecnologie portano all’ITSM.
AI Avanzata nell’ITSM: come funziona tutto?
Questa immagine fornisce un esempio semplificato e ipotetico di come i Large Language Models i (LLM), la Retrieval-Augmented Generation (RAG) e i Knowledge Graphs (KG) possono lavorare insieme per migliorare la Gestione dei Servizi IT (ITSM).
Il sistema estrae informazioni chiave da una knowledge base e le mappa su un Knowledge Graph, che illustra come vari elementi come il server, l’applicazione e i dispositivi correlati sono interconnessi. Questa rappresentazione strutturata è memorizzata in un database e quindi convertita in embeddings in modo che possa essere cercata successivamente. Un modello di embedding aiuta anche a convertire qualsiasi altro dato dalla knowledge base così come la query in formato embedding. Questo formato consente al sistema di cercare nel Knowledge Graph e nei database correlati il contesto rilevante. L’LLM utilizza quindi questo contesto per generare una risposta coerente e precisa. Questo approccio dimostra come queste tecnologie possono completarsi reciprocamente: il Knowledge Graph fornisce il contesto strutturato, RAG recupera dinamicamente I dati aggiornati, e l’LLM sintetizza queste informazioni in un’intuizione utile e attuabile.
Sfruttare Retrieval Augmented Generation, LLM e Knowledge Graphs nell’ITSM
L’integrazione di tecnologie avanzate come i Modelli di Linguaggio di Grandi Dimensioni (LLM), la Retrieval-Augmented Generation (RAG) e i Knowledge Graphs (KG) potrebbe potenzialmente trasformare il paesaggio IT. Queste tecnologie possono collettivamente migliorare la Gestione delle Operazioni IT (ITOM), la Gestione dei Servizi IT (ITSM) e l’Intelligenza Artificiale per le Operazioni IT (AIOps). Implementando gli LLM all’interno dei framework ITSM, è possibile fornire risposte istantanee e consapevoli del contesto alle domande dei clienti, il che potrebbe aiutare a ridurre i tempi di risoluzione e migliorare la soddisfazione dei clienti. Ad esempio, gli LLM possono assistere nell’automatizzare la generazione dei ticket, la categorizzazione e l’analisi del sentiment, potenzialmente dando la priorità ai problemi in base all’urgenza per raggiungere più coerentemente gli obiettivi del Service Level Agreement (SLA). Inoltre, gli LLM possono fungere da assistenti virtuali o chatbot, riassumendo le interazioni che potrebbero migliorare l’efficienza operativa all’interno dei framework ITSM.
A complemento di questi, RAG potrebbe migliorare il recupero di informazioni pertinenti da knowledge base espansive, consentendo così ai team di supporto di identificare e applicare potenzialmente le soluzioni più rilevanti in modo più efficace. I Knowledge Graphs possono anche aumentare i processi decisionali fornendo visualizzazioni strutturate delle relazioni tra asset IT, incidenti e soluzioni. Questa chiarezza potrebbe aiutare i team a navigare scenari complessi e prendere decisioni più consapevoli, potenzialmente semplificando l’identificazione di incidenti ricorrenti.
Al di là del supporto ai clienti, gli LLM, RAG e i KG possono anche migliorare altre funzioni IT essenziali. Potrebbero affinare i sistemi di raccomandazione fornendo suggerimenti precisi e consapevoli del contesto basati sia sull’analisi storica che su quella in tempo reale. Nel dominio di AIOps, queste tecnologie potrebbero svolgere un ruolo nella gestione dei guasti analizzando i log, individuando le cause radice e automatizzando le azioni correttive, il che potrebbe minimizzare i tempi di inattività e migliorare l’affidabilità del sistema. Questi potenziali vantaggi suggeriscono un’integrazione promettente delle tecnologie AI nell’ITSM.
Il futuro dei LLM nell’ITSM: Modelli Domain-Specific e Task-Specific
Sebbene i LLM di uso generale si siano dimostrati efficaci in un’ampia gamma di applicazioni, possono essere limitati e insufficienti nei domini specializzati come la Gestione dei Servizi IT (ITSM). Questi modelli sono generalmente addestrati su dataset vasti e diversi, che potrebbero non includere la conoscenza profonda e specifica necessaria per navigare efficacemente le sfide uniche dell’ITSM. Questo può risultare in risposte meno accurate, malinterpretazioni tecniche o comprensione incompleta delle operazioni IT e dei protocolli. Al contrario, gli LLM domain-specific e task-specific possono offrire un vantaggio significativo nelle applicazioni ITSM. Questi modelli possono essere messi a punto su dataset ricchi di linguaggio specifico dell’ITSM e scenari, consentendo loro di comprendere meglio e rispondere alle esigenze del dominio. Ad esempio, un modello addestrato specificamente per l’ITSM è probabile che gestisca meglio attività come la categorizzazione degli incidenti e la risoluzione dei problemi.
L’integrazione di questi modelli con tecnologie come la Retrieval-Augmented Generation (RAG) e i Knowledge Graphs (KG) può ulteriormente migliorare la loro efficacia. Questo può aiutare nella gestione di scenari complessi di domande e risposte multi-hop, dove una risposta richiede di combinare informazioni da più fonti in modo efficace. Inoltre, la ricerca semantica utilizzando gli embedding, che vengono utilizzati per abbinare le query dell’utente alle informazioni più rilevanti, a volte potrebbe perdere la vera intenzione dell’utente. Ad esempio, se un utente invia un ticket chiedendo aiuto per un “server outage” ma specifica “non correlato a problemi di rete,” i passaggi di troubleshooting che si concentrano su problemi correlati alla rete potrebbero comunque essere restituiti. Un divario che forse i modelli domain-specific con l’aiuto dei knowledge graph potranno colmare particolarmente bene in futuro.
Questi LLM personalizzati, specialmente quando migliorati con KG e modelli di embedding domain-specific, rappresentano un futuro promettente per l’AI nell’ITSM. Nell’AI lab di EasyVista, siamo impegnati nel spingere i confini di ciò che è possibile nella Gestione dei Servizi IT (ITSM) attraverso soluzioni AI avanzate. Attualmente siamo focalizzati nell’ottimizzare gli LLM che offrono solide capacità multilingue specificamente adattate ai casi d’uso ITSM. Questo assicura che i nostri modelli possano gestire diversi requisiti linguistici mentre essendo profondamente integrati nei processi ITSM.
Inoltre, stiamo sviluppando modelli di embedding multilingue ottimizzati per l’ITSM, che possono essere integrati perfettamente nella Retrieval-Augmented Generation (RAG), nelle funzionalità di ricerca e nell’embedding dei Knowledge Graphs. Combinando i punti di forza degli LLM con le tecniche RAG all’avanguardia e i Knowledge Graphs sempre più diffusi, stiamo migliorando la knowledge base e l’accuratezza delle risposte delle nostre soluzioni AI. Guardando al futuro, vediamo un grande potenziale nel multimodal RAG e negli LLM ottimizzati per RAG, che miglioreranno ulteriormente la capacità dell’AI di comprendere e generare risposte significative negli ambienti IT.
Il nostro AI lab è anche dedicato al miglioramento dei workflow, del monitoraggio e della flessibilità all’interno degli ambienti ITSM. Le nostre soluzioni sono progettate per fornire supporto completo in varie funzioni ITSM, assicurando operazioni fluide e gestione proattiva. Ti invitiamo a esplorare la nostra ricerca e innovazioni in corso, e a vedere di persona come le nostre soluzioni AI personalizzate possono rivoluzionare le tue operazioni IT. Approfondisci le pubblicazioni del nostro team o programma una demo per scoprire il futuro dell’ITSM con l’AI.
Per approfondire
Xu, Z., Cruz, M. J., Guevara, M., Wang, T., Deshpande, M., Wang, X., & Li, Z. (2024, July). Retrieval-augmented generation with knowledge graphs for customer service question answering. In Proceedings of the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval (pp. 2905–2909).
Béchard, P., & Ayala, O. M. (2024). Reducing hallucination in structured outputs via Retrieval-Augmented Generation. arXiv preprint arXiv:2404.08189.
Huang, Y., & Huang, J. (2024). A Survey on Retrieval-Augmented Text Generation for Large Language Models. arXiv preprint arXiv:2404.10981.
