Le rôle de l’IA dans la gestion des services informatiques

Les grands modèles de langage (LLM), la génération augmentée de récupération (RAG) et les graphes de connaissances (KG) transforment notre manière de gérer et d’exploiter de vastes quantités de données. Comprendre chacune de ces technologies et comment elles interagissent permet de mettre en lumière leur potentiel pour révolutionner la gestion des services informatiques (ITSM).

Les LLM sont des modèles d’IA avancés, entraînés sur des volumes massifs de données, capables de générer du texte comme le ferait un humain, en fonction des informations reçues. Il est important de noter que les grands modèles de langage eux-mêmes ne disposent ni de mémoire ni d’accès en temps réel aux informations. De plus, les LLM peuvent perdre leur concentration et générer des « hallucinations  », notamment lorsqu’on leur fournit une grande quantité d’informations.

Pour remédier à certaines limitations des LLM, la génération augmentée de récupération (RAG) peut jouer un rôle important. La RAG est une technique qui améliore les capacités des LLM en récupérant de manière dynamique des informations externes à partir d’une base de connaissances au moment de la requête. Cela permet aux LLM d’accéder à des informations actualisées sur la requête et de générer des réponses plus précises et plus pertinentes.

Bien que la RAG améliore considérablement les LLM en leur fournissant un accès à des données externes, les graphes de connaissances (KG) offrent une sophistication supplémentaire. Les KG sont des bases de données structurées qui stockent des données dans un réseau interconnecté d’entités et de leurs relations. Ils fournissent une manière structurée de représenter les connaissances dans divers domaines, y compris l’ITSM. Les KG peuvent être utilisés pour optimiser davantage les performances des LLM là où la RAG pourrait encore être insuffisante, notamment dans des scénarios de résolution de problèmes complexes et multi-étapes, fréquents en ITSM. En utilisant des KG, les systèmes peuvent naviguer entre différents points de données connectés pour extraire et  utiliser des informations contextuellement pertinentes pour les besoins spécifiques de l’utilisateur.

Ensemble, les LLM, la RAG et les KG forment une combinaison puissante pour les cas d’usage en ITSM. En exploitant les LLM pour leurs capacités avancées de compréhension et de génération de langage, en les renforçant avec la RAG pour la récupération dynamique d’informations, et en intégrant des KG pour des analyses contextuelles profondes et structurées, les plateformes ITSM peuvent atteindre des niveaux inédits d’automatisation, de précision et d’efficacité. Ce blog vise à explorer les avantages que ces technologies apportent à l’ITSM.

L’IA avancée dans l’ITSM : comment tout cela fonctionne-t-il ?

Ce schéma fournit un exemple simplifié et hypothétique de la façon dont les grands modèles de langage (LLM), la génération augmentée de récupération (RAG) et les graphes de connaissances (KG) peuvent travailler ensemble pour améliorer la gestion des services informatiques (ITSM).

Le système extrait des informations clés d’une base de connaissances et les mappe dans un graphe de connaissances, qui illustre comment divers éléments comme le serveur, l’application et les dispositifs associés sont interconnectés. Cette représentation structurée est stockée dans une base de données, puis convertie en embeddings afin de faciliter la recherche ultérieure. Un modèle d’embedding aide également à convertir d’autres données de la base de connaissances ainsi que la requête au format embedding. Ce format permet au système de rechercher, dans le graphe de connaissances et les bases de données associées, le contexte pertinent. Le LLM utilise ensuite ce contexte pour générer une réponse cohérente et précise. Cette approche démontre comment ces technologies se complètent : le graphe de connaissances fournit un contexte structuré, la RAG récupère des données à jour de manière dynamique, et le LLM synthétise ces informations en un aperçu utile et exploitable.

Exploiter la Génération Augmentée de Récupération, les LLM et les Graphes de Connaissances dans l’ITSM

L’intégration de technologies avancées comme les grands modèles de langage (LLM), la génération augmentée de récupération (RAG) et les graphes de connaissances (KG) pourrait transformer le paysage informatique. Ces technologies peuvent ensemble améliorer la gestion des opérations informatiques (ITOM), la gestion des services informatiques (ITSM) et l’intelligence artificielle pour les opérations informatiques (AIOps). En intégrant les LLM dans les cadres ITSM, il est possible de fournir des réponses instantanées et contextualisées aux demandes de la clientèle, ce qui peut aider à réduire les temps de résolution d’incidents et améliorer la satisfaction client. Par exemple, les LLM peuvent aider à automatiser la génération de tickets, la catégorisation et l’analyse des sentiments, et potentiellement prioriser les problèmes en fonction de leur urgence pour atteindre plus régulièrement les objectifs des accords de niveau de service (SLA). De plus, les LLM peuvent agir comme des assistants virtuels ou des chatbots, résumant les interactions, ce qui pourrait accroître l’efficacité opérationnelle au sein des cadres ITSM.

En complément, la RAG pourrait améliorer la récupération d’informations pertinentes provenant de vastes bases de connaissances, permettant ainsi aux équipes de support d’identifier et d’appliquer les solutions les plus pertinentes de manière plus efficace. Les graphes de connaissances peuvent également améliorer les processus décisionnels en fournissant des visualisations structurées des relations entre les actifs informatiques, les incidents et les solutions. Cette clarté pourrait aider les équipes à naviguer dans des scénarios complexes et à prendre des décisions plus éclairées, en simplifiant potentiellement l’identification des incidents récurrents..

Au-delà du support client, les LLM, la RAG et les KG peuvent également renforcer d’autres fonctions essentielles de l’informatique. Ils pourraient affiner les systèmes de recommandation en fournissant des suggestions précises et contextuelles basées à la fois sur l’analyse des données historiques et des données en temps réel. Dans le domaine de l’AIOps, ces technologies pourraient jouer un rôle dans la gestion des pannes en analysant les journaux, en identifiant les causes profondes et en automatisant les actions correctives, ce qui pourrait réduire les temps d’arrêt et améliorer la fiabilité des systèmes. Ces avantages potentiels suggèrent une intégration prometteuse des technologies d’IA dans l’ITSM.

L’avenir des LLM dans l’ITSM : Modèles spécifiques aux domaines et aux tâches

Alors que les grands modèles de langage (LLM) généraux se sont révélés efficaces dans une large gamme d’applications, ils peuvent être limités et insuffisants dans des domaines spécialisés comme l’ITSM. Ces modèles sont généralement formés sur des ensembles de données vastes et diversifiés, qui peuvent ne pas inclure les connaissances approfondies et spécifiques nécessaires pour naviguer efficacement dans les défis uniques de l’ITSM. Cet état de fait peut entraîner des réponses moins précises, des erreurs d’interprétation technique ou une compréhension incomplète des opérations et protocoles informatiques. En revanche, les LLM spécifiques aux domaines et aux tâches peuvent offrir un avantage significatif dans les applications ITSM. Ces modèles peuvent être ajustés sur des ensembles de données riches en langage et scénarios spécifiques à l’ITSM, en leur permettant de mieux comprendre et répondre aux besoins du domaine.

Par exemple, un modèle formé spécifiquement pour l’ITSM est susceptible de mieux gérer des tâches comme la catégorisation des incidents et la résolution des problèmes.

L’intégration de ces modèles avec des technologies comme la génération augmentée de récupération (RAG) et les graphes de connaissances (KG) peut encore améliorer leur efficacité, en les aidant à gérer des scénarios complexes de question-réponse nécessitant la combinaison d’informations provenant de multiples sources de manière efficace. De plus, la recherche sémantique utilisant des embeddings, qui sont utilisés pour associer les requêtes des utilisateurs aux informations les plus pertinentes, peut parfois manquer l’intention véritable de l’utilisateur. Par exemple, si un utilisateur soumet un ticket demandant de l’aide pour une « panne de serveur » mais précise « non liée à des problèmes de réseau », des étapes de dépannage axées sur les problèmes de réseau pourraient encore lui être envoyées. Un écart que les modèles spécifiques aux domaines, avec l’aide des graphes de connaissances, pourraient particulièrement bien combler à l’avenir.

Ces LLM spécialisés, en particulier lorsqu’ils sont renforcés par des KG et des modèles d’embeddings spécifiques aux domaines, représentent un avenir prometteur pour l’AITSM. Dans notre laboratoire d’IA, nous nous engageons à repousser les limites de ce qui est possible dans la gestion des services informatiques (ITSM) grâce à des solutions avancées d’IA. Nous nous concentrons actuellement sur le réglage fin des LLM offrant des capacités multilingues robustes spécifiquement adaptées aux cas d’utilisation de l’ITSM. Cela garantit que nos modèles peuvent gérer des exigences linguistiques diverses tout en étant profondément intégrés dans les processus ITSM.

En outre, nous développons des modèles d’embeddings multilingues spécifiquement ajustés pour l’ITSM, qui peuvent être intégrés en toute transparence dans les fonctionnalités de génération augmentée de récupération (RAG), les fonctionnalités de recherche et d’intégration des graphes de connaissances. En combinant les forces des LLM avec des techniques de pointe RAG et les graphes de connaissances de plus en plus populaires, nous améliorons la base de connaissances et la précision des réponses de nos solutions d’IA. À l’avenir, nous voyons un grand potentiel dans la RAG multimodale et les LLM optimisés pour RAG, qui amélioreront encore davantage la capacité de l’IA à comprendre et à générer des réponses significatives dans les environnements informatiques.

Notre laboratoire d’IA est également dédié à l’amélioration des workflows, de la surveillance et de la flexibilité au sein des environnements ITSM. Nos solutions sont conçues pour fournir un accompagnement complet dans diverses fonctions ITSM, en assurant des opérations fluides et une gestion proactive. Nous vous invitons à explorer nos recherches et innovations en cours, et à voir par vous-même comment nos solutions d’IA sur mesure peuvent révolutionner vos opérations informatiques. Plongez dans nos publications d’équipe ou planifiez une démonstration pour découvrir l’avenir de l’AITSM.

Lectures complémentaires

Xu, Z., Cruz, M. J., Guevara, M., Wang, T., Deshpande, M., Wang, X., & Li, Z. (2024, juillet). Génération augmentée de récupération avec des graphes de connaissances pour les réponses aux questions du service client. Dans les actes de la 47e Conférence internationale ACM SIGIR sur la recherche et le développement dans la recherche d’informations (pp. 2905-2909).

Béchard, P., & Ayala, O. M. (2024). Réduire l’hallucination dans les sorties structurées via la génération augmentée de récupération. arXiv prépublication arXiv:2404.08189.

Huang, Y., & Huang, J. (2024). Enquête sur la génération de textes améliorés par la recherche pour les grands modèles de langage arXiv preprint arXiv:2404.10981.