O papel da AI na Gestão de Serviços de IT
Os Modelos de Linguagem de Grande Escala (LLMs), a Geração Aumentada por Recuperação (RAG) e os Grafos de Conhecimento (KGs) estão a transformar a nossa forma de gerir e utilizar grandes quantidades de dados. Compreender cada uma destas tecnologias e como interagem pode proporcionar uma visão mais profunda do potencial que têm para transformar a Gestão de Serviços de IT (ITSM). Os LLMs são modelos avançados de AI desenvolvidos com base em grandes quantidades de dados para gerar texto semelhante ao humano com base nas informações recebidas. É de salientar que o modelo de linguagem de grande dimensão não tem memória nem acesso a informações em tempo real. Além disso, os LLMs podem perder o foco e apresentar “alucinações”, especialmente quando recebem uma grande quantidade de informações.
Para fazer face a algumas limitações dos LLMs, a Geração Aumentada por Recuperação (RAG) pode desempenhar um papel importante. A RAG é uma técnica que aumenta as capacidades dos LLMs ao recuperar dinamicamente informações externas de uma base de conhecimentos no momento da consulta. Isto permite que os LLMs acedam a informações atualizadas sobre a consulta e gerem respostas mais precisas e relevantes.
Enquanto as RAG melhoram significativamente os LLMs ao fornecer acesso a dados externos, os Grafos de Conhecimento (KGs) oferecem outro nível de sofisticação. Os KGs são bases de dados estruturadas que armazenam dados numa rede interligada de entidades e suas relações. Proporcionam uma forma estruturada de representar o conhecimento em vários domínios, incluindo o ITSM. Os KGs podem ser utilizados para melhorar ainda mais o desempenho dos LLMs onde a RAG possa ser insuficiente, especialmente em cenários complexos de resolução de problemas em várias etapas, comuns no ITSM. Ao utilizar os KGs, os sistemas podem navegar através de pontos de dados ligados para extrair e utilizar informações contextualmente relevantes para as necessidades específicas do utilizador.
Juntos, os LLMs, RAGs e KGs formam uma combinação poderosa para os casos de utilização na Gestão de Serviços de IT. Ao aproveitar os LLMs pelas suas potentes capacidades de compreensão e geração de linguagem, aumentando-os com RAG para recuperação dinâmica de informações e incorporando KGs para oferecer informações contextuais estruturadas e profundas, as plataformas de ITSM podem alcançar níveis inéditos de automatização, precisão e eficiência. Este blog tem como objetivo explorar os benefícios que estas tecnologias trazem ao ITSM.
IA avançada no ITSM: como é que tudo funciona?
Esta imagem fornece um exemplo simplificado e hipotético de como os Modelos de Linguagem de Grande Escala (LLMs), a Geração Aumentada por Recuperação (RAG) e os Grafos de Conhecimento (KGs) podem trabalhar juntos para melhorar a Gestão de Serviços de IT (ITSM).
O sistema extrai informações essenciais de uma base de conhecimentos e mapeia-as num grafo de conhecimento, que ilustra a forma como vários elementos, como o servidor, a aplicação e os dispositivos relacionados, estão interligados. Esta representação estruturada é armazenada numa base de dados e, em seguida, convertida em embedding para que possa ser pesquisada posteriormente. Um modelo de embedding também ajuda a converter quaisquer outros dados da base de conhecimentos, bem como a consulta, em formato de embedding. Este formato permite que o sistema pesquise no grafo de conhecimento e nas bases de dados associadas o contexto relevante. O LLM utiliza então este contexto para gerar uma resposta coerente e precisa. Esta abordagem demonstra como estas tecnologias se podem complementar: o grafo de conhecimento fornece o contexto estruturado, a RAG recupera dados atualizados de forma dinâmica, e o LLM sintetiza estas informações numa visão útil e acionável.
Aproveitamento da Geração Aumentada por Recuperação, LLMs e Grafos de Conhecimento no ITSM
A integração de tecnologias avançadas, como os Modelos de Linguagem de Grande Escala (LLMs), a Geração Aumentada por Recuperação (RAG) e os Grafos de Conhecimento (KGs) pode transformar potencialmente o panorama das IT. Estas tecnologias podem, coletivamente, melhorar a Gestão de Operações de IT (ITOM), a Gestão de Serviços de IT (ITSM) e a Inteligência Artificial para Operações de IT (AIOps). Ao implementar os LLMs nas estruturas de ITSM, é possível dar respostas instantâneas e com contexto às consultas dos clientes, o que pode ajudar a reduzir os tempos de resolução e melhorar a satisfação dos clientes. Por exemplo, os LLMs podem ajudar a automatizar a geração de tickets, a categorização e a análise de sentimentos, potencialmente priorizando problemas com base na urgência para cumprir os objetivos dos Acordos de Nível de Serviço (SLAs) de forma mais consistente. Além disso, os LLMs podem atuar como assistentes virtuais ou chatbots, resumindo as interações que podem melhorar a eficiência operacional nas estruturas de ITSM.
Em complemento, a RAG pode melhorar a recuperação de informações relevantes da partir de amplas bases de conhecimento, permitindo que as equipas de suporte identifiquem e apliquem as soluções mais adequadas de forma mais eficaz. Os grafos de conhecimento também podem melhorar os processos de tomada de decisão ao fornecer visualizações estruturadas das relações entre os ativos de IT, os incidentes e as soluções. Esta clareza pode ajudar as equipas a navegar em cenários complexos e a tomar decisões mais informadas, simplificando potencialmente a identificação de incidentes recorrentes.
Além do suporte ao cliente, os LLMs, a RAG e os KGs também podem melhorar outras funções essenciais das IT. Podem refinar os sistemas de recomendação ao fornecer sugestões precisas e sensíveis ao contexto, baseadas tanto na análise de dados históricos quanto em tempo real. No domínio de AIOps, estas tecnologias podem desempenhar um papel na gestão de falhas ao analisar logs, identificar causas raiz e automatizar ações corretivas, o que pode minimizar o tempo de inatividade e melhorar a fiabilidade do sistema. Estes potenciais benefícios sugerem uma integração promissora das tecnologias de AI no ITSM.
O Futuro dos LLMs no ITSM: Modelos Específicos de Domínio e Tarefa
Embora os Modelos de Linguagem de Grande Escala (LLMs) de propósito geral tenham provado ser eficazes numa ampla gama de aplicações, podem ser limitados e insuficientes em domínios especializados como a Gestão de Serviços de IT (ITSM). Estes modelos são geralmente treinados em grandes conjuntos de dados diversos, que podem não incluir o conhecimento profundo e específico necessário para enfrentar eficazmente os desafios exclusivos do ITSM. Isto pode resultar em respostas menos precisas, interpretações técnicas incorretas ou uma compreensão incompleta das operações e protocolos de IT. Em contrapartida, os LLMs específicos de domínio e tarefa podem oferecer uma vantagem significativa em aplicações de ITSM. Estes modelos podem ser ajustados em conjuntos de dados ricos em linguagem e cenários específicos do ITSM, permitindo-lhes compreender e responder melhor às necessidades do domínio.
A integração destes modelos com tecnologias como a Geração Aumentada por Recuperação (RAG) e os Grafos de Conhecimento (KGs) pode melhorar ainda mais a sua eficácia. O que pode ajudar a gerir cenários complexos de perguntas e respostas, nos quais uma resposta requer a combinação de informações de múltiplas fontes de forma eficaz. Além disso, a pesquisa semântica com recurso a embeddings, que são utilizados para associar as consultas dos utilizadores às informações mais relevantes, às vezes pode não captar a verdadeira intenção do utilizador. Por exemplo, se um utilizador envia um ticket a pedir ajuda para uma “falha no servidor”, mas especifica “não relacionada a problemas de rede”, poderão ser apresentados passos de resolução centrados em problemas de rede. Uma lacuna que os modelos específicos de domínio, com a ajuda de grafos de conhecimento, podem ser particularmente adequados para preencher no futuro.
Estes LLMs personalizados, especialmente quando melhorados com KGs e modelos de embeddings específicos de domínio, representam um futuro promissor para a AI no ITSM. No nosso laboratório de AI, estamos empenhados em expandir os limites do que é possível na Gestão de Serviços de IT (ITSM) através de soluções avançadas de AI. Atualmente, estamos focados em ajustar os LLMs para oferecer capacidades multilíngues robustas especificamente adaptadas aos casos de utilização de ITSM. Isto garante que os nossos modelos possam lidar com requisitos linguísticos diversos enquanto estão profundamente integrados aos processos de ITSM.
Além disso, estamos a desenvolver modelos de embeddings multilíngues ajustados para ITSM, que podem ser incorporados de forma integrada em funcionalidades de Geração Aumentada por Recuperação (RAG), de pesquisa e na integração de Grafos de Conhecimento. Ao combinar as forças dos LLMs com técnicas de ponta de RAG e os cada vez mais populares Grafos de Conhecimento, estamos a melhorar a base de conhecimentos e a precisão das respostas das nossas soluções de AI. Olhando para o futuro, vemos um grande potencial em RAG multimodal e LLMs otimizados para RAG, o que aumentará ainda mais a capacidade da AI para compreender e gerar respostas significativas em ambientes de IT.
O nosso laboratório de AI também está dedicado a melhorar os fluxos de trabalho, a monitorização e a flexibilidade nos ambientes de ITSM. As nossas soluções são projetadas para fornecer suporte abrangente em várias funções de ITSM, garantindo operações fluidas e uma gestão proativa. Convidamo-lo a explorar as nossas pesquisas e inovações em andamento e a ver em primeira mão como as nossas soluções de AI personalizadas podem revolucionar as suas operações de IT. Consulte as publicações da nossa equipa ou agende uma demonstração para descobrir o futuro do ITSM com AI.
Leituras complementares
Xu, Z., Cruz, M. J., Guevara, M., Wang, T., Deshpande, M., Wang, X., & Li, Z. (julho de 2024). Geração aumentada por recuperação com grafos de conhecimento para respostas a perguntas de atendimento ao cliente. Nas Atas da 47ª Conferência Internacional ACM SIGIR sobre Investigação e Desenvolvimento em Recuperação de Informação (pp. 2905-2909).
Béchard, P., & Ayala, O. M. (2024). Redução de alucinações em saídas estruturadas através da Geração Aumentada por Recuperação. arXiv preprint arXiv:2404.08189.
Huang, Y., & Huang, J. (2024). Uma pesquisa sobre a Geração de Texto Aumentada por Recuperação para Modelos de Linguagem de Grande Escala. arXiv preprint arXiv:2404.10981.
