Entre los profesionales de los servicios de TI, la pérdida de control es uno de los temores más frecuentes asociados a la adopción de la IA. Existe la preocupación de que un sistema automatizado tome decisiones operativas erróneas sin que nadie pueda detectarlas a tiempo.
Es una preocupación legítima. Sin embargo, la respuesta no pasa por renunciar a la automatización, sino por introducirla de forma gradual y controlada.
El mecanismo que permite alcanzar este equilibrio es el ITSM confidence scoring: mide el grado de «certeza» de la IA sobre aquello que propone y, a partir de esa valoración, determina si puede actuar de forma autónoma o si debe solicitar la confirmación de un operador humano.
¿Qué es el confidence scoring?
Cada vez que un modelo de IA genera un resultado —una categoría asignada a un ticket, el encaminamiento hacia un equipo o la sugerencia de un artículo de la base de conocimiento—, ese resultado puede ir acompañado de un valor numérico que representa su nivel estimado de fiabilidad. Ese valor es el confidence score.
Una puntuación alta significa que el modelo considera su propuesta fiable y muy probablemente correcta, mientras que una puntuación baja indica que existe un mayor grado de incertidumbre.
El ITSM confidence scoring permite definir distintos umbrales y asociarlos a acciones concretas: por encima de un determinado valor, la IA puede actuar de forma autónoma; por debajo, la decisión se envía a un operador para que la revise.
El encaminamiento basado en umbrales es uno de los modelos de gobernanza de la IA más utilizados en entornos empresariales. Los resultados que superan el umbral se ejecutan automáticamente, mientras que los demás pasan a revisión humana.
Este modelo se conoce como human-in-the-loop, un enfoque que mantiene a una persona dentro del proceso automatizado de toma de decisiones.
La supervisión humana es una prioridad
Los datos recogidos por EasyVista entre los miembros de su Customer Advisory Board confirman que el modelo basado en umbrales de confianza responde a una necesidad real.
Más del 80 % de los encuestados afirma preferir un nivel moderado o elevado de supervisión humana sobre las decisiones de la IA: un 80 % en Norteamérica y un 87 % en la región EMEA. Solo una minoría se muestra dispuesta a dejar decisiones en manos de la IA con poca o ninguna supervisión humana.
El mismo estudio muestra una mayor predisposición a adoptar IA en funciones de asistencia a los operadores —como el resumen de tickets, el análisis guiado de casos o la generación de respuestas— que en casos de uso más autónomos.
Aplicaciones como la clasificación automática de la calidad de la CMDB o el escalado inteligente obtienen niveles de aceptación considerablemente más bajos.
De la prudencia a la obligación: qué exige la Ley de IA
Esta prudencia se está convirtiendo también en una exigencia normativa. El artículo 14 de la Ley de IA europea establece que los sistemas de IA de alto riesgo deben diseñarse de forma que permitan una supervisión humana eficaz.
El ITSM confidence scoring es precisamente el mecanismo técnico que permite trasladar este principio a la práctica operativa.
En lugar de exigir que un operador revise manualmente cada decisión de la IA —una opción inviable cuando se gestionan miles de tickets al día—, dirige la atención humana hacia los casos que realmente necesitan una revisión, es decir, aquellos en los que el modelo muestra un menor nivel de confianza.
De este modo, la supervisión pasa a ser selectiva, específica y documentable.
ITSM confidence scoring en la práctica: de los umbrales a la revisión
El valor del ITSM confidence scoring reside en que puede configurarse en función del nivel de riesgo. No todas las decisiones tienen el mismo impacto, por lo que el umbral debe definirse teniendo en cuenta el coste de un posible error, y no únicamente la precisión media del modelo.
Las actividades que tradicionalmente se realizaban de forma manual y dependían del criterio de los operadores, como la categorización y el encaminamiento de incidentes, se encuentran entre las aplicaciones de IA más maduras dentro del ITSM.
El modelo clasifica la solicitud, estima su nivel de urgencia y la dirige al equipo más adecuado. Es precisamente en este punto donde el umbral de confianza marca la diferencia.
Para la categorización automática de tickets —una tarea repetitiva, de bajo impacto y fácil de revertir—, una organización puede establecer un umbral relativamente bajo. Por ejemplo, si la IA presenta un nivel de confianza del 90 %, la categoría puede aplicarse sin intervención humana.
Para una acción más delicada, como el inicio automático de un procedimiento de change —una modificación planificada en un sistema de producción—, el umbral deberá ser mucho más alto.
En determinados casos, la revisión humana deberá seguir siendo obligatoria, independientemente de la puntuación obtenida.
Umbrales distintos para riesgos distintos
El mismo principio se aplica más allá de la categorización.
Pensemos, por ejemplo, en la sugerencia automática de un artículo de la base de conocimiento a un operador que está gestionando un ticket. Si la IA recomienda el artículo con un nivel de confianza elevado, puede mostrarlo directamente en una posición destacada.
Aun así, el operador conserva la decisión final, aunque el riesgo sea reducido.
El caso de una respuesta generada por IA y enviada automáticamente al usuario final es diferente. Una sugerencia incorrecta llegaría directamente a la persona que abrió la solicitud, con un impacto inmediato en su experiencia.
Por ese motivo, el umbral necesario para enviar la respuesta sin supervisión deberá ser mucho más elevado. En muchos contextos, seguirá siendo obligatorio que un operador valide el contenido antes de enviarlo.
Es el coste del error, y no la complejidad técnica de la actividad, lo que determina dónde debe establecerse el umbral.
El documento estratégico publicado por el Customer Advisory Board de EasyVista describe este modelo como Human-Governed Automation.
Se establecen niveles explícitos de tolerancia a la autonomía de la IA, y el confidence scoring permite crear flujos de aprobación condicionados al nivel de confianza.
Dentro de este modelo, la revisión humana no se considera un cuello de botella, sino un mecanismo de aprendizaje. Cada corrección realizada por un operador genera una señal que puede contribuir a mejorar el modelo con el tiempo.
Se crea así un ciclo continuo: la IA propone, el operador corrige y el modelo aprende.
Una brújula para decidir qué automatizar en el futuro
El ITSM confidence scoring ofrece un segundo beneficio que a menudo se pasa por alto: analizadas a lo largo del tiempo, las puntuaciones de confianza ayudan a identificar en qué procesos puede ampliarse la automatización de forma segura.
Si, en un workflow determinado, la IA obtiene puntuaciones altas de forma constante y las revisiones humanas confirman sistemáticamente sus propuestas, ese workflow se convierte en un candidato natural para adquirir un mayor grado de autonomía.
Por el contrario, si las puntuaciones continúan siendo bajas o las correcciones humanas son frecuentes, significa que el proceso todavía no está preparado para funcionar de forma más autónoma.
Este principio de expansión gradual ocupa un lugar central en el enfoque de EasyVista.
La adopción comienza con un alto nivel de control, mediante funciones de asistencia y automatización aplicadas al trabajo diario de los equipos de TI, y la autonomía aumenta a medida que los resultados demuestran ser consistentes.
Esta es la lógica de la denominada adaptive autonomy: los agentes que mantienen un alto nivel de precisión a lo largo del tiempo adquieren progresivamente más autonomía, mientras que aquellos cuyo rendimiento empeora vuelven a quedar sujetos a un mayor control humano.
El confidence scoring proporciona los datos objetivos necesarios para tomar estas decisiones, sustituyendo la intuición por evidencias concretas.
Una advertencia necesaria: la puntuación no es infalible
Sería un error considerar el confidence score una verdad absoluta. Un modelo puede asignar una puntuación alta a una predicción incorrecta: un nivel elevado de confianza no garantiza que la respuesta sea correcta.
Por ese motivo, las arquitecturas más robustas no dependen de una única puntuación. En su lugar, combinan distintas señales —como indicadores generales de fiabilidad y alertas de riesgo específicas— para detectar también los casos en los que el modelo atribuye una confianza elevada a una respuesta errónea.
En ITSM, esto se traduce en una regla práctica: el umbral de confianza debe complementarse con comprobaciones contextuales.
Una acción con un impacto financiero o normativo elevado debería requerir siempre una revisión humana, independientemente de la puntuación asignada por la IA.
El confidence scoring no sustituye al criterio humano. Ayuda a dirigirlo hacia los casos en los que realmente es necesario.
Control y confianza crecen juntos
El ITSM confidence scoring es, al mismo tiempo, un principio y un mecanismo organizativo que permite adoptar la IA de forma sostenible.
Permite comenzar con un alto nivel de control, ampliar la autonomía únicamente en aquellos procesos cuyos resultados lo justifican y garantizar la intervención humana en las decisiones más importantes.
De este modo, la IA puede pasar de proyectos piloto que requieren una supervisión constante a modelos de automatización en los que los equipos pueden confiar de verdad.
Las organizaciones que adopten este enfoque no tendrán que elegir entre la velocidad de la IA y el control.
Podrán beneficiarse de ambos, generando confianza de forma gradual, workflow a workflow.
FAQs
1. ¿Qué es el ITSM confidence scoring? Es un mecanismo que asigna a cada propuesta de la
Es un mecanismo que asigna una puntuación de fiabilidad a cada propuesta de la IA y la relaciona con unos umbrales previamente definidos.
Por encima del umbral, la IA puede actuar de forma autónoma; por debajo, la decisión pasa a revisión por parte de un operador humano.
Permite adoptar la IA de forma gradual sin perder el control sobre las operaciones.
2. ¿Por qué es importante mantener la intervención humana en el proceso de toma de decisiones?
La IA puede cometer errores y, en el ámbito de las TI, algunas decisiones pueden tener consecuencias importantes.
Más del 80 % de las organizaciones consultadas por EasyVista prefiere un nivel moderado o elevado de supervisión humana.
Además, la Ley de IA europea exige una supervisión humana eficaz en los sistemas considerados de alto riesgo.
3. ¿Cómo se establece el umbral de confianza adecuado?
El umbral debe definirse en función del coste de un posible error, y no únicamente de la precisión media del modelo.
Las actividades repetitivas y reversibles, como la categorización de tickets, pueden admitir umbrales más bajos.
Las acciones con un impacto elevado requieren umbrales más estrictos o una revisión humana obligatoria, independientemente de la puntuación.
4. ¿El confidence scoring sirve únicamente para controlar la IA?
No. Analizadas a lo largo del tiempo, las puntuaciones también permiten identificar dónde puede ampliarse la automatización de forma segura.
Los workflows que mantienen puntuaciones altas y requieren pocas correcciones humanas son candidatos naturales para adquirir una mayor autonomía en el futuro.