Cómo detectar comportamientos anómalos de la IA con análisis basados en la identidad

Cuando revisas tu factura de IA, puede ser difícil identificar si contiene alguna irregularidad. En primer lugar, necesitas una línea base que te permita ver qué ha cambiado, ya sea un agente que se ha descontrolado o un empleado cuyo uso se ha multiplicado por diez. Ser capaz de detectar esos cambios te permite comenzar a investigar y, hasta ahora, detectar estás anomalías no ha sido fácil.

Saber quién está haciendo qué con la IA es uno de los principales desafíos que las organizaciones afrontan hoy en día. Un informe de la Universidad de Stanford concluyó que el 59 % de las organizaciones declararon que la falta de conocimientos era su mayor obstáculo para una gobernanza responsable de la IA. 

Se trata de un problema tanto de seguridad como financiero. Para resolver estas dificultades, necesitamos dos cosas: una identidad verificada en cada solicitud (para que cada incremento esté vinculado a un nombre) y una perspectiva de lo que se considera normal para esa identidad. Hoy anunciamos ambas prestaciones.

AI Gateway, con reconocimiento de la identidad, ya está disponible en la versión beta abierta, junto con Cloudflare Access, y User Insights está disponible de forma general para todos los clientes de AI Gateway sin coste adicional. Juntos convierten el tráfico que ya fluye a través de AI Gateway en una línea base de comportamiento para cada persona y agente que lo utiliza, e identifican a los que se apartan de ella.

¿Qué es AI Gateway?

AI Gateway es el plano de control central para todo tu uso de IA. En lugar de que cada aplicación y cada equipo llamen directamente a modelos en OpenAI, Anthropic, Google o Workers AI, las solicitudes se enrutan primero a través de AI Gateway, que proporciona un único lugar donde observar, proteger y gobernar tu uso de la lA.

Funciona con las aplicaciones que creas y con las herramientas de codificación en las que tus desarrolladores ya trabajan. Redirige arneses de agentes como Claude Code, Codex y GitHub Copilot a través de AI Gateway, y están sujetos a la misma visibilidad y los mismos controles que todo lo demás.

AI Gateway con reconocimiento de identidad

Con la integración de AI Gateway y Cloudflare Access, puedes poner un dominio personalizado frente a tu puerta de enlace y protegerlo con Access, al igual que con cualquier otra aplicación. Eso significa que puedes:

• Autenticar las solicitudes con cualquier proveedor de identidad compatible con SAML, como Okta o Entra, eliminando la necesidad de generar y compartir claves API de Cloudflare.
• Establecer políticas que definan exactamente quién puede acceder a tu puerta de enlace.
• Enviar solicitudes a un nombre de host limpio como ai.example.com sin ningún ID de cuenta o ID de puerta de enlace en la URL.

Cada solicitud autenticada ahora incluye la identidad del usuario de Access. AI Gateway añade el ID de usuario de Access verificado a los metadatos de la solicitud como cf.user_id, para que puedas filtrar los registros, análisis y gastos en función de la persona que realmente ha enviado la solicitud.

Junto con los  límites de gasto, esa identidad se convierte en una herramienta presupuestaria. Dado que ahora cada solicitud incluye un usuario real, puedes establecer límites de gasto por usuario: proporciona a cada usuario su propia partida presupuestaria, y bloquea las solicitudes adicionales o cambia a un modelo más económico cuando alcance ese límite. Di adiós a las facturas sorpresa y al uso de claves API compartidas que ocultan quién ha gastado qué.

Uno de nuestros primeros usuarios, Flexport, se encontró exactamente con este problema.

"Las claves API compartidas hacen que sea prácticamente imposible saber quién está utilizando un servicio de IA o implementar las reglas de acceso que ya aplicamos para los empleados", indica Max Baumgarten, ingeniero de seguridad en Flexport. "La implementación de Cloudflare Access delante de AI Gateway dota a cada solicitud de una identidad autenticada y nos permite utilizar nuestras políticas de identidad existentes en la puerta de enlace. Nuestros equipos pueden adoptar herramientas de IA sin necesidad de crear un sistema de autenticación individual para cada cliente".

En el futuro cercano, podrás utilizar los grupos del proveedor de identidad de tus usuarios para establecer límites de gasto o controlar a qué modelos puede acceder un grupo. Por ejemplo, proporciona a tu equipo de aprendizaje automático acceso a modelos de vanguardia, limita el gasto de tu equipo de soporte o define el alcance del presupuesto para todos aquellos que trabajan en un proyecto específico, todo correlacionado con los grupos que ya gestionas en tu proveedor de identidad.

La nueva pestaña User Insights

Dentro de AI Gateway ahora verás una pestaña User Insights. User Insights analiza el tráfico que pasa a través de tu puerta de enlace y lo convierte en una representación del comportamiento de cada cuenta. Aprende cómo actúa normalmente cada cuenta, identifica aquellas que se desvían de ese patrón y te proporciona el contexto para diferenciar entre un agente descontrolado y un ingeniero que tiene mucho trabajo. Funciona con el tráfico que ya pasa a través de tu puerta de enlace, por lo que no requiere ninguna configuración.

User Insights realiza un seguimiento de los costes, e identifica dónde son excesivos, como las tasas de aciertos de caché bajas y las ventanas de contexto sobredimensionadas. Muchas herramientas ya hacen eso. Lo que no hacen es decirte si una cuenta se comporta con normalidad. Eso es lo que hemos decidido priorizar, junto con los controles de costes. 

Definir una línea base para cada cuenta: personas y agentes

Con el tiempo, cada cuenta, ya sea una persona o un agente, deja huellas de su comportamiento. Un agente que resume los tickets cada tres horas es meticuloso y coherente. Una persona es más desordenada, con distintas instrucciones, tiempos irregulares y sesiones largas sobre problemas complejos. Ambos son legítimos, por lo que la misma desviación puede ser ruido en un caso y una señal real en el otro.

En User Insights, comenzamos puntuando las sesiones, no las solicitudes individuales. Los umbrales absolutos aquí no funcionan: un incremento de 500 dólares de un usuario habitual podría ser normal, mientras que una sesión de 50 dólares de un agente cuyo gasto habitual es de 5 dólares es un cambio que multiplica por 10 el coste y que podría pasar desapercibido. Por lo tanto, comparamos cada sesión con el historial de la cuenta, utilizando el percentil 95 del coste de la sesión durante los últimos 30 días. Eso nos permite entender cómo opera normalmente la cuenta, y cualquier cosa que duplique su percentil 95 es un firme candidato de comportamiento anómalo.

El siguiente análisis resume cómo llegamos a estas cifras.

Figura 1: Detección de anomalías en el coste de la sesión

Cómo leer el gráfico anterior 

El gráfico representa sesiones reales de nuestro propio tráfico interno. Cada punto es una sesión individual (representada en escalas logarítmicas):

• Eje X (coste de la sesión): coste total en dólares.
• Eje Y (percentil 95 del usuario x): número de veces que la sesión ha superado la línea base personal del usuario.

Las dos líneas de umbral discontinuas dividen las sesiones en cuatro categorías:

• Superior derecha (★ Estrellas): supera tanto el doble de la línea base del percentil 95 del usuario como el límite superior del percentil 99 a nivel de cuenta. Son incrementos relativos altos que representan un coste inusual significativo y activarán una alerta. 
• Superior izquierda: incremento relativo alto (el doble del percentil 95 del usuario), pero por debajo del límite inferior del percentil 99 de la cuenta. Lo ignoramos para evitar la emisión de alertas relacionadas con cambios de importes pequeños.
• Inferior derecha: gasto absoluto alto, pero coherente con el uso normalmente alto de este usuario. Esto también se ignora como un comportamiento habitual.
• Inferior izquierda: actividad normal dentro de ambas líneas base.

Figura 2: Distribución del coste de las sesiones a nivel de cuenta

Este histograma (Figura 2) representa el coste de cada sesión en toda la organización para establecer un límite superior general de la cuenta:

• Uso típico: la gran mayoría de las sesiones cuestan mucho menos de 10 dólares, con un percentil 95 de 20 dólares.
• Percentil 99 de la cuenta (200 USD): solo el 1 % de todas las sesiones en toda la empresa alcanza o supera los 200 dólares.

¿Entonces por qué elegimos el percentil 99? Establecer nuestro límite superior absoluto en dólares en el percentil 99 de la cuenta crea un punto de referencia significativo. Garantiza que una anomalía no sea solo un cambio repentino correspondiente a un usuario específico, sino que también figure en el 1 % de las sesiones más costosas de toda la organización.

Figura 3: Historial de sesiones de un usuario individual

Las líneas base no son estáticas. A medida que cambian los hábitos de una cuenta, su percentil 95 móvil (línea verde) y el umbral duplicado (línea naranja) se ajustan en consonancia, de modo que una alerta siempre refleja el comportamiento reciente en lugar de un número establecido una sola vez. También aplicamos un límite inferior en dólares para que un incremento tenga que ser tanto estadísticamente inusual como merecedor del tiempo de investigación de un administrador. Ese límite inferior en dólares es lo que evita que se active una alerta en caso de una irregularidad de un microusuario que multiplique por 500 los costes pero que apenas suponga unos centavos.

La perspectiva adecuada para la detección de comportamientos anómalos 

Después de todo el análisis anterior, lo que ven los administradores es una vista de las cuentas que han roto su propio patrón, en la que se ha excluido todo lo que se considera normal. Esa vista filtrada es una fuente de información sobre los comportamientos anómalos.

Este comportamiento es difícil de detectar porque la señal nunca es una nueva herramienta ni una acción bloqueada. Es una cuenta de confianza que está haciendo más de lo que ya tiene permitido hacer. Podría ser una cuenta de servicio que de repente comienza a ejecutar sesiones más costosas, o una persona cuyo uso aumenta mucho más allá de lo que es normal en su caso y que mantiene así durante días.

Ninguno de estos comportamientos infringe ninguna política, pero todos ellos se alejan de una línea base de comportamiento. Una salida repentina del propio uso de una cuenta es a menudo la primera señal observable de una credencial comprometida o de un agente descontrolado.

User Insights no decide la intención ni bloquea cuentas; en su lugar, lleva esas pocas cuentas que han empezado a comportarse de forma extraña ante un administrador para que alguien pueda plantearse la siguiente pregunta. A veces eso lleva a una verdadera investigación. Otras veces simplemente significa que alguien necesita cierta orientación (como el desarrollador que vuelca todo el código en cada instrucción cuando un fragmento sería suficiente). 

¿Y ahora qué? 

Te ayudaremos a pasar del control de costes a la optimización de costes

Cuando ya has definido un presupuesto, la siguiente pregunta lógica que debes plantearte es: ¿cómo puedes beneficiarte de la misma calidad de resultados con menos costes? No todas las solicitudes necesitan un modelo de vanguardia. Una tarea de resumen o una simple finalización de código puede ejecutarse en un modelo más económico sin ninguna pérdida significativa de calidad.

Estamos desarrollando un enrutamiento inteligente basado en tareas, donde AI Gateway analiza la solicitud entrante y la dirige al modelo que te ofrece el mejor resultado al menor coste. A nivel de organización, podrás ver dónde puedes beneficiarte de un mayor ahorro gracias al enrutamiento a modelos más eficientes. El enrutamiento inteligente basado en tareas está en fase de desarrollo activo. Te contaremos más a medida que vaya madurando.

Te ayudaremos a entender cómo se utiliza la IA

La detección de anomalías te indica que una cuenta ha roto su patrón, pero no por qué. Un administrador todavía tiene que investigar los registros y reconstruir los hechos. Nuestro próximo objetivo es cubrir ese vacío, y eso comienza por clasificar qué es realmente el tráfico.

Estamos desarrollando una clasificación de instrucciones que asigna las solicitudes a distintas categorías, como programación, escritura y otras. Estas categorías son el contexto que falta en casi todas las demás señales. Un aumento del gasto en “codificación” por parte de un ingeniero podría ser aceptable, pero el mismo incremento en una categoría que esa cuenta nunca ha utilizado no lo es. La clasificación puede mostrar a una organización no solo cuánto utiliza la IA, sino para qué la utiliza. 

También responde a la pregunta subyacente en la mayoría de estas conversaciones: ¿se está utilizando la IA para el propósito que se pretendía? Cuando diferenciamos el tráfico empresarial de otros tipos de tráfico, el uso personal sale a la luz. Externamente no es posible diferenciar entre un usuario que ejecuta un proyecto paralelo en el horario laboral de la empresa y otro que mueve datos discretamente a través de un modelo. Esta diferenciación es crucial para detectar el riesgo interno. 

Cuando tu tráfico de IA pasa a través de AI Gateway, cada nueva categoría de señal de riesgo o de eficiencia es una nueva característica de la que se beneficia un administrador, sin configuración adicional.

Comenzar

User Insights está disponible de forma general a partir de hoy para todos los clientes de AI Gateway sin coste adicional. Ya está en el panel de control para cualquiera que envíe tráfico a través de la puerta de enlace, por lo que si ya enrutas tu tráfico a través de AI Gateway, ya tienes esta vista disponible. 

Si aún no lo has hecho, ​crea una puerta de enlace y comienza a enviar solicitudes a cualquier modelo de nuestro catálogo. 

Te recomendamos que coloques AI Gateway detrás de Cloudflare Access, que ahora está en la versión beta abierta. Aunque las vistas de gastos y anomalías no lo requieren, adjuntar una identidad es lo que convierte un ID de cuenta anónima en un nombre sobre el cual realmente se pueden tomar medidas. Empieza en modo de supervisión para conocer tus líneas base antes de aplicar cualquier medida.

Queremos saber cómo gestionas actualmente la IA. Únete a la conversación en Discord o ponte en contacto con tu equipo de cuenta.