Detección de comportamientos anómalos de la IA mediante análisis conscientes de identidad

Cuando miras tu factura de IA, puede resultar difícil detectar irregularidades.Primero necesitas un patrón de referencia para poder ver qué ha cambiado, ya sea un agente que se ha descontrolado o un empleado cuyo uso se ha multiplicado por 10.Poder identificar esos cambios te permite comenzar a investigar, y hasta ahora, ha sido difícil verlos.

Tener visibilidad sobre quién usa la IA y cómo es uno de los desafíos clave que las organizaciones están enfrentando en este momento. Un informe de la Universidad de Stanford reveló que el 59 % de las organizaciones indicaron que las brechas de conocimiento eran su mayor obstáculo para una gobernanza responsable de la IA. 

Este es un problema de seguridad tanto como financiero. Resolver estos problemas requiere dos cosas: una identidad verificada en cada solicitud (de modo que un aumento tenga un nombre detrás) y una imagen de lo que parece normal para esa identidad. Hoy anunciamos ambas.

El AI Gateway con reconocimiento de identidad mediante Cloudflare Access ya está en versión beta abierta, y User Insights está disponible de forma general para todos los clientes de AI Gateway sin costo adicional. Juntos convierten el tráfico que ya fluye a través de AI Gateway en un patrón de referencia de comportamiento para cada persona y agente que lo utiliza, e identifican a aquellos que se desvían de ese patrón.

¿Qué es AI Gateway?

AI Gateway es el plano de control central para todo tu uso de IA. En lugar de que cada aplicación y equipo llame directamente a modelos en OpenAI, Anthropic, Google o Workers AI, las solicitudes se enrutan primero a través de AI Gateway, lo que te brinda un único lugar para observar, asegurar y gestionar todo tu uso de IA.

Funciona con las aplicaciones que desarrollas y con las herramientas de codificación en las que tus desarrolladores ya trabajan. Redirige los entornos de agentes como Claude Code, Codex y GitHub Copilot a través de AI Gateway, y quedan bajo la misma visibilidad y controles que todo lo demás.

AI Gateway con reconocimiento de identidad

Con la integración de AI Gateway y Cloudflare Access, puedes poner un dominio personalizado frente a tu gateway y protegerlo con Access, al igual que cualquier otra aplicación. Eso significa que puedes hacer lo siguiente:

• Autenticarte con cualquier proveedor de identidad compatible con SAML, como Okta o Entra, eliminando la necesidad de generar y compartir claves API de Cloudflare.
• Establecer políticas sobre quién exactamente puede acceder a tu gateway.
• Enviar solicitudes a un nombre de host limpio como ai.example.com, sin ID de cuenta ni ID de gateway en la URL.

Cada solicitud autenticada ahora lleva la identidad del usuario desde Access. AI Gateway agrega el ID de usuario de Access verificado a los metadatos de la solicitud como cf.user_id, para que puedas filtrar registros, analíticas y gastos por la persona que realmente hizo la solicitud.

Junto con límites de gasto, esa identidad se convierte en una herramienta de presupuesto. Como cada solicitud ahora lleva un usuario real, puedes establecer límites de gasto por usuario: asigna a cada usuario su propio presupuesto y luego bloquea solicitudes adicionales o recurre a un modelo más económico cuando se alcance el límite del presupuesto. Sin facturas sorpresa ni claves compartidas que oculten el origen de los gastos.

Uno de nuestros primeros adoptantes, Flexport, se encontró exactamente con este problema.

"Las claves API compartidas hacen que sea casi imposible saber quién está usando un servicio de IA o aplicar las reglas de acceso que ya tenemos para los empleados", afirma Max Baumgarten, ingeniero de seguridad de personal en Flexport. Implementar Cloudflare Access frente a AI Gateway le da a cada solicitud una identidad autenticada y nos permite usar nuestras políticas de identidad existentes en la puerta de enlace. Nuestros equipos pueden adoptar herramientas de IA sin crear un sistema de autenticación separado para cada cliente.

En un futuro cercano, podrás utilizar los grupos del proveedor de identidad de tus usuarios para establecer límites de gasto o controlar a qué modelos puede acceder un grupo. Por ejemplo, ofrece a tu equipo de aprendizaje automático acceso a modelos de avanzada, limita el gasto de tu equipo de soporte o asigna un presupuesto a todos los que trabajan en un proyecto específico, todo mapeado a los grupos que ya gestionas en tu proveedor de identidad.

Nueva pestaña de información del usuario

Dentro de AI Gateway, ahora verás una pestaña que se llama User Insights. User Insights lee el tráfico que pasa por tu puerta de enlace y lo convierte en una imagen del comportamiento de cada cuenta. Aprende cómo actúa normalmente cada cuenta, identifica las que se desvían de ese patrón y te brinda el contexto para diferenciar entre un agente desleal y un ingeniero que hace su trabajo. Funciona con el tráfico que ya pasa por tu gateway, por lo tanto, no hay nada que configurar.

User Insights rastrea el costo, incluyendo dónde se está desperdiciando, como en bajas frecuencias de aciertos de caché y ventanas de contexto sobredimensionadas. Ya hay muchas herramientas que lo hacen. Lo que no hacen es decirte si una cuenta se está comportando normalmente. En eso decidimos enfocarnos, junto con el control de costos. 

Establecimiento de un patrón para cada cuenta: personas y agentes

Con el tiempo, cada cuenta deja una huella de comportamiento, ya sea una persona o un agente. Un agente que resume los tickets cada tres horas es eficiente y constante. Una persona es más desordenada, con prompts variados, tiempos irregulares y largas sesiones sobre problemas complejos. Ambos son legítimos, por lo tanto, la misma desviación puede ser ruido para uno y una señal real para el otro.

En User Insights, comenzamos calificando sesiones, no solicitudes individuales. Los umbrales absolutos fallan aquí: un salto de USD 500 de un usuario frecuente podría ser normal, mientras que una sesión de USD 50 de un agente que siempre gasta USD 5 es un cambio multiplicado por 10 que podría pasar desapercibido. Así que comparamos cada sesión con el historial de la cuenta, utilizando su costo de sesión del percentil 95 (p95) durante los últimos 30 días. Eso nos da una referencia de cómo opera normalmente la cuenta, y cualquier valor que supere el doble de su p95 es un fuerte candidato a comportamiento anómalo.

El siguiente análisis describe cómo llegamos a estos números.

Figura 1: Detección de anomalías en el costo de la sesión

Cómo leer el gráfico de arriba 

El gráfico muestra sesiones reales de nuestro propio tráfico interno. Cada punto representa una sesión individual (representado en escalas logarítmicas):

• Eje X (Costo de la sesión): Costo total en dólares.
• Eje Y (x Usuario p95): Cuántas veces la sesión superó el umbral personal del usuario.

Las dos líneas de umbral discontinuas dividen las sesiones en cuatro categorías:

• Parte superior derecha (★ Estrellas): Supera tanto la línea de referencia del usuario p95 2x como el límite máximo del p99 a nivel de cuenta. Estos son picos relativos altos que representan un gasto anormal significativo y generarán una alerta. 
• Parte superior izquierda: Pico relativo alto (usuario p95 2x), pero por debajo del umbral mínimo de p99 de la cuenta. Ignoramos esto para evitar alertar sobre cambios pequeños de valor.
• Parte inferior derecha: Gasto absoluto alto, pero consistente con el uso típico elevado de este usuario. Esto también se ignora como comportamiento rutinario.
• Parte inferior izquierda: Actividad normal dentro de ambos umbrales.

Figura 2: Distribución del costo de las sesiones a nivel de cuenta

Este histograma (Figura 2) mapea el costo de cada sesión en toda la organización para establecer un límite general de cuenta:

• Uso típico: la gran mayoría de las sesiones cuestan bastante menos de USD 10, con el percentil 95 ubicado en USD 20.
• Cuenta p99 (USD 200): solo el 1 % de todas las sesiones en toda la empresa alcanzan o superan USD 200.

¿Entonces por qué elegimos p99? Establecer nuestro techo absoluto en dólares en el percentil 99 de la cuenta crea un estándar significativo. Garantiza que una anomalía no sea solo un cambio repentino para un usuario específico, sino que también se encuentre entre el 1 % de las sesiones más costosas de toda la organización.

Figura 3: Historial de sesión de un solo usuario

Las líneas de referencia no son estáticas. A medida que cambian los hábitos de una cuenta, su p95 móvil (línea verde) y el umbral de 2x (línea naranja) se mueven con ella, por lo que una alerta siempre refleja el comportamiento reciente en lugar de un número establecido una sola vez. También aplicamos un umbral mínimo en dólares, de modo que un pico de gasto deba ser tanto estadísticamente inusual como lo suficientemente relevante para justificar el tiempo de investigación de un administrador. Ese umbral mínimo en dólares es lo que evita que un usuario micro genere una variación de 500 × sobre unos pocos centavos que dispare una alerta.

Enfoque adecuado para detectar comportamientos anómalos 

Después de todo el análisis anterior, lo que ven los administradores es un panorama de las cuentas que rompieron su propio patrón, con todo lo normal ya filtrado.Esa vista filtrada es un canal de comportamiento anómalo.

Este comportamiento es difícil de detectar, porque la señal nunca es una nueva herramienta o una acción bloqueada. Es una cuenta de confianza que hace más de lo que ya tiene permitido hacer. Podría ser una cuenta de servicio que de repente comienza a ejecutar sesiones más costosas, o una persona cuyo uso aumenta mucho más allá de su propia norma y mantiene este comportamiento durante días.

Ninguno de estos casos infringe una política, pero todos rompen su patrón de comportamiento.Un cambio repentino en el uso de una cuenta suele ser el primer signo observable de una credencial comprometida o un agente que se sale de control.

User Insights no determina la intención ni bloquea a nadie; sino que, coloca frente a un administrador el pequeño grupo de cuentas que comenzaron a comportarse de manera extraña, para que alguien pueda formular la siguiente pregunta.A veces eso da lugar a una investigación real. A veces solo significa que alguien necesita orientación (como el desarrollador que carga toda una base de código en cada prompt cuando con un fragmento sería suficiente). 

Próximos pasos 

Te ayudaremos a pasar del control de costos a la optimización de costos

Una vez que has definido un presupuesto, la siguiente pregunta natural es: ¿cómo obtener la misma calidad de resultados a un costo menor?No todas las solicitudes necesitan un modelo fronterizo. Una tarea de resumen o una simple finalización de código puede ejecutarse en un modelo más económico sin pérdida significativa de calidad.

Estamos desarrollando enrutamiento inteligente basado en tareas, donde el AI Gateway analiza la solicitud entrante y la dirige al modelo que te ofrece el mejor resultado al menor costo. A nivel organizacional, podrás identificar dónde capturar la mayor cantidad de ahorros al enrutar hacia modelos más eficientes.Estamos trabajando activamente en el desarrollo del enrutamiento inteligente basado en tareas. Compartiremos más información a medida que evolucione.

Te ayudaremos a entender cómo se está utilizando la IA

La detección de anomalías te indica que una cuenta rompió su patrón, pero no explica por qué. Un administrador aún tiene que revisar los registros y reconstruir lo que sucedió. El siguiente paso para cerrar esa brecha es identificar y clasificar qué tipo de tráfico estamos viendo.

Estamos desarrollando una clasificación de prompts que organiza las solicitudes en categorías como codificación, escritura y otras.Estas categorías son el contexto que falta en casi todas las demás señales. Un aumento de gasto en "codificación" por parte de un ingeniero podría ser aceptable, pero ese mismo aumento en una categoría que esa cuenta nunca había tocado no lo es. La clasificación puede mostrar a una organización no solo cuánto usa IA, sino para qué la utiliza. 

También responde la pregunta que subyace en la mayoría de estas conversaciones: ¿se está utilizando la IA para el trabajo al que estaba destinada? Una vez que el tráfico empresarial se separa de todo lo demás, el uso personal se vuelve visible. Desde afuera, alguien que aprovecha tiempo de la empresa para un emprendimiento paralelo y alguien que extrae datos silenciosamente a través de un modelo pueden parecer lo mismo.Distinguirlos es fundamental para detectar el riesgo interno. 

Una vez que tu tráfico de IA pasa por AI Gateway, cada nueva categoría de riesgo o señal de eficiencia es una ventaja adicional para el administrador, sin necesidad de configuración extra.

Empezar

User Insights hoy está generalmente disponible para cada cliente de AI Gateway sin costo adicional. Ya está en el panel para cualquiera que envíe tráfico a través del gateway, por lo tanto, si ya estás enrutando a través de AI Gateway, esta vista está disponible. 

Si aún no lo has hecho, crea un gateway y comienza a presentar solicitudes a cualquier modelo de nuestro catálogo. 

Recomendamos colocar AI Gateway detrás de Cloudflare Access, que ahora está en versión beta abierta. La vista de gasto y anomalías funciona sin esto, pero adjuntar una identidad es lo que transforma una ID de cuenta anónima en un nombre sobre el que realmente se puede actuar. Empieza en modo de monitoreo para aprender tus líneas de referencia antes de imponer cualquier medida.

Queremos saber cómo estás gestionando la IA hoy. Únete a la conversación en Discord o comunícate con tu equipo de cuenta.