Hace poco estuvimos implementando un sistema de scoring de riesgo que combina señales de fraude, brand safety, y histórico de rendimiento. Sonaba bien en la teoría, pero cuando empezó a escupir alertas de “riesgo alto”, nos encontramos paralizados: ¿realmente cancelamos una campaña porque un algoritmo nos lo dice?
Aquí está el nudo gordiano. La IA puede darte scores, puede decirte que un influencer tiene 35% de followers potencialmente falsos o que su audience demográfico no encaja con tu target. Pero traducir eso en una decisión significa responder preguntas que la IA no puede:
- ¿Cuál es el costo real de un error (tipo 1 vs tipo 2) en tu contexto?
- ¿Cuánto riesgo estás dispuesto a asumir por soberanía del creador local vs estandarización global?
- ¿Cómo pesas una alerta de fraude débil contra el hecho de que este influencer ha entregado resultados sólidos históricamente?
Lo que hemos hecho es crear un umbral de “escalada”: si el score es claramente alto o bajo, decidimos automáticamente. Pero en el 40% del medio, tiramos la alerta a un equipo que entiende tanto el mercado como el contexto creativo. No es perfecto, pero es honesto sobre las limitaciones de la IA.
¿Cómo están ustedes estructurando esto? ¿Tienen un framework formal, o todavía está más “feel-based”?
Este es un problema de governance más que de tecnología. Lo que hemos implementado es un decision framework basado en umbrales de confianza, no solo scores numéricos. Entrenamos un modelo que nos dice no solo el score, sino también cuán confiable es ese score dado el volumen y calidad de datos disponibles para ese influencer. Si el modelo dice “riesgo medio, pero solo tengo 40% confianza en esa predicción”, eso va a revisión humana automáticamente. Si dice “riesgo alto, confianza 95%”, eso es prácticamente automático de rechazar. Esto ha reducido nuestras discusiones de “pero la IA dice Y” en un 60%. La confianza en el modelo es tanto parte de la decisión como el score en sí.
También, un punto clave: necesitas separar brand safety (contenido inapropiado) de fraud detection (followers falsos) en tu framework. Son riesgos diferentes que requieren respuestas diferentes. Un influencer con followers potencialmente falsos podría aún ser perfecto para tu marca si el engagement real es sólido. Inversamente, un influencer auténtico con audiencia real pero contenido borderline requiere un tipo de intervención completamente diferente. Mezclarlos en un score generalizado es donde muchas herramientas fallan.
Habiendo trabajado con múltiples clientes, la realidad es que cada uno quiere diferentes umbrales de riesgo. Un luxury brand está dispuesto a asumir casi cero riesgo reputacional. Un brand de tech más ágil podría tolerar mayor variabilidad. Entonces lo que hacemos es crear scorecards personalizadas por cliente, donde calibramos los pesos de las señales de IA según su apetito de riesgo específico. No existe un “scoring universal cross-market”—existe scoring informado por IA pero gobernado por contexto comercial.