Récentemente implementamos un sistema de scoring de riesgo basado en IA para detectar comportamiento fraudulento en perfiles de influencers—cosas como audiencia falsa, engagement inflado, patrones sospechosos. Y honestamente, estoy nervioso sobre confiar en él completamente.
He visto al sistema cometer bandazos en ambas direcciones. Ha marcado influencers legítimos como riesgo alto porque su patrón de engagement no encaja el esperado (resulta que tenían un video viral). Y ha dejado pasar algunos que después resultaron tener followers bot.
La pregunta es: ¿a qué punto en el proceso debería traer a un experto humano para validar? ¿Es después de cada alerta, o solo cuando el riesgo supera cierto umbral?
También me pregunto cuán bilingüe es realmente este problema. Las señales de fraude que entrenaron el modelo en un contexto US pueden no ser las mismas en mercados rusohablantes. Los bots rusos y Americans funcionan diferente.
¿Cómo está otros navegando esto—confian en la IA como primer filtro, luego expertos como validación? ¿O es más una verificación manual de todo?
Este es el problema exacto que tiene inteligencia artificial en compliance y detección de riesgo: falsos positivos son caros, falsos negativos son desastrosos, y combinar ambos modelos es difícil.
Aquí está cómo estructuramos esto:
Tier 1 (Automated): IA corre escaneo inicial, marca cualquier cosa con riesgo > 70%
Tier 2 (Expert Review): Un especialista revisa cualquier Tier 1 flagged en 24 horas
Tier 3 (Deep Dive): Si experto piensa que IA se equivocó, disparamos auditoría manual completa
El resultado: ~2% de influencers de alto potencial que IA casi nos hace perder, pero también evitamos ~85% de fraudes evidentes.
En cuanto a lo bilingüe: absolutamente correcto que los patrones de fraude son diferentes. En mercados rusohablantes hay más sofistificación en simular engagement organico (porque hay más competencia fraudulenta). En US es más torpe a veces. Necesitamos modelos separados o al menos características específicas de región.
No intentes usar un modelo único cross-market para esto. Te vas a quedar ciego.
Una recomendación práctica: si vas a implementar esto, asegúrate de que tu equipo de expertos tenga representación bicultural. Alguien que entienda mercados rusohablantes, alguien que entienda US dynamics. De otra forma, validación de expertos también va a estar sesgada.
Hemos aprendido a través de dolor aquí. Nos metimos demasiado agresivo confiando en IA early y nos perdimos algunos influencers legítimos. Ahora:
Para un influencer que queremos trabajar: IA es primer check, pero si pasa, hacemos vetting manual porque el upside es alto.
Para audiences masivas donde estamos haciendo batch-screening: IA es prácticamente nuestro único filtro porque no tenemos tiempo humano para mirar miles.
El contexto importa. Y sí, exactamente como Mark dijo—definitivamente necesitas gente que entienda ambos mercados. De otro modo, terminas con sesgos ocultos.
Como influencer, he sido doblemente flagged por sistemas de fraude antes y fue frustrante. Nadie me explicó por qué. Para una marca, si el sistema de IA marca a alguien, al menos cuéntales por qué o dame chance de responder.
Desde la perspectiva del creador, estos sistemas se sienten como cajas negras. Si vas a usar IA para detectar fraude, haz que sea transparente. Eso también afecta tu reputación con creadores reales que podrían querer trabajar contigo.