Trabajé el año pasado en un proyecto donde intentamos entrenar un modelo de brand safety que detectara contenido no alineado para campañas con influencers en inglés y ruso. Fue humillante al inicio porque el modelo fallaba constantemente.
La razón: estábamos entrenando con datos principalmente americanos. Contenido que es explícitamente unsafe en contexto ruso podía deslizarse. Y al revés—contenido que parece riesgo en inglés era completamente normal en ruso.
Un ejemplo real: un creador ruso publicó algo sobre política que flagueimos como “contenido divisivo/unsafe”. Pero en el contexto ruso, era simplemente comentario casual, no inflamatorio. Nuestra marca americana lo veía diferente.
Eventualmente, entendí que un modelo bilingüe confiable requiere:
- Datos de entrenamiento equilibrados: No puedes entrenar 80% en inglés, 20% en ruso y esperar que entienda ambos mercados
- Expertise humano integrado: Necesitas gente que entienda matices culturales. Sin eso, el modelo aprende reglas, no contextualización
- Validation regional: Cada mercado debe validar qué significa “brand safe” para ellos, no aplicar una definición global
- Auditoría consistente: Revisar decisiones del modelo regularmente, especialmente en edge cases
La realidad es que brand safety no es técnico. Es cultural. La IA puede flaguear patrones, pero humanos tienen que interpretar si algo es realmente unsafe o simplemente diferente.
¿Cómo están ustedes estructurando la validación de brand safety cuando trabajan en múltiples idiomas e mercados?
Estamos lidiando con esto exactamente ahora. Intentamos usar una herramienta de brand safety “global” y fue un desastre porque flagueaba contenido ruso completamente legítimo como problemático.
Nuestra solución ha sido contratar asesores locales en cada mercado que revisen casos flagueados. Los algoritmos flaguean, pero los humanos deciden. Es más costoso, pero es la única forma de mantener credibilidad con nuestros clientes.
El truco es que esos asesores no pueden ser AI engineers—necesitan ser people que entienden el mercado. Alguien que sepa qué es normal, qué es límite, qué es realmente problema.
¿Cuándo empezaste a integrar experts en lugar de depender solo de modelos? ¿En qué punto el modelo falló lo suficiente para justificar el cambio?
Como creadora, déjame ser honesta: esta es la parte que más odio de trabajar con grandes marcas. Me han rechazado contenido que es completamente normal en mi comunidad porque no “se siente brand safe” para ellos.
Uno de mis videos sobre salud mental fue flagueado como “contenido negativo/unsafe” porque la herramienta detectó palabras clave. Pero el video era positivo, sobre cómo manejé ansiedad. El contexto importa—y las máquinas no lo entienden.
Mi recomendación: si van a usar IA para brand safety, dejen que nosotros (los creadores) demos contexto antes de rechazar. A veces sabemos qué se verá controversial pero no lo es. A veces sabemos el nuance que una máquina nunca capturará.
mark_as_best_answer: true
Tu análisis sobre “brand safety no es técnico” es exacto. Aquí está el problema: la mayoría de las marcas quieren automatizar brand safety porque es “más rápido”. Pero la velocidad viene sin precisión.
Lo que funciona es un modelo híbrido:
-
Layer 1 - IA: Detecta señales obvias (explicit content, menciones de competidores, lenguaje hateful claro). Esto automatiza el 80% de casos obvios.
-
Layer 2 - Ruleset humano: Define qué es acceptable por región. Rusia tiene reglas diferentes a USA. Codifica esas reglas como condiciones específicas.
-
Layer 3 - Review humano: Edge cases, content con contexto complejo, o cuando el creador disputa el flag. Esto no es 100% del contenido, sino tal vez 5-10%.
El error que veo es que muchos saltan directamente a Layer 1 y esperan que sea suficiente. No lo es.
También: si entrenas un modelo con datos desbalanceados (80% inglés, 20% ruso), ese modelo nunca será confiable en ruso. Necesitas data separada o al menos data balanceada. Técnicamente, eso significa dos modelos o un modelo con arquitectura que maneje multiplicidad lingüística. No es trivial.