La conversación sobre inteligencia artificial suele empezar por el modelo. En una organización, conviene empezar por una tarea. Por ejemplo: clasificar solicitudes entrantes para que lleguen al equipo correcto. Esa operación puede ahorrar tiempo, pero solo si se entiende qué ocurre con los casos ambiguos, los datos personales y las decisiones equivocadas.

Definir qué debe hacer y cuándo debe detenerse

Una propuesta concreta establece categorías, criterios de éxito y una ruta de revisión humana. Si el sistema no tiene evidencia suficiente, debe poder marcar una solicitud como incierta. Una respuesta inventada para completar un formulario produce más trabajo que una derivación transparente. El diseño también incluye una forma visible de corregir la clasificación y usar esa corrección para mejorar la evaluación.

Antes de entrenar o conectar un modelo, hay que saber qué datos pueden usarse, cuánto tiempo se conservan y quién accede a ellos. No toda información que llega a un proceso debe convertirse en material de entrenamiento. Los permisos y la minimización de datos son parte de la arquitectura.

Evaluar con casos reales y casos difíciles

Una demostración convincente no equivale a un sistema confiable. La evaluación necesita ejemplos representativos, casos poco frecuentes, lenguaje ambiguo y muestras que reflejen a los distintos usuarios. Conviene medir errores por categoría, revisar falsos positivos y comprobar qué sucede cuando cambia la forma en que llegan las solicitudes.

La exactitud agregada puede ocultar fallas en un grupo pequeño pero importante. Por eso el equipo debe inspeccionar resultados, documentar límites y decidir qué grado de automatización admite cada tarea. En escenarios sensibles, una recomendación para revisar es distinta de una acción ejecutada sin supervisión.

Operación, control y aprendizaje

Una vez publicada, la solución requiere seguimiento de calidad, tiempos de respuesta y costos. El equipo necesita saber qué versión respondió, con qué instrucciones y por qué se escaló un caso. Si se detecta un problema, debe ser posible suspender la automatización sin perder el flujo de trabajo esencial.

La pregunta decisiva no es si el modelo parece inteligente, sino si la tarea mejora para personas concretas y si los errores se descubren a tiempo. Esa combinación de utilidad, control y responsabilidad convierte una prueba atractiva en una aplicación sostenible.

Marco de referencia

El AI Risk Management Framework de NIST organiza la gestión de riesgos en funciones de gobernar, mapear, medir y gestionar; sirve como guía para examinar el ciclo completo de una aplicación.