IA responsable

A todo proyecto nuevo de IA, a toda función de IA que se use con clientes o con datos reales (lo que llamamos «producción») y a todo cambio importante en un sistema que ya funciona: de modelo, de instrucciones, de fuentes de datos, de herramientas, de autonomía o de arquitectura.

El marco exige:

• Propósito claro: usar IA sólo cuando mejora un resultado concreto y elegir la opción menos riesgosa que cumpla.
• Que las personas decidan: quien usa un sistema debe poder revisar, corregir, pausar o rechazar lo que propone.
• Evidencia antes que apariencia: lo que entregamos debe ir respaldado, verificado o marcado como estimación.
• Datos con cuidado: cada dato debe tener un propósito; se usa el mínimo necesario y el acceso se restringe.
• Responsables identificados: cada sistema debe tener dueños, historial de cambios, monitoreo y una ruta para escalar problemas.
• Que siempre se pueda detener: todo sistema en producción debe poder pausarse o volver a una versión anterior.

En los casos de riesgo alto o crítico, quien construyó un componente no puede ser su único aprobador.

Cada caso se califica de 0 a 3 en cinco dimensiones:

1. Impacto: qué tanto puede afectar al negocio o a las personas.
2. Sensibilidad de los datos: desde datos públicos hasta datos personales sensibles o regulados.
3. Autonomía: si el sistema sólo sugiere o si actúa por su cuenta, y con qué permisos.
4. Alcance: desde una prueba interna hasta un proceso público o crítico.
5. Reversibilidad y visibilidad: desde «se ve y se corrige al instante» hasta «es difícil de detectar o de revertir».

La suma, de 0 a 15, define la clase de riesgo:

Algunos casos suben de clase por regla:

• Lo que pueda afectar a una persona en empleo, vivienda, crédito, seguros, educación, salud, trámites legales o servicios esenciales es, como mínimo, de riesgo alto y requiere revisión humana real.
• Los datos personales sensibles, de menores o biométricos y los datos confidenciales de clientes exigen revisión legal y de privacidad, además de la técnica.
• Un agente que puede enviar mensajes, cambiar registros, hacer pagos o ejecutar código es, como mínimo, de riesgo alto, salvo que sus acciones estén muy acotadas y aprobadas por separado.
• Un sistema que no pueda pausarse o revertirse antes de causar daño no se aprueba sin un control alternativo aceptado.

El marco exige que cada sistema tenga su expediente en nuestro Registro de Aprobación de IA en Producción. El recorrido es:

1. Se abre el expediente cuando el proyecto deja de ser una exploración.
2. Ficha de entrada, con un responsable de negocio y uno técnico.
3. Calificación de riesgo y clase.
4. Revisiones según el caso: legal y de privacidad, del proveedor del modelo, de datos y de seguridad.
5. Pruebas de evaluación proporcionales al riesgo, con casos representativos y casos límite.
6. Puerta de aprobación: supervisión humana, permisos de acceso y de herramientas, monitoreo y una forma probada de pausar o volver atrás.
7. Decisión de salida y fecha de la siguiente revisión.
8. Nueva revisión ante cualquier cambio importante.
9. Registro y escalamiento de incidentes.

• El Responsable de IA o el CTO pueden pausar de inmediato cualquier despliegue de IA, sin esperar una aprobación comercial.
• La revisión legal y de privacidad puede bloquear una salida a producción mientras haya asuntos legales o de privacidad sin resolver.
• Cualquier integrante del equipo puede pedir una pausa temporal si sospecha un problema serio de seguridad, privacidad, legal o de riesgo para un cliente, sin represalias.

El marco exige registrar y contener cada incidente: pausar el sistema, desactivar sus acciones hacia fuera, volver a una versión conocida o pasar a revisión manual; avisar a los responsables según la gravedad, y corregir y volver a probar antes de restablecer el servicio. Una filtración confirmada de datos restringidos o una acción no autorizada hacia fuera detienen el sistema de inmediato.

El marco clasifica la información en pública, interna, confidencial y restringida. Por regla, los datos restringidos (datos personales sensibles, claves o credenciales) no se envían a modelos externos, y ninguna clave va en las instrucciones de un modelo. Cuando un proyecto usa datos personales de México, la revisión legal y de privacidad analiza las obligaciones de la ley mexicana de protección de datos personales.

• Usos ilegales, engañosos o fraudulentos, e intentos de saltar las protecciones de un proveedor.
• Decisiones automáticas sin respaldo que afecten los derechos de una persona o su acceso a servicios esenciales.
• Puntajes sociales, deducir rasgos sensibles sin justificación o suplantar identidades.
• Poner en producción un sistema sin responsable, sin una forma probada de pausarlo o sin su expediente.

Cuando usamos modelos de un proveedor, también aplican sus políticas de uso; si son más estrictas que este marco, manda la más estricta.

Los sistemas de IA que hoy operamos en producción están registrados y clasificados como de riesgo moderado (R2) para su configuración actual. Antes de darles más autonomía, de usarlos en decisiones de alto impacto o con datos restringidos, el marco exige volver a clasificarlos y aprobarlos.

La primera revisión formal del marco se hará dentro de los 90 días siguientes a su entrada en vigor.

Si crees que un sistema de IA de Teseo Data Lab está causando un problema, escríbenos en contacto.