Inventario, caso de uso, datos, riesgo, controles y supervisión humana.
Cuando una organización dice “necesitamos una política de IA”, la primera respuesta útil debería ser otra pregunta: ¿qué IA estamos usando?
Inventario
Hay que saber qué herramientas existen, qué áreas las usan, con qué datos y para qué decisiones.
Caso de uso
No es lo mismo resumir documentos públicos que evaluar candidatos, atender pacientes o decidir acceso a un servicio.
Controles
Accesos, datos permitidos, revisión humana, registro de versiones, validación de resultados, límites de uso y procedimiento de incidentes.
Es decidir qué usos son aceptables, bajo qué condiciones y con qué evidencia.
Un caso para situar el problema
Una empresa incorpora asistentes de IA en atención al cliente y después decide utilizarlos en recursos humanos. La misma herramienta empieza a intervenir en procesos con riesgos y obligaciones muy diferentes.
Qué permite comprender este caso
El gobierno comienza con un inventario de casos de uso, responsables, datos, proveedores y posibles consecuencias. Después se seleccionan evaluaciones y controles adecuados a cada situación.
La consecuencia práctica
Una política se vuelve útil cuando alguien puede demostrar qué sistema se empleó, bajo qué versión, quién revisó las salidas y cómo se corrigen los errores.