La IA responsable es una disciplina de ingeniería, no una presentación de políticas
Los principios en una diapositiva no cambian lo que hace un sistema de IA en producción. Los controles en el sistema sí.
Por Emilio Bogantes · · 5 min de lectura
Demasiados programas de IA responsable se quedan en un conjunto de principios con los que todos concuerdan y que ningún sistema hace cumplir. Equidad, transparencia y seguridad en una diapositiva son necesarias y completamente insuficientes. Lo que cambia el comportamiento en producción es si esos principios se expresan como controles que se lanzan con el producto.
De principios a controles
- Alcance: codificar a qué puede acceder y sobre qué puede actuar un sistema, en vez de confiar en que se porte bien.
- Observabilidad: rastrear entradas, decisiones y acciones para que el comportamiento sea auditable después.
- Evaluación: probar con tareas reales de forma continua, porque el comportamiento del modelo se desvía cuando cambian las entradas.
- Validación humana: ajustarla al riesgo, considerando permisos, sensibilidad de los datos, impacto y reversibilidad, para que las personas revisen lo que más importa.
Cómo se ve en trabajo de alto riesgo
En una herramienta de investigación legal asistida por IA, la responsabilidad no fue un documento; fue diseño. La observabilidad y la validación humana se integraron en la forma en que funcionaba el sistema, y las personas verificaban su resultado antes de que apoyara trabajo legal vinculado a un reclamo superior a USD 1 millón. Quitá esos controles y el mismo modelo se vuelve un pasivo en lugar de un activo.
Tratá la IA responsable como disciplina de ingeniería y deja de ser una conversación de cumplimiento a posteriori. Se vuelve parte de cómo se construye el sistema, que es donde más efecto tiene.