Estación 1 · extrae Cajón A
Confianza digital
Fichas A1 a A10 · NIST: transparencia no es explicabilidad
Reconocer cuándo un tablero potente no merece confianza todavía, aunque el proveedor sea famoso.
Dilema
Una entidad compra un tablero que, en segundos, muestra a una persona, su red, sus trámites y su última ubicación. La dirección dice: por fin vemos todo. ¿Eso ya es confianza digital?
Ver más rápido no es decidir mejor. Hay que saber para quién funciona, con qué bases, qué pasa si la ficha está mal, y quién apaga una alerta injusta.
¿Es justificable?
Transparencia institucional: propósito, responsable, versiones, bases conectadas. Explicabilidad de esta alerta, no un white paper. Interpretabilidad para el afectado o un revisor. Lectura de la empresa: el software no decide solo. Lectura crítica: quien aparece en la ficha casi nunca recibe una explicación utilizable. La opacidad está en la asimetría.
Ejemplo
Un semáforo de “prioridad de inspección” en una alcaldía acierta 91 % en promedio. Nadie publica para qué barrio falla, ni una ficha de usos no previstos, ni un canal para contradecir la alerta. Potencia visible; confianza incompleta.
¿Es legítima?
Cruzar trámites con ubicación puede ser legal. Legitimidad pregunta si la finalidad del cruce está delimitada o el tablero invita a ver qué más sale. Se profundiza en Estación 3.
Ejemplo
Un hospital une camas y diagnósticos para asignar quirófanos: finalidad clara. Si el mismo tablero permite, con un clic, ver deudas, WhatsApp y dirección “porque ya está ahí”, la legitimidad se rompe aunque nadie haya “hackeado” nada.
¿Es resiliente?
Un tablero que junta todo es un único punto de fallo: un operador de más (confidencialidad) o una base envenenada (integridad). Se profundiza en Estación 4.
Ejemplo
Si cae el tablero el día de una emergencia, o un rol de soporte ve fichas que no le tocan, la confianza se cae con el sistema. Un 92 % de precisión no cubre eso.
El 92 % no cierra el caso
El mismo error aparece en un hospital, un banco o una universidad: se aplaude la eficiencia y nadie muestra para quién falla, ni una Model Card con usos no previstos. Eficiencia del tablero no es confianza.
Ejemplo
Un filtro de admisión universitaria presume 92 % de acierto y deja fuera, de forma estable, a quienes estudiaron en jornada nocturna. El promedio luce; un grupo paga el error. Eso se pide por escrito antes de aplaudir.
Pregunta 1 / 5
Aprendizaje continuo · puedes seguir aunque te equivoques