¿Qué ley rompe tu IA?

Un director de operaciones con el que trabajé le pidió al nuevo asistente de IA de su empresa que le ayudara a redactar una carta de despido. Semanas después, en una conversación que no tenía nada que ver —sobre el calendario de vacaciones—, el mismo asistente mencionó por su nombre al empleado despedido, porque la ventana de contexto había crecido lo bastante como para plegar las dos conversaciones en una.

Nadie le había dicho que olvidara. Nadie se había planteado siquiera si debía hacerlo.

Esa es la forma de casi todos los fallos éticos de IA que me han llamado a revisar en veintiséis años yendo y viniendo entre salas de ingeniería y libros de filosofía. No una decisión que alguien tomó mal. Una decisión que nadie llegó a tomar.

No creo que la memoria ilimitada esté mal. Creo que lo que está mal es la memoria no decidida.

El Decálogo Positrónico es mi intento de una capa constitucional para la IA en lugar de otra lista de verificación: una jerarquía que va de las leyes cardinales que protegen a la humanidad y al individuo, pasando por las leyes operativas que rigen la conducta diaria, hasta las filosóficas que fijan el horizonte. Una constitución no sirve para consultarla cuando algo ya salió mal. Sirve para resolver las preguntas de antemano, de modo que lo que queda por defecto sea una decisión y no un accidente.

Así que esta es la auditoría que hago ahora antes que cualquier otra cosa de la lista habitual: antes de la política de contenidos, antes de las pruebas de sesgo. Diez preguntas, una por cada ley, sobre un sistema concreto que ya usas o estás a punto de comprar. No sobre «la IA» en general, que no se puede auditar.

Fíjate en la opción intermedia. En casi todas estas preguntas, la respuesta honesta no es «cumplimos» ni «no cumplimos». Es «nadie lo ha decidido». Esa respuesta no es neutral, y esta auditoría no la puntúa como si lo fuera.