La contratación es el caso más claro. Un modelo entrenado con las decisiones de contratación pasadas de una empresa ordena las postulaciones nuevas según cuánto se parecen a las personas que esa empresa contrató antes. A quienes se postulan rara vez se les dice qué atributos pesó el modelo, y rara vez tienen un procedimiento para cuestionar el resultado. Los patrones que había en aquellas decisiones previas se reproducen a una escala mucho mayor, y cuesta más notarlos cuando llegan en forma de ordenamiento.
Herramientas de la misma familia gobiernan hoy buena parte de la jornada, bajo el nombre de gestión algorítmica. Los motores de asignación deciden qué turno, qué ruta o qué tarea le toca a cada quien. Los modelos de puntuación estiman qué tan productiva es una persona, o qué tan probable es que renuncie. El software de monitoreo cuenta pulsaciones, desplazamientos y tiempo dentro de una aplicación. Las herramientas generativas escriben la primera versión de un trabajo que antes hacían las personas. Cada una toma un juicio que antes emitía alguien, y que se le podía pedir que explicara, y lo convierte en un resultado calculado a partir de datos sobre quienes trabajan. De ahí salen las preguntas prácticas: con qué se entrenó el modelo, qué está puesto a optimizar, quién puede ver su resultado, quién está autorizado a revertirlo y qué puede recolectar una empresa de su personal para mantenerlo funcionando.
Eso es lo que publica esta área. Tomamos una de esas preguntas a la vez, trabajamos con la evidencia que existe y sacamos conclusiones que la dirección de una empresa, las representaciones de quienes trabajan y quienes hacen política pública puedan usar para mejorar cómo se implementan y se gobiernan los sistemas de IA en el centro de trabajo.