La extensión agéntica de la tesis

Pensemos en un límite. Si Distribuidora Norte, en su segunda vuelta, la del reparto, delegara en un agente la asignación de rutas sin reglas auditables, el fallo ya no sería un vendedor que ignora una alerta, un error recuperable. Sería un despacho ejecutado miles de veces sin testigo. Ese salto de rol es el objeto de este capítulo.

Ninguna de las ocho corrientes de Autores y corrientes vio un agente de IA: Tavistock es de 1951, Latour de 2005 y la difusión de Rogers de los años sesenta. El libro sostiene que la tesis no envejece con la tecnología, pero hasta acá lo afirmaba sin construir qué se desplaza cuando el sistema técnico deja de ser un artefacto que se usa y pasa a ser un actor que decide y ejecuta por su cuenta. Este capítulo construye esa extensión. No corrige las ocho corrientes, sino que las relee bajo agencia. Lo que agrega, que es casi todo, son constructos del paradigma, no atribuibles a ningún autor. Donde la literatura académica reciente llega por su cuenta al mismo lugar, se lo señala como una convergencia que valida, no como la fuente de la que esto se deriva.

Del artefacto que se usa al actor que decide

La tesis del puente se construyó sobre una imagen implícita de la tecnología: un artefacto que una persona usa, opera o consulta. Un sistema de facturación, un ERP e incluso un modelo predictivo no deciden: registran, ordenan, sugieren. La decisión, y con ella la responsabilidad, queda siempre del lado humano. El modelo predictivo marca a un cliente en riesgo, pero es el vendedor quien decide llamarlo. Esa frontera, en la que el humano es el último filtro de cada caso, es el supuesto silencioso sobre el que descansa todo el método.

La capa agéntica rompe ese supuesto. Es el peldaño de la escalera de adopción en que el software deja de sugerir y pasa a decidir y ejecutar de punta a punta: aprueba un reembolso, deriva un reclamo, prioriza un expediente o dispara una acción sin que nadie mire cada caso. El salto no es de potencia del modelo, sino de rol. El sistema técnico deja de ser algo que se usa y pasa a ser algo que actúa.

Acá aparece un hueco que ninguna de las ocho corrientes llena del todo. La teoría del actor-red ya trataba a los no-humanos como actores: un rompeolas, un badén o una llave actúan en la red, enrolan a otros, resisten.¹ Pero los no-humanos de Latour actúan sin decidir. Hacen lo que su inscripción material les fijó y no eligen entre cursos de acción según un criterio que evalúan en el momento. La teoría tiene vocabulario para el no-humano que hace, pero no para el no-humano que decide.

Ese hueco lo llena lo que el paradigma llama actor decisor. El agente de IA es un actor en el sentido del actor-red, porque participa en la red, enrola y produce efectos, pero pertenece a una clase que esa teoría no tipificó: decide entre alternativas y ejecuta su decisión sin que un humano la filtre caso por caso. No tiene intereses ni intención, porque no es un sujeto, pero sí ejerce una discreción delegada: opera dentro de un margen de elección que un humano le confió. El problema sociotécnico deja de ser “¿la gente adopta este artefacto?” y pasa a ser “¿quién responde por lo que este actor decide, y con qué reglas decide?”. Se trata de una decisión conceptual, no de un hallazgo. Extender el vocabulario de actor conserva la simetría que hace potente a la teoría, con humanos y no-humanos en la misma red, y le suma solo lo que le falta: el margen de decisión.

La tesis: no se rompe, se desplaza

Frente a la capa agéntica, la tentación es declarar obsoleto el método. Si el sistema decide solo, ¿para qué sirven la lectura humana, el control y la optimización conjunta? Esta extensión responde lo contrario, y esa respuesta es su tesis: lo que el paradigma llama desplazamiento del control. Ni la optimización conjunta de Tavistock ni la traducción de Latour se rompen cuando el actor decide; se desplazan un nivel hacia arriba. El control humano deja de ejercerse sobre cada decisión y pasa a ejercerse sobre las reglas con que el agente decide: qué resuelve por su cuenta, cuándo está obligado a escalar a una persona, qué deja registrado y cómo se lo revoca. Es el paso de gobernar la decisión a gobernar el gobierno de la decisión. La primacía del humano no desaparece; cambia de objeto.

La tesis ya estaba latente, dispersa en tres lugares del método. Aparece en el eslabón 4 (“el control humano se corre un peldaño más arriba, de la decisión al gobierno de la decisión”), en el concepto criterio en el diseño, no en cada transacción y en la dimensión de potencial del IMIA. Los tres dicen lo mismo desde ángulos distintos; nombrarlo como desplazamiento del control lo convierte en el eje de la extensión.

Falta precisar qué se conserva. La optimización conjunta sostenía que lo social y lo técnico no se pueden mejorar por separado. Bajo agencia, el subsistema técnico decide dentro del social, y la interdependencia no se afloja: se intensifica. Un agente mal acoplado a la trama humana ya no produce una herramienta que nadie usa, que era el fracaso clásico y recuperable, sino decisiones efectivamente tomadas que hay que deshacer. La traducción, a su vez, incluye ahora traducir el criterio humano a reglas que el agente ejecute. Ese acto es en sí mismo sociotécnico, porque decide qué juicio se delega y cuál no.

Cada corriente, releída bajo agencia

Actor-red. La traducción en carne y hueso sostenía que es una persona, no un documento, quien alinea a los actores de una organización. La capa agéntica suma un actor, el decisor, y con él una vuelta de tuerca: el agente no solo es enrolado, también enrola. Cuando prioriza expedientes, los funcionarios reorganizan su trabajo alrededor de ese orden; cuando aprueba reembolsos, el área de fraude ajusta sus controles a lo que el agente deja pasar. Ese enrolamiento agéntico es la traducción leída al revés. La organización no solo traduce el mundo al agente cuando le da reglas; el agente, una vez en operación, traduce a la organización, porque fija el ritmo, el formato y el reparto del trabajo humano que queda a su alrededor. Por eso la lectura sociotécnica no termina cuando el agente entra en producción: el agente cambia la organización que se había leído.

IA centrada en el humano. Shneiderman sostiene que alta automatización y alto control humano no forman una disyuntiva.² La capa agéntica parece desmentirlo, porque si el agente decide solo, el control debería bajar por definición. No baja, si se entiende dónde se ejerce. “Alto control humano” deja de significar que una persona revisa cada decisión, algo que a escala sería imposible o convertiría esa revisión en una firma de trámite. Pasa a significar que una persona diseña, audita y puede revocar las reglas con que el agente decide. El cuadrante de Shneiderman se sostiene; lo que se mueve es el punto de aplicación del control, del caso a la regla.

Dignum y O’Neil entran con más fuerza, no con menos. La rendición de cuentas importaba cuando el modelo sugería, y se vuelve estructural cuando el agente decide, porque ya no recae sobre la persona que apretó el botón: esa persona no existió.³ El daño a escala que documenta O’Neil también cambia de naturaleza. Un modelo opaco que sugiere mal produce sugerencias que un humano todavía puede descartar; un agente que decide mal produce decisiones ya ejecutadas.⁴

Difusión. La escalera de adopción ya ubica la capa agéntica en su peldaño más alto; la relectura agrega un matiz sobre dos de los atributos percibidos de Rogers.⁵ La observabilidad se invierte: cuanto mejor funciona un agente, menos se lo ve, porque decide bien, en silencio y sin pedir nada. El atributo que Rogers contaba como motor de adopción se vuelve así un problema de gobernanza, ya que lo que no se ve no se audita. La trialabilidad, la posibilidad de probar de a poco, también se complica cuando lo que se prueba ejecuta: un piloto agéntico no es inocuo como uno que sugiere, porque ya actúa. El uso descriptivo y no normativo de Rogers que el método sostiene se vuelve más exigente bajo agencia. Difundir rápido un agente sin gobierno es difundir un actor que decide mal a la velocidad de la curva en S.

Conocimiento tácito. Acá la extensión toca su punto más delicado. El desplazamiento del control supone traducir el criterio humano a reglas, pero la paradoja de Polanyi, “sabemos más de lo que podemos decir”, indica que el núcleo del juicio experto es tácito y no se codifica del todo.⁶ Si es así, no todo criterio se puede pasar a reglas: lo que no se codifica es lo que hace experto al experto. De ahí sale lo que el paradigma llama la frontera de delegación: el límite, móvil y siempre parcial, entre el juicio que puede trasladarse a reglas auditables (umbrales, criterios explícitos, casos tipificados) y el que no, porque es tácito, contextual o está cargado de valores en conflicto que ninguna regla resuelve sin decidir por las personas. La frontera es sociotécnica, no técnica. Definir qué cae de cada lado es la lectura humana de la capa agéntica, y diseñar un agente es, sobre todo, decidir bien dónde ponerla y obligarlo a escalar a una persona todo lo que cae del lado tácito.

Weick agrega la última pieza. Si la organización enactúa las categorías con que mide el mundo, un agente que decide sobre esas categorías no solo reproduce los puntos ciegos del sentido construido: los ejecuta y, al decidir, los refuerza, porque sus decisiones se vuelven el dato de mañana.⁷

La gobernanza sube con la autonomía

De lo anterior se sigue lo que el paradigma llama la regla de proporcionalidad: la gobernanza que un sistema requiere es proporcional al margen de decisión que se le delega. Automatizar una tarea de reglas fijas, como un reporte, una carga o un cálculo, pide poca gobernanza, porque el sistema no decide: ejecuta lo prescripto. Un actor que decide entre alternativas exige gobernanza alta, con políticas de uso, gestión de riesgos, reglas auditables y vías de escalamiento y de revocación. La autonomía sin gobernanza proporcional no es una oportunidad, sino una delegación a ciegas.

Esto no redefine el IMIA; le da fundamento. Su dimensión de potencial ya distingue la automatización por reglas fijas de la agéntica y afirma que el componente agéntico sube la vara de la dimensión de gobernanza. La regla de proporcionalidad es el principio general del que esa distinción es un caso. Por eso la advertencia de que “potencial agéntico alto sobre gobernanza baja no es oportunidad, es riesgo” no queda suelta. Y por eso el gate de gobernanza del IMIA, que impide alcanzar el nivel de integración con la gobernanza por debajo del piso, es la forma estricta de la proporcionalidad: cuanto más arriba en la escalera, más alto el piso de gobernanza para que el salto cuente como madurez y no como exposición.

Tres riesgos propios

La capa agéntica no agrava de a poco los riesgos conocidos. Introduce tres que no existen mientras el humano filtra cada caso.

La ejecución a escala sin testigo. El humano en el bucle no solo filtraba: veía, porque cada decisión pasaba por una mirada. Cuando el agente decide solo, esa mirada desaparece de la transacción y nadie es testigo de la decisión individual. El riesgo no es la velocidad, que ya tenía nombre (automatizar el error más rápido), sino la ausencia de testigo. La gobernanza tiene que reponer con registro, muestreo y auditoría el testigo que el flujo perdió.

El error que se repite solo. Un humano que se equivoca tiende a notarlo y a corregirse. Un agente que decide mal por una regla mal trazada repite el mismo error en cada caso idéntico, sin fatiga ni duda, hasta que alguien interviene sobre la regla. Por eso la auditoría de la capa agéntica vigila la regla y no el caso.

La dilución de la rendición de cuentas. Cuando nadie decidió cada caso, el riesgo es que la pregunta de quién responde tenga como respuesta “nadie”: ni el agente, que no es sujeto, ni quien lo diseñó, ni quien lo operó. El antídoto es la otra cara del desplazamiento del control. Si el control se corre de la decisión a la regla, la rendición de cuentas se corre con él, y responde quien diseñó, auditó y mantiene la regla. Por eso esas reglas tienen que ser explícitas, auditables y atribuibles a una persona. La autonomía no diluye la responsabilidad humana: la reubica, y obliga a volverla explícita justo donde antes venía implícita en el gesto de decidir.

La convergencia del campo

Los constructos anteriores salen de adentro del método, de releer las ocho corrientes, y no dependen de ninguna fuente externa. Aun así, vale la pena registrar que, mientras se escribía esta extensión, la literatura académica llegó por su cuenta a la misma lectura: los sistemas agénticos son sistemas sociotécnicos. Esa convergencia no es la fuente del argumento, sino su validación más fuerte. Cuando trabajos que no se conocen entre sí describen el mismo objeto con el mismo aparato, el objeto es real y no una preferencia retórica.

El primer marco que trata explícitamente la IA agéntica como sistema sociotécnico cierra su tesis casi con las mismas palabras de este capítulo: el comportamiento de un agente es coproducido por “algoritmos, datos, prácticas organizacionales, marcos regulatorios y normas sociales”.⁸ Es el actor decisor leído en red, y el enrolamiento agéntico, dichos por otros. Un segundo trabajo actualiza formalmente la optimización conjunta de la tradición Tavistock a la era de la IA y la formula en cuatro niveles: individual, organizacional, de ecosistema y societal.⁹ Eso le da a la tesis su versión de escala, porque un agente que decide mal no se queda en la organización que lo desplegó: escala al ecosistema.

El hallazgo que más respalda la tesis es empírico. Evaluados sobre veinte flujos de trabajo, los agentes gestores (manager agents) de última generación todavía fracasan en optimizar conjuntamente objetivos, restricciones y tiempos.¹⁰ Dicho en el vocabulario del puente, la optimización conjunta, coordinar lo social con lo técnico, es lo que los agentes todavía no hacen bien. La lectura sociotécnica no es una tarea que la IA agéntica esté por absorber, sino el residuo que resiste la automatización.

El contexto como activo

Entre la ingeniería de agentes de frontera y el método hay un puente inesperado, y nombrarlo convierte los artefactos del eslabón 1 en infraestructura para la capa agéntica. El oficio emergente de construir agentes útiles no gira alrededor del modelo, sino del contexto que se le arma: qué sabe de la organización, con qué vocabulario y con qué memoria de lo ya ocurrido. Es lo que se ha dado en llamar context engineering, la ingeniería del contexto.¹¹ Leído desde el método, no se trata de una novedad técnica ajena, sino de lo que el puente ya produce. La memoria institucional (preguntas repetidas con respuestas consistentes) y el glosario bilingüe del proyecto (negocio y técnica, definidos una vez) son el contexto que un agente necesita para decidir bien.

De ahí se sigue una proposición diagnóstica: la organización que no puede explicarle su proceso a una persona tampoco puede empaquetarlo como contexto para un agente. La ilegibilidad organizacional, que antes se pagaba con adopción nula, ahora se paga además con la imposibilidad de delegar, porque no hay contexto que darle al agente. El orden habitual se invierte. No se empieza por el agente para después “darle contexto”; primero se construye la legibilidad de la organización, que es el trabajo del puente, y esa legibilidad es el contexto. Por eso el libro trata el contexto como activo organizacional: el puente no solo pone los guardarraíles del agente, también fabrica el material con el que el agente piensa.

Por qué la tesis no envejece

El libro venía afirmando que la tesis del puente no envejece con la tecnología; esta extensión lo convierte en argumento. La capa agéntica no deja sin trabajo a la lectura sociotécnica: le cambia el objeto y le sube la apuesta. La optimización conjunta y la traducción se desplazan hacia arriba. El control de Shneiderman cambia de punto de aplicación. El juicio tácito de Polanyi no se vuelve codificable, sino que pasa a ser la frontera que hay que saber trazar. La rendición de cuentas de Dignum no se disuelve: se reubica y hay que volverla explícita. Cada peldaño de la escalera encarece la omisión de la lectura humana, y el agéntico es el más caro de todos, porque arriba un proceso que nadie comprendió no se ejecuta más lento: se ejecuta solo, a escala, en serie y sin testigo. Lejos de volver obsoleto al puente, la IA con agencia lo vuelve indispensable.

Ver también: Autores y corrientes · La tesis del puente · Conceptos propios · IMIA, el instrumento de madurez · Bibliografía