Un agente de IA no debería tener acceso a todo

Los agentes de inteligencia artificial están empezando a ocupar un lugar distinto dentro de las empresas. Ya no se limitan a redactar un correo, resumir un documento o responder una pregunta. Ahora pueden consultar sistemas internos, recuperar información de clientes, actualizar registros, preparar pedidos, gestionar incidencias e incluso ejecutar determinadas acciones.

Esta evolución abre muchas posibilidades, pero también plantea una cuestión importante:

¿Qué debería poder hacer un agente de IA sin intervención humana?

La respuesta no puede ser «todo aquello que técnicamente sea capaz de hacer».

Un agente útil no es el que tiene acceso ilimitado, sino el que dispone de la información y las herramientas necesarias para realizar una tarea concreta dentro de unos límites bien definidos.

Del asistente que responde al agente que actúa

Un asistente tradicional genera una respuesta y deja que una persona decida qué hacer con ella. El riesgo es relativamente limitado porque la acción final sigue dependiendo del usuario.

Un agente va un paso más allá. Puede conectarse con las herramientas de la empresa y actuar sobre ellas.

Por ejemplo, podría:

* Consultar el estado de una factura.
* Actualizar una oportunidad en el CRM.
* Clasificar una incidencia.
* Reservar una cita.
* Enviar una respuesta previamente autorizada.
* Crear una tarea y asignarla al responsable correspondiente.

Esta capacidad es precisamente la que aporta valor. Sin embargo, también es la que obliga a diseñar permisos, controles y mecanismos de supervisión.

No es lo mismo permitir que un agente consulte el importe de una factura que autorizarlo a modificarla. Tampoco es igual dejarle preparar una devolución que permitirle ejecutar el reembolso directamente.

La diferencia está en las consecuencias de cada acción.

No todos los permisos tienen el mismo riesgo

Antes de conectar un agente con los sistemas de una empresa, conviene clasificar las acciones que podrá realizar.

Una estructura sencilla puede dividirlas en tres niveles.

1. Acciones que puede ejecutar automáticamente

Son tareas repetitivas, reversibles y con un impacto limitado.

Por ejemplo:

* Buscar información en una base de conocimiento.
* Consultar el estado de un pedido.
* Clasificar correos o solicitudes.
* Crear un borrador.
* Registrar una interacción.
* Enviar una notificación interna.

En estos casos, el agente puede trabajar de forma autónoma siempre que utilice fuentes autorizadas y deje constancia de lo que ha hecho.

2. Acciones que requieren aprobación

Son aquellas que pueden afectar a clientes, dinero, compromisos comerciales o información relevante.

Por ejemplo:

* Aplicar un descuento.
* Modificar una factura.
* Confirmar una fecha de entrega.
* Enviar una propuesta económica.
* Cambiar datos de un cliente.
* Aprobar una devolución.

El agente puede recopilar la información, comprobar las condiciones y preparar la acción, pero una persona debe validarla antes de que se ejecute.

Este modelo reduce trabajo sin eliminar el criterio humano allí donde sigue siendo necesario.

3. Acciones que deben permanecer bloqueadas

Algunas operaciones no deberían estar disponibles para el agente, aunque técnicamente pudieran automatizarse.

Aquí pueden incluirse:

* Eliminar definitivamente información sensible.
* Realizar transferencias sin autorización.
* Cambiar permisos de acceso.
* Firmar compromisos legales.
* Exportar bases de datos completas.
* Modificar políticas internas.

El objetivo no es frenar la automatización, sino impedir que un error, una interpretación incorrecta o una instrucción mal formulada genere consecuencias difíciles de revertir.

La supervisión humana no debe aparecer solo cuando algo falla

Uno de los errores más habituales consiste en introducir a una persona únicamente como último recurso, cuando el agente ya no sabe cómo continuar.

La intervención humana debería formar parte del diseño desde el principio.

El sistema necesita reglas claras para determinar:

* Cuándo puede actuar por sí mismo.
* Cuándo debe solicitar autorización.
* Qué situaciones se consideran excepcionales.
* A quién debe escalar cada caso.
* Qué información debe entregar para facilitar la decisión.

Si un agente detecta una incidencia compleja, no debería limitarse a responder «no puedo ayudarle».

Debería trasladar el caso a la persona adecuada junto con el contexto ya recopilado: qué solicita el cliente, qué datos se han comprobado, qué política podría aplicarse y cuál es el punto exacto que necesita una decisión.

Así, la escalada no reinicia el proceso. Lo continúa.

El agente necesita un puesto de trabajo definido

En una empresa, una persona no recibe acceso a todos los sistemas el primer día. Sus permisos dependen de su función.

Con un agente de IA debería ocurrir lo mismo.

Antes de implantarlo, es necesario definir su puesto de trabajo:

1. **Qué tarea concreta debe resolver.**
2. **Qué información necesita para hacerlo.**
3. **Qué sistemas puede consultar.**
4. **Qué acciones puede ejecutar.**
5. **Cuáles necesitan aprobación.**
6. **Cuándo debe detenerse.**
7. **Quién será responsable de supervisarlo.**

Cuanto más genérica sea su misión, más difícil será controlar su comportamiento y evaluar si realmente está aportando valor.

«Ayudar al departamento comercial» es demasiado amplio.

«Revisar las solicitudes recibidas, completar la información disponible en el CRM, preparar un borrador de respuesta y pedir aprobación antes de enviarlo» es un trabajo definido.

También hay que revisar lo que ocurre después del lanzamiento

Un agente no queda terminado el día que se pone en funcionamiento.

Los productos cambian, las políticas se actualizan, aparecen nuevas excepciones y los usuarios encuentran formas de preguntar que no estaban previstas.

Por eso, la implantación debe incluir un sistema de seguimiento:

* Registro de las acciones realizadas.
* Casos que necesitaron intervención humana.
* Errores o respuestas incorrectas.
* Solicitudes que el agente no pudo resolver.
* Tiempo ahorrado.
* Acciones propuestas frente a acciones finalmente aprobadas.

Estos datos permiten ajustar sus instrucciones, ampliar o reducir permisos y detectar procesos que todavía no están suficientemente definidos.

No se trata de vigilar cada respuesta para siempre, sino de medir el funcionamiento real y mejorar el sistema con evidencias.

Una pregunta mejor que «¿qué puede hacer la IA?»

Cuando una empresa empieza a estudiar el uso de agentes, suele preguntar qué tareas puede automatizar la inteligencia artificial.

Es una pregunta lógica, pero incompleta.

También debería preguntarse:

¿Qué puede hacer de forma autónoma, qué debe preparar para que una persona lo apruebe y qué no debería poder hacer nunca?

Esa clasificación convierte una demostración tecnológica en un proceso empresarial controlado.

La confianza no consiste en asumir que el agente nunca cometerá un error. Consiste en diseñar el sistema para que cada acción tenga los permisos, las comprobaciones y el nivel de supervisión adecuados.

Porque cuanto más capaz sea la inteligencia artificial, más importante será decidir dónde termina su autonomía.