Un agente virtual seguro no promete portarse bien: no puede portarse mal

Si un agente virtual atiende a tus clientes, la pregunta no es qué tan amable suena. La pregunta es qué puede hacer cuando alguien intenta que se salga del guion. Una de las empresas de chips más grandes del mundo acaba de contestar eso con una plataforma entera: los límites no se piden con palabras, se construyen por fuera.

Es un caso grande, de empresas enormes, pero el problema que resuelve es el mismo que tiene un negocio con tres empleados y un chat en su página. Vale la pena entenderlo desde ahí.

El problema que ya conoces

Durante meses, la protección de los agentes de IA se apoyó en una idea frágil: escribirles instrucciones que digan cómo comportarse. Funciona mientras nadie insista. Pero un agente con cierta autonomía puede decidir saltarse esa instrucción, o puede ser engañado con un texto escondido en un correo, un formulario o una página.

Es como pegar en la puerta de la bodega un letrero que diga por favor no pasar. Sirve para el que lo respeta. Para el que no, necesitas una puerta con llave.

Qué construyeron

La plataforma tiene dos piezas, y las dos funcionan lejos del propio modelo:

• Una caja de ejecución de código abierto: encierra al agente y fija reglas estrictas sobre qué archivos puede leer, a qué redes puede entrar y qué credenciales puede usar. La regla no vive dentro de la IA, así que la IA no puede decidir ignorarla.
• Un vigilante físico: corre en un chip aparte, en una zona aislada que ni el agente ni un intruso pueden ver. Revisa cada petición, verifica identidades y aplica el principio de no confiar en nadie por defecto.

Según la propia empresa, el vigilante puede aislar a un agente que intente pasar de sus permisos en cuestión de milisegundos. Conviene leerlo con calma: quien lo anuncia también vende el hardware que lo sostiene.

Lo que se traduce a una pyme

Tú no vas a comprar chips. Pero la lógica cabe en cualquier negocio, y casi toda se resuelve con orden, no con dinero:

• Cuenta propia: el agente entra con su usuario, no con el tuyo.
• Permisos mínimos: solo los archivos, calendarios y herramientas que necesita para su trabajo.
• Separación: quien decide no es quien ejecuta. Un agente que contesta dudas no debería poder cambiar precios.
• Registro: que quede huella de lo que hizo y que él no pueda borrarla.
• Botón de apagado: una forma rápida de pausarlo desde tu celular.

Dónde encaja un agente virtual

Un agente virtual para negocio atiende en tu sitio, en WhatsApp, en Instagram y en Messenger, y cuando el cliente está listo lo pasa a una conversación contigo. Es opcional y puede arrancar desde $3,000 MXN + IVA al año. Si decides tener uno, este caso te da la lista de verificación: antes de preguntar qué tanto sabe, pregunta a qué puede llegar.

Un agente que solo contesta preguntas frecuentes y manda al cliente a WhatsApp tiene poco que romper. El riesgo crece cuando le das llaves: acceso a tu inventario, a tus cobros, a tu correo. Dale solo la llave de lo que usa todos los días.

Preguntas que suelen surgir

¿Necesito hardware especial para proteger a mi agente?

No. La idea de fondo es poner límites fuera del modelo, y eso se logra con cuentas separadas y permisos mínimos. El hardware es una capa extra pensada para empresas muy grandes.

¿Por qué no basta con darle buenas instrucciones?

Porque una instrucción es una petición, no un candado. Un agente con autonomía puede saltársela o ser engañado por un texto malicioso escondido en lo que lee.

¿Un agente virtual de atención es riesgoso?

Depende de a qué llegue. Si solo contesta dudas y manda al cliente a WhatsApp, el riesgo es bajo. Sube cuando conecta con inventario, cobros o archivos internos.

Haz esto hoy

Opinión

La confianza es buena para la gente que contratas. Para una máquina que lee todo lo que le escriben, la confianza se llama permiso, y se da con cuentagotas.