Agentes de IA con freno: lo que aprendí en Microsoft Miami
Yo busco eventos de inteligencia artificial en Luma, una app que te enseña qué hay cerca sobre el tema que te interesa. En Puebla casi no hay. Esta vez andaba en Miami y buscaba uno de Claude. Había uno en una universidad, pero solo para estudiantes. Seguí buscando y encontré este.
El martes 20 de octubre, de seis a ocho de la tarde, estuve en una sala de las oficinas de Microsoft en Brickell. El tema era qué debe poder hacer un agente de IA y quién lo frena. Jamás me imaginé compartir espacio con gente de ese nivel.
Un agente de IA es un programa que no solo responde: planea, usa herramientas y ejecuta tareas. Dirijo una fábrica en Puebla y no sé programar, pero tengo agentes que me ayudan con el contenido de mi marca personal, y una automatización que escribe en hojas de cálculo el registro de ventas y de producción. Ninguna toca dinero; solo tienen acceso para escribir. Y estoy trabajando en un agente más para el equipo de ventas.
No soy experto; como emprendedor me encanta estar aprendiendo estos temas. Llegué sin conocer a nadie, grabé unos clips para un reel y tomé notas. Lo que sigue es lo que escuché en la sesión. No es fuente primaria; es mi libreta.
En corto: cinco ideas sobre agentes de IA que me traje de Miami
- Sin pitch. Se va a aprender, no a vender. Y dos emprendedores me sorprendieron: IA que lee tu emoción y un anillo con NFC.
- La paradoja de la autonomía. La tecnología va tan rápido que se olvidan las casillas; para cuando tú decides, el agente ya decidió.
- El paso 4. Un agente puede planear y delegar, pero no ejecuta sin aprobación humana. Ese es el salvavidas.
- Modo tigre bebé. Hoy es lindo; cuando crezca puede ser peligroso. Tres preguntas: a quién lastima si falla, qué datos come y quién lo apaga.
- ADN de diseño. Si le pides a la IA una app o una página sin decirle quién eres, te entrega lo genérico.
1. Una comunidad sin pitch y dos emprendedores que me sorprendieron
Qué se dijo
Noelle Russell, anfitriona y organizadora del capítulo de Miami junto con Veronika Kolesnikova, abrió con una regla: aquí nadie vende. Su empresa, AI Leadership Institute, ofrece seis certificaciones de IA responsable. En Luma hay unas 73 personas registradas como asistentes, y el plan es verse el segundo martes de cada mes.
En la ronda de presentaciones, un emprendedor contó lo que llama “Emotional AI”: que, a partir de cómo interactúas con tus agentes, el sistema identifique la emoción que traes y responda a ella. No con un chat, sino, por ejemplo, con una melodía hecha para cambiarte el estado de ánimo.
Alguien del público le preguntó si tomaba en cuenta el tono y el volumen de la voz. Respondió que una universidad en Israel investiga eso, pero que él lo desarrolla por otra vía. Y de dónde nace su idea: la gente usa la IA como consejería personal; cuando tiene un problema, lo consulta ahí.
Una emprendedora dijo algo que ya había escuchado en Puebla: no solo hagamos software, también hardware. Su ejemplo es un anillo con NFC (el chip que deja compartir datos con un toque al teléfono) para dar tu contacto en un evento. La IA entra después, cuando te preguntas qué hacer con ese contacto.
Qué significa para tu negocio
Cuando nadie vende, escuchas lo que la gente piensa de verdad. Y lo del anillo me puso a pensar: si yo lo tuviera, tendría una automatización que mande un correo o un WhatsApp de saludo: “hola, nos conocimos en el evento”. O configurado para una expo: “hola, nos conocimos en la expo”.
Úsalo así
- Busca en Luma o en Meetup comunidades de IA en tu ciudad, y lleva tus 30 segundos: quién eres y qué problema quieres resolver.
- Escribe qué debe pasar con un contacto nuevo: correo o WhatsApp de saludo, catálogo, sitio. Eso es lo primero que se automatiza.
2. La paradoja de la autonomía: para cuando decides, el agente ya decidió
Qué se dijo
Barbara Pender, que trabaja en IA responsable, planteó un escenario. Ya tienes agentes funcionando con un orquestador (el agente que reparte tareas a los demás). Tu socio pide meter algo más rápido. Hay una autorización a la que tú no tienes acceso, pero tu flujo de agentes sí sabe cómo conseguirla. ¿Procedes, pausas o dejas que el agente decida?
La sala dijo “pausa”. Ella respondió: “¿Y si te digo que para cuando tomaste la decisión, el agente ya la tomó por ti?” Eso es la paradoja de la autonomía: la tecnología se mueve tan rápido que es muy fácil olvidar marcar las casillas. La IA ya no solo responde; planea, delega y actúa.
Qué significa para tu negocio
A mí no me ha pasado que un agente haga algo que yo no quería. Lo más cercano fue de configuración: al optimizar un flujo cambió la forma en que leía la información y dejó de registrar un concepto que nos ayudaba a ver el diseño a detalle. Lo corregí y ya. Fue parte de principiante mía, no una decisión del agente.
Pero el evento fue justo de eso: cómo tener parámetros para que, en ciertas decisiones, el agente se detenga, escale la decisión y una persona la tome. Me la llevo para ponerla por escrito antes del siguiente agente.
Úsalo así
- Lista cada tarea que hoy hace un agente o una automatización en tu negocio. Junto a cada una escribe si toca dinero, accesos o clientes.
- Si toca alguna de las tres, escribe quién aprueba y cómo. La idea que me llevo: el agente propone, una persona aprueba.
3. El paso 4: aprobación humana antes de que el agente ejecute
Qué se dijo
El ejemplo de Barbara fue un flujo con un proveedor. El orquestador planea y delega los primeros pasos. En el paso 4 aparece un acceso no autorizado y ahí se detiene: “Se requerirá aprobación humana. Nadie puede simplemente decir ‘tienes acceso’. Solo ejecutas si la acción está aprobada. Ese es tu salvavidas.”
Si el paso 4 no existe, el flujo sigue solo, porque “estamos emocionados por ahorrarle millones a la empresa”. Un auditor de ciberseguridad con 35 años en tecnología lo resumió: “Tú estás a cargo. No le des más control que ese.”
Qué significa para tu negocio
El salvavidas es un punto del flujo donde el agente se detiene y espera un “adelante”, y cada acción queda registrada con quién la aprobó.
Úsalo así
- Tienda en línea: el agente redacta la respuesta a una reclamación y propone el reembolso; el reembolso lo libera una persona.
- Lleva un registro auditable: una bitácora con fecha, qué hizo el agente y quién lo aprobó.
4. Modo tigre bebé: hoy es lindo, cuando crezca puede ser peligroso
Qué se dijo
Noelle Russell, que lideró equipos en Amazon Alexa, contó su experiencia en ese lanzamiento: sacaron un producto sin saber el impacto que tendría. Hoy las empresas llegan con ella emocionadas por su robot o su sistema de agentes, como con un tigre bebé: es lindo, lo quieren subir a redes. Para mover la atención de lo lindo a lo peligroso creó una rúbrica de 40 preguntas que le hace a cada fundador, y una certificación de auditor de riesgos de IA que su empresa imparte.
Tres de esas preguntas se me quedaron. ¿Cuál es el radio de daño: si esto se descompone, a quién lastima y a cuántos? ¿Qué come el modelo: de dónde salen sus datos y si tenías derecho a usarlos? Y la tercera: ¿quién es dueño de esto y quién tiene autoridad para apagarlo?
Qué significa para tu negocio
Me gustó mucho la analogía: estás metiendo IA a tu negocio, pero es un tigre bebé. No me ha pasado algo riesgoso porque he sido muy cauteloso. Y el evento llegó justo a lo que me interesa ahora: no todo es implementación, y si es implementación, cómo hacerla segura. Ese es el tema que más me está jalando.
Úsalo así
- Restaurante o tienda: si un bot atiende clientes, ¿qué pasa si da mal un precio? Ese es tu radio de daño. Escríbelo.
- Apunta quién puede apagar cada agente y cómo.
5. ADN de diseño: antes de pedirle una app a la IA, dile quién eres
Qué se dijo
Jeffrey Clark, con carrera en producto y paso por IBM, cerró la noche con otro tema. Cuando construyes una app con IA sin más instrucciones, te da “lo que la IA cree que se ve bien”: pantallas de programador, no de diseñador.
Su método se llama “design DNA”, ADN de diseño: capturar tus gustos, tu cultura y tu experiencia (colores, cómo se desliza un menú, la app que te encantó) y meterlos en el prompt. Dijo que así armó un prototipo de app y su página de aterrizaje en menos de un día.
Qué significa para tu negocio
Esto le pega al dueño que le pide a la IA “hazme una página para mi negocio” y recibe algo igual a las otras mil. El problema no es la IA; es que no le dijiste quién eres.
Úsalo así
- Antes de pedir una página o una app, escribe media cuartilla: tres colores, tres apps que te gustan y por qué.
- Pega eso al inicio de cada prompt y guárdalo en un archivo. Es tu ADN de diseño y se reutiliza.
Lo que yo haría esta semana
No soy experto. Esto es lo que yo haría al volver a la fábrica.
1. Mapear mis procesos
Antes de construir el siguiente agente, dibujar el proceso completo y ver en dónde encaja.
2. Poner los parámetros por escrito
Para cada agente, dónde se detiene, cuándo escala la decisión y quién la toma. La regla tiene que existir antes de encender el siguiente.
3. Contestar las tres preguntas del tigre
Por cada agente: a quién lastima si falla, qué datos come y quién lo apaga. Lo que no sepa contestar es mi lista de pendientes.
Preguntas frecuentes
¿Esto aplica si en mi negocio solo usamos ChatGPT para redactar?
Todavía no tienes agentes; tienes un asistente. La paradoja de la autonomía empieza cuando el sistema ejecuta algo sin que tú lo veas: manda el correo, cobra, cambia el inventario. Ese es el momento de poner el paso 4.
¿Cuánto cuesta ponerle freno a un agente?
Lo que escuché no fue de herramientas sino de reglas: quién aprueba, qué queda registrado y quién apaga. Eso empieza con un documento y una hoja de cálculo; las herramientas se eligen después.
¿Por dónde empiezo si no tengo ningún agente?
Mapea tus procesos para ver en dónde puede encajar un agente. Luego elige una tarea interna y repetitiva, no de cara al cliente, y hazla como piloto: un agente, un proceso, un mes, con el paso 4 desde el primer día.
¿Hay comunidades así en México?
En Puebla está Talavera Valley, una comunidad que junta emprendedores a hacer aplicaciones; fui a su evento, también por Luma. La diferencia de ecosistema con Miami es abismal, pero hay un buen camino: esa comunidad y un hub de emprendimiento e innovación.
¿Tú ya tienes un agente que ejecuta algo sin que nadie lo apruebe? Cuéntame cuál y cómo lo frenas.
Si andas por Miami, el capítulo se vuelve a juntar el miércoles 11 de noviembre de 2026, de 18:00 a 20:00. Los detalles están en la página del capítulo de Miami de Global AI Community.
Para seguir la conversación, sígueme en Instagram, como @alfonsorao.ai, y en mi perfil de LinkedIn. El reel con los clips de esa noche sale esta semana, en dos partes, en Instagram y TikTok.