HuaRenCa
Back to Forum
Community

Ahora construir agentes de IA es fácil. Gestionarlos y confiar en ellos es el verdadero problema.

mgchaotian
mgchaotian

2 months ago

Todo el mundo está construyendo agentes de IA ahora.

Agentes n8n. Agentes Cursor. Agentes Claude Code. Configuraciones MCP. Scripts LangChain. Asistentes personales. Automatizaciones para clientes.

Pero nadie tiene un lugar limpio para responder las preguntas básicas:

¿Qué agentes tengo? ¿Qué hacen? ¿A qué herramientas y datos pueden acceder? ¿Cuáles son peligrosos? ¿Cuáles están probados? ¿Cuáles están desperdiciando dinero? ¿Cuáles están listos para compartir, vender o implementar?

Esa es la brecha.

Ahora los agentes viven en flujos de trabajo de n8n, repositorios de GitHub, proyectos de Cursor, chats de Claude, documentos de Notion y capturas de pantalla aleatorias.

Es desordenado. Y a medida que los agentes se vuelven más poderosos, lo desordenado se vuelve riesgoso.

Así que estoy trabajando en un Centro de Control de Agentes.

Un panel donde cada agente de IA obtiene un Pasaporte de Agente:

propósito herramientas acceso a datos permisos riesgos lista de verificación de pruebas estimación de costos versión/estado documentos compartibles

Para constructores aficionados, es una visión general limpia de todos tus agentes.

Para creadores, es una capa de confianza para plantillas.

Para agencias, es un informe de entrega listo para el cliente.

Para equipos, es un inventario de qué agentes existen y qué se les permite hacer.

Construyes agentes en cualquier lugar. Los controlas en un solo lugar.

¿Usarías esto? ¿Y qué haría que esto fuera imprescindible para ti?

1
7

Comments (1)

Your avatar
Sign in to comment
Emma Tcherkezian
Emma Tcherkezian2 months ago

Estas cosas están tan jodidas. Aún más jodido es que me enteré de ellas en una sesión de capacitación en el trabajo donde describieron múltiples riesgos catastróficos y simplemente dijeron: "sí, hay un número significativo de riesgos catastróficos, pero lo aceptamos para que nuestros empleados que quieren tomar atajos sean más eficientes. También dependemos de estos empleados que toman atajos para mantener nuestros sistemas y (lo que administramos) seguros".

Llorarías si supieras lo que administramos.