¿Qué Agente de IA Estás Construyendo en 2026? Comparte tu Stack, Desafíos y Lecciones

Estoy jugando con un agente local para resumir artículos de investigación largos. Definitivamente me quedo con scripts puros de Python por ahora porque los frameworks dificultan la depuración cuando las cosas se desvían, jaja. Mantener la capa de memoria simple ha sido el mayor desafío hasta ahora.

He pasado el último año completamente enfocado en el lado de la infraestructura de esto, así que aquí hay un vistazo bajo el capó de lo que estamos construyendo.

¿Qué problema resuelve? Notamos que los marcos de razonamiento son increíbles en este momento, pero todos chocan con la misma pared en producción: los agentes carecen de contexto profundo. Si un agente necesita responder una consulta que abarca un hilo de Slack, un ticket de Jira y un contrato de SharePoint, el RAG estándar simplemente vierte fragmentos de texto no relacionados en el prompt y el agente alucina. Estamos construyendo una capa de contexto de código abierto llamada PipesHub para solucionar este cuello de botella de datos empresariales.

¿Qué modelos? Somos agnósticos en cuanto a modelos en el backend, pero generalmente vemos los mejores resultados de razonamiento usando Claude 3.5 Sonnet y GPT-4o para los bucles de orquestación reales.

¿Framework / SDK? Nuestra arquitectura se encuentra debajo de la capa de orquestación. Así que, ya sea que un desarrollador use LangGraph, CrewAI o el nuevo OpenAI Agents SDK, PipesHub actúa como el motor unificado de memoria y recuperación que alimenta el contexto adecuado a esos marcos.

¿MCP, RAG, Memoria? Usamos todos ellos, pero manejamos RAG de manera un poco diferente. Usamos una configuración de transmisión de eventos (Kafka) para ingerir datos empresariales de forma continua. En lugar de simplemente volcarlos en una base de datos vectorial, enrutamos los datos a una base de datos vectorial Y un grafo de conocimiento. Usamos MCP como el protocolo estándar para canalizar esa memoria unificada al agente. Esto permite que el agente elija dinámicamente cómo recuperar datos—usando el grafo para relaciones/linaje duros, y la base de datos vectorial para contexto amplio.

¿Mayor desafío? "Podredumbre del contexto" y fidelidad de permisos. Es increíblemente difícil asegurar que un agente solo recupere y actúe sobre datos que el usuario final específico realmente tiene permiso para ver a través de docenas de silos empresariales diferentes.

¿Mejor práctica para compartir? Deja de volcar ciegamente documentos fragmentados en tu prompt. Cambia a recuperación impulsada por el agente, donde el agente primero consulta un grafo para entender la relación entre entidades antes de intentar leer el texto sin procesar. Tus costos de tokens bajarán y tus alucinaciones prácticamente desaparecerán.

Construyendo un agente de análisis financiero para acciones A. Indexé tres años de informes financieros con comparación entre empresas por industria y región, además de análisis estructurado de notas financieras. El mayor dolor de cabeza hasta ahora es el análisis de notas, cada empresa las formatea de manera diferente, el mismo elemento contable se llama de formas distintas en los informes. Lograr que el modelo extraiga de manera consistente ha sido un fastidio. Curioso si la gente piensa que esta dirección vale la pena seguir.