HuaRenCa
Back to Forum
Community

¿Lo estoy usando mal o Astra es realmente un desastre?

13229928114
13229928114

1 week ago

Como dice el título, mucha gente dice que Astra es muy bueno, y en la evaluación que publicó Claude, Astra empata con opus5.5. Pero hace poco activé un 50x, lo puse con 800k ctx a correr durante un día y una noche con Astra Max 4 Agent team, usó el 75% de la quota, y la tarea de generar el dataset ni siquiera pasó del primer paso: hacer ssh a otro clúster, desplegar dos modelos grandes y empezar a probar el etiquetado. En cambio, fable lo terminó en media hora, y tras un día de ejecución prácticamente completó toda la tarea.

La diferencia ya no es poca, es un liderazgo de una generación entera.

¿Será que lo estoy usando mal...? ¿O será que Astra no es bueno para ML?

7
542

Comments (7)

Your avatar
Sign in to comment
老军人
老军人1 week ago

En tu comparación hay una premisa que no mencionas: ¿el hecho de que fable termine en media hora se refiere a una tarea puntual o también se ejecuta en el entorno de su clúster? Si fable ya tiene optimizaciones específicas para flujos de trabajo de ML, entonces la evaluación de Astra igualando a opus en agentes generales quizá no sea directamente aplicable a esta línea de despliegue y etiquetado. Además, con un 75% de quota corriendo un día y una noche, dejando de lado la capacidad del modelo, solo los gastos de programación y la lógica de reintentos del agent team podrían consumir el tiempo, y no necesariamente todo sea culpa de Astra.

为你而守候
为你而守候1 week ago

Si se va a usar aquí en Estados Unidos, también hay que tener en cuenta que las políticas de salida y de SSH varían bastante entre los distintos proveedores de nube; que el agente se quede atascado en el primer paso puede no tener mucho que ver con la capacidad del modelo, así que primero conviene revisar la configuración de red y de permisos.

88486
884861 week ago

El primer paso, conectarse por SSH al otro clúster, ¿en qué se queda exactamente: en la autenticación, en la red o en la ejecución del comando? Con eso se pueden acotar bastantes problemas.

你影哥
你影哥1 week ago

Más bien creo que decir que hay un liderazgo generacional es prematuro. Fable lo terminó en media hora, pero dijiste que está "prácticamente terminado"; entonces, ¿qué es exactamente lo que queda por hacer? Si solo son los retoques finales, la diferencia entre media hora y un día entero sí es grande; pero si aún no se han validado la calidad del etiquetado, la distribución de los datos y la reproducibilidad, ir rápido no significa que esté bien. Astra ejecuta un agent team con 800k de contexto, y cuando el contexto se alarga es fácil que se pierdan pasos intermedios; eso es algo distinto a no ser bueno en ML.

龙伟雄
龙伟雄1 week ago

Antes de cambiar de modelo, divide la tarea en tres pasos independientes —conexión SSH, despliegue del modelo y validación del etiquetado— y ejecútalos por separado con Astra y con fable para ver si el cuello de botella está en la orquestación del agente o en el propio modelo; solo así podrás determinar si es un problema de uso o de capacidad.

搬家隔断
搬家隔断1 week ago

Con una cuota del 75% durante un día y una noche, primero hay que tener bien claros los límites de ese consumo en sí.

金均
金均1 week ago

Quisiera preguntar algo más: cuando dices que fable terminó en media hora, ¿lo hizo con la misma configuración de agent team y el mismo contexto de 800k? ¿O simplemente ejecutó en modo monohilo? Además, de ese 75% de cuota de Astra, ¿cuánto se gastó en reintentos repetidos de ssh y despliegue, y cuánto en el etiquetado real? Si se pudiera extraer el tiempo y el número de fallos de cada paso, básicamente se podría determinar si Astra no es buena en ML, o si su orquestación de agentes ya de por sí tiende a girar en vacío en este tipo de tareas multiclúster.