タイトルの通りです。多くの人がAstraは使いやすいと言っていて、Claudeが出した評価ではAstraはopus5.5と互角だそうです。しかし最近50xを契約して、800k ctxでAstra Max 4 Agent teamを一昼夜動かしたらquotaの75%を使い、データセット作成の作業は最初のステップである別クラスタへのssh接続、2つの大規模モデルのデプロイとテスト用ラベリングの開始すら完了できませんでした。一方fableに切り替えたら30分で終わり、一日動かしてタスクはほぼ全部完了しました。
この差はもう少しどころではなく、世代を超えたリードと言えるレベルです。
まさか私の使い方が悪いのでしょうか。。。それともAstraはMLが苦手なのでしょうか
この比較には前提が一つ抜けています。fableが30分で終えたのは単発タスクなのか、それとも同じく御社のクラスタ環境で実行したのか。もしfableが元々MLワークフローに特化した最適化を持っているなら、Astraが汎用エージェントでopusと互角だった評価は、こうしたデプロイとラベリングのパイプラインにそのまま当てはまるとは限りません。また、75% quotaで一昼夜走らせた場合、モデル能力はさておき、エージェントチームのスケジューリングオーバーヘッドやリトライロジックだけで時間を食われている可能性があり、必ずしも全部Astraのせいとは言えないでしょう。