Together AI、オープンウェイトモデルのファインチューニング機能を拡充し値下げも実施
概要
Together AIは、オープンウェイトモデル向けのファインチューニングサービス「Together Fine-Tuning」の機能を大幅に拡張したと発表した。新モデルの追加、ライブ実験追跡機能の導入、トレーニングとデータ処理における詳細な制御機能の追加、および一部モデルの値下げが実施される。
発表の内容
今回のアップデートでは、ワークフロー全体の効率化と柔軟性向上のため、複数の新機能や改善が導入された。
- 新モデルの追加: GLM-5.3、GLM-5.2、GLM-5.1、DeepSeek-V4-Flash-0731、DeepSeek-V4-Flash、Kimi K2.7-Code、Kimi K2.6、Qwen 3.8-27B、Qwen 3.6-35B-A3B、Qwen 3.6-27B、Qwen 3.5シリーズ、Gemma 4シリーズなど、多数のオープンウェイトモデルがサポート対象に追加された。
- 実験のライブ追跡: トレーニングおよび評価ステップごとにメトリクス（loss、勾配ノルム、学習率など）が記録され、Together API、CLI、UIダッシュボードを通じてリアルタイムで確認・比較できるようになった。
- Expert LoRAの導入: 混合エキスパート（MoE）モデルのエキスパート層にLoRAアダプターを直接適用できるようになり、アテンション層のみの適用と比較して新しい知識の獲得や保持性能が向上する。
- 早期停止機能（Early stopping）: 検証ロスがプラトーに達した際に自動的にトレーニングを停止し、最適なチェックポイントを保持した上で、未使用分のトレーニングステップを自動返金する仕組みが導入された。
- 価格改定: トレーニングコストの最適化に伴い、多くのサポートモデルで価格が引き下げられた。削減率は30%から、gpt-ossシリーズなどのモデルでは最大70%に達する。
- データ処理の透明性向上: トレーニング前にトークン化されたデータをプレビューして検証できる機能や、JSONLファイル単位でのサンプル重み付け、アップロード完了時の自動ファイル検証機能などが追加された。
ローカルLLMの利用者への影響
ローカル環境や独自タスクのためにオープンウェイトモデルを微調整して運用する技術者にとって、今回のアップデートは検証サイクルの効率化とコスト削減に直接寄与する。
- 最新モデルの容易な統合: 自分でアーキテクチャごとの複雑な設定を行うことなく、GLMやQwen、DeepSeek、Gemmaなどの最新オープンウェイトモデルを用いたファインチューニングをプラットフォーム上で実行できる。
- トレーニングコストの低減: 100万トークンあたりのLoRAアダプター学習価格が全体的に引き下げられており、例えばQwen/Qwen3.5-9BのSFTは0.48から0.34へ、openai/gpt-oss-120bのSFTは5.00から2.50へ下がるなど、実験にかかる金銭的ハードルが下がっている（価格の単位は出典元に準拠）。
- デバッグと実験管理の改善: 事前のデータ検証やトークン化のプレビュー、トレーニング中のメトリクス確認、早期停止による無駄なコストのカットにより、失敗に気づくまでの時間を短縮できる。