Transformers– tag –

Olmo Hybridは、TransformerとLinear RNNを3:1の比率で組み合わせた7Bパラメータの完全オープンソース言語モデル。Gated DeltaNetアーキテクチャにより、従来のOlmo 3と同等のMMLU精度を維持しながら、49%のトークン削減を実現した革新的なAIモデルです。

Transformers v5は、AI開発の標準ライブラリが5年ぶりに大規模刷新された最新版。モジュラー設計による柔軟性、ファーストクラス量子化、OpenAI互換API、そしてPyTorch最適化により、現代のAIスタックと完全に連携します。