LLM開発– tag –

8XH100ノード1台で動作する軽量なLLM実装フレームワーク「nanochat」。トークン化から推論までの一連の機能をシンプルなコードベースで提供し、独自のChatGPTライクなAIチャットボットを効率的に構築できます。

Gram by Speakeasyは、APIベースでLLMを活用した高性能なMCPサーバーを構築できるオープンソースプラットフォームです。プロンプト管理やカスタムワークフローの作成機能を備え、本番環境での信頼性の高いLLM実装を支援します。

LLMアプリケーション開発の課題を解決するオープンソースプラットフォーム「TensorZero」。統一APIでの各種LLM連携、観測可能性の確保、プロンプト最適化など、産業用途に必要な機能を網羅的に提供します。