スケール向けに構築
EDDIはJava 25とQuarkusで稼働し、仮想スレッド(Project Loom)を活用した大規模I/O並行性を実現。Node.jsのイベントループとは異なり、仮想スレッドは最小限のオーバーヘッドで真のマルチスレッド並列性を提供。
パフォーマンスハイライト
- 仮想スレッド — 並行LLM呼び出しのための数百万の軽量スレッド
- Quarkusランタイム — クラウドネイティブ、開発モードホットリロード、コンテナ最適化
- NATS JetStream — イベント駆動アーキテクチャによる水平スケーリング
- デュアルデータベース — MongoDBまたはPostgreSQL、環境変数一つで切り替え。両方対応の単一Dockerイメージ
- SSEストリーミング — Server-Sent Eventsによるリアルタイムチャット応答、グループディスカッションフィード、ライブログストリーミング
- ワンコマンドインストール — Docker ComposeでEDDI + データベース + スターターエージェントをデプロイするインタラクティブウィザード
- Red Hat認定 — CI/CDでの自動プリフライトチェックによるコンテナ認定