Für Skalierung gebaut
EDDI läuft auf Java 25 mit Quarkus und nutzt Virtual Threads (Project Loom) für massive I/O-gebundene Nebenläufigkeit. Anders als Node.js Event-Loops bieten Virtual Threads echte Multi-Thread-Parallelität mit minimalem Overhead.
Warum virtuelle Threads für KI-Agenten wichtig sind
Moderne KI-Agenten sind grundlegend I/O-gebunden.
Java Virtual Threads lösen dies elegant.
Performance-Highlights
- Virtual Threads — Millionen leichtgewichtiger Threads für gleichzeitige LLM-Aufrufe
- Quarkus-Runtime — Cloud-nativ, Dev-Mode Hot-Reload, optimiert für Container
- NATS JetStream — Horizontale Skalierung mit eventgesteuerter Architektur
- Dual Database — MongoDB oder PostgreSQL, Umschaltung mit einer Umgebungsvariable. Ein Docker-Image für beide
- SSE-Streaming — Echtzeit-Chat-Antworten, Gruppendiskussions-Feeds und Live-Log-Streaming über Server-Sent Events
- Ein-Befehl-Installation — Interaktiver Assistent stellt EDDI + Datenbank + Starter-Agent über Docker Compose bereit
- Red Hat Zertifiziert — Container-Zertifizierung mit automatisierten Preflight-Checks in CI/CD
Leistung im Kontext
Keine Laufzeitumgebung gewinnt in jedem Szenario. Java übertrifft Node.js konsistent um 30–68%.
EDDIs Architektur ist für gemischte I/O- und CPU-Workloads optimiert.