Conçu pour la montée en charge
EDDI fonctionne sur Java 25 avec Quarkus, exploitant les threads virtuels (Project Loom) pour une concurrence massive liée aux E/S. Contrairement aux boucles d'événements de Node.js, les threads virtuels offrent un véritable parallélisme multi-thread avec un overhead minimal.
Points forts en performance
- Threads virtuels — Des millions de threads légers pour les appels LLM concurrents
- Runtime Quarkus — Cloud-native, rechargement à chaud en mode développement, optimisé pour les conteneurs
- NATS JetStream — Scalabilité horizontale avec une architecture événementielle
- Double base de données — MongoDB ou PostgreSQL, changement avec une variable d'environnement. Une image Docker pour les deux
- Streaming SSE — Réponses de chat en temps réel, flux de discussions de groupe et streaming de logs en direct via Server-Sent Events
- Installation en une commande — Assistant interactif qui déploie EDDI + base de données + agent de démarrage via Docker Compose
- Certifié Red Hat — Certification de conteneurs avec vérifications preflight automatisées en CI/CD