为规模而建
EDDI运行在Java 25和Quarkus上,利用虚拟线程(Project Loom)实现IO密集型操作的大规模并发。与Node.js事件循环不同,虚拟线程以最小开销提供真正的多线程并行。
为什么虚拟线程对AI代理很重要
现代AI代理从根本上说受限于I/O。
Java虚拟线程优雅地解决了这个问题。
性能亮点
- 虚拟线程 — 数百万轻量级线程用于并发LLM调用
- Quarkus运行时 — 云原生,开发模式热加载,容器优化
- NATS JetStream — 事件驱动架构的水平扩展
- 双数据库 — MongoDB或PostgreSQL,通过一个环境变量切换。单一Docker镜像同时支持两者
- SSE流式传输 — 通过Server-Sent Events实现实时聊天响应、群组讨论反馈和活跟日志流
- 一键安装 — 通过Docker Compose交互式向导部署EDDI + 数据库 + 初始代理
- Red Hat认证 — 在CI/CD中自动预检查的容器认证
上下文中的性能
没有任何运行时能在所有场景中胜出。Java在涉及CPU密集型任务的场景中持续超越Node.js 30-68% — 这正是AI代理所需要的。
EDDI的架构专为混合I/O + CPU工作负载而优化:带有虚拟线程的Quarkus,结合Loom友好的连接池(Agroal)。