Skip to content

EDDI v6开发者预览版现已发布! 阅读文章

立即开始

企业级性能

Java 25虚拟线程运行在Quarkus上——数百万轻量级线程处理IO密集型LLM工作负载,亚秒级启动时间。

企业级性能

为规模而建

EDDI运行在Java 25和Quarkus上,利用虚拟线程(Project Loom)实现IO密集型操作的大规模并发。与Node.js事件循环不同,虚拟线程以最小开销提供真正的多线程并行。

为什么虚拟线程对AI代理很重要

现代AI代理从根本上说受限于I/O

Java虚拟线程优雅地解决了这个问题。

性能亮点

上下文中的性能

没有任何运行时能在所有场景中胜出。Java在涉及CPU密集型任务的场景中持续超越Node.js 30-68% — 这正是AI代理所需要的。

EDDI的架构专为混合I/O + CPU工作负载而优化:带有虚拟线程的Quarkus,结合Loom友好的连接池(Agroal)。