瞬析并行(武汉)科技有限公司(以下简称“瞬析并行”),成立于2025年9月,公司位于武汉东湖新技术开发区中国武汉留学生创业园。
瞬析并行专注新一代智能数据基础设施的研发与实施,打造以瞬析 AI 超级存力引擎为核心的产品体系,基于并行存储系统 IOStor 和显存统一管理系统 MemoryMesh,通过超大规模集群的并行存储能力,结合 GPU 核心的并行 DMA、interrupt-free GPU缺页引擎,支撑超长上下文推理与多租户并发场景下的高效显存统一管理, 构建统一、多层次的 AI 内存与数据基础设施。
通过引入 DPU 协同 IOCR(IO Context Reservoir)构建 KV/上下文控制平面,利用 RDMA 高速互联实现 Pod 级共享 KV Cache 智能 预加载,显著减少缺页中断与推理停顿,将长上下文和多模态推理吞吐提升5-10倍。在此基础上,进一步引入面向语义向量处理的向量处理单元(VPU)与基于CXL.Memory 的近存计算单元 (MPU),将关键向量与张量计算前移至数据与内存侧,显著降低 GPU 在实时语义化数据处理过程中的数据搬运开销,全面提升整体系统算效。通过自研异构调度引擎,智能识别不同算 力密集任务,将 MoE 路由专家等特定算子动态调度至 CPU 执行,实现 GPU/CPU 双引擎全速运转,打造“存算协同”的统一 AI 数据基础设施。