Skip to content

研究成果 ​

共 13 个成果

HTML

Istio 深度学习:技术架构、实现原理与生产实践分析报告

Cloud Native

Istio 服务网格深度技术调研报告,涵盖底层实现原理(Sidecar 注入、Envoy xDS、mTLS、流量拦截)、使用方法(流量管理、安全策略、可观测性)、Ambient Mesh 新架构与生态对比。

IstioService MeshEnvoyKubernetes服务网格SidecarAmbient MeshmTLSxDS流量管理云原生
HTML

LMCache 项目深度研究报告

深度研究

LLM 推理缓存加速框架深度分析 — L1/L2 分层架构、缓存策略、分布式机制、性能优化、TTLLock、多推理引擎支持

LMCacheKV CacheLLM推理vLLM缓存加速分布式存储CUDAGPU
HTML

vLLM & AI 推理核心概念全景解析

Guide

从 GPU 架构到生产部署,从 Prefill/Decode 到 AI Agent,系统梳理 160+ 个 AI/LLM 推理领域核心概念,共 8 个模块。

vLLM推理引擎分布式AI AgentGPU 架构
HTML

llm-d 开源组织深度研究报告

Research

Kubernetes 分布式 LLM 推理服务编排平台,17 个仓库协同工作,P/D 分解、KV 缓存感知调度等核心能力解析。

Kubernetes推理编排分布式
HTML

Kcover 技术调研报告

Report

Kcover 项目技术架构分析、核心组件解读与实践指南。

技术架构组件分析
HTML

分布式通信原语与 vLLM 并行策略

Guide

深入理解 AllReduce、AllToAll、Broadcast 等 6 大分布式通信原语,以及 Tensor Parallelism、Data Parallelism、Pipeline Parallelism、Expert Parallelism 的通信量与选型策略。

分布式通信原语vLLM并行策略AllReduce
HTML

云原生可观测项目深度研究

Research

覆盖 12 个核心开源项目(ELK、Grafana、Prometheus、Fluent Bit、OpenTelemetry 等)的深度对比分析,含 ES Query DSL、PromQL、LogQL 完整语法入门。

可观测性ELKPrometheusOpenTelemetryGrafana
HTML

DeepSeek V4 深度调研报告

Research

全面解析 DeepSeek V4 的技术创新、MoE 架构、MLA 注意力机制、产品矩阵与性价比优势。

MoE 架构模型评测成本分析
HTML

Kustomize 详解

Guide

Kubernetes 原生声明式配置管理工具,Base + Overlay 架构、Patches 技术、与 Helm 深度对比,以及多环境部署实战指南。

KubernetesKustomize配置管理Helm
HTML

Mooncake 深度研究报告

深度研究

Moonshot AI 的 KVCache-centric 分离式推理架构 — Transfer Engine、分布式存储、全局调度、14+ 传输协议、FAST 2025 Best Paper

MooncakeKVCachePD分离RDMATransfer EnginevLLMSGLang分布式推理
HTML

vLLM 运行参数完全指南

Guide

单节点推理参数、多机分布式策略、LMCache 集成、推测解码、Prometheus 指标监控,以及十一种典型场景配置推荐。

vLLM推理参数分布式LMCache
HTML

vLLM Semantic Router 深度研究报告

Research

系统级智能路由器,信号驱动决策引擎,10+ 种模型选择算法,面向云、数据中心和边缘环境。

LLM 路由信号驱动架构分析
HTML

vLLM-Omni 深度研究:使用方法完全指南

Research

解耦多模态推理框架全解析 —— 安装配置、核心 API、CLI 命令、OpenAI 兼容 API、扩散模型、多阶段 LLM 部署与调优。

多模态vLLM扩散模型Qwen-Omni分布式