待验证50% 置信事实精确时间
GC-MoE是一个面向NVIDIA Hopper和Blackwell GPU的开源FP8/FP4 MoE推理算子，它借助CUDA Green Contexts把设备划分成两个分区：一个小的通信分区，一个大的计算分区。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/4
首次发现
有效期至：2027/2/2
来源
涉及实体
相关事实
待验证GGML 是 ggml/llama.cpp 生态的底层张量计算库，以 C/C++ 实现，跨平台，支持 CPU 与多种 GPU 加速（CUDA、Metal、Vulkan 等），是 Ollama 在多数平台上运行模型的默认路径。68% 相似已验证GGUF是llama.cpp生态广泛使用的格式，支持2bit至8bit灵活量化粒度，对CPU推理友好66% 相似待验证GPU显存中的KV Cache占用与输入Token数量线性相关64% 相似已验证GGUF专门为CPU和混合CPU/GPU推理场景优化，支持内存映射（mmap）加载，可通过部分offload到系统内存运行超出显存容量的模型63% 相似已验证模型权重通常以GGUF格式分发，这是由llama.cpp项目定义的一种专为CPU/GPU混合推理优化的模型文件格式63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1133723API
curl https://kongchang.com/api/v1/knowledge/claims/1133723MCP
get_claim(id=1133723)