共 3 篇相关文章

月之暗面开源FlashKDA项目,为Kimi Delta Attention提供高性能CUDA内核实现。本文详解FlashKDA的技术原理、性能优势及其在长上下文场景下的训练加速与推理提速价值。

月之暗面Kimi-K3模型即将在HuggingFace发布,从模型架构、许可协议到社区反应,全面解读这一国产大模型开源事件的战略意义与行业影响。
行业洞察AMD Instinct MI355X通过SGLang+MoRI全栈优化,在DeepSeek-R1分离式推理中实现TCO比NVIDIA B200低5%,每GPU吞吐量高1.25倍。深度解析MoRI量化通信、KV Cache优化及推测解码等核心技术突破。