共 1 篇相关文章
MELTing Point论文首次以真实用户场景评测手机端大语言模型性能,覆盖iPhone、三星、Pixel等设备,测试TinyLlama、Mistral-7B等模型,揭示GPU推理优势、47度高温警告与prefill-decode分离方案,为边缘侧AI落地提供方法论参考。