#大语言模型
共 296 篇相关文章

MemFold软记忆:固定256向量实现长上下文翻倍与4倍提速
MemFold提出固定256向量的软记忆机制,将长上下文压缩为少量潜向量,让模型可用历史翻倍、推理提速约4倍,同时在PersonaMem-128K等基准上保持最高准确率。本文解析其原理、性能与工程局限。

语言模型能学会何时拒答吗?策略学习与答案选择器实验
一项基于 Qwen3-14B 的研究探讨语言模型如何学会何时拒答。实验显示训练独立答案选择器在 TriviaQA 上将覆盖率从20.2%提升至30.9%、错误率从23.0%降至14.5%,但跨数据集可靠拒答仍是难题。

同一查询不同答案:语义查询引擎的运行间方差难题
一项基于120万次模型调用的研究揭示语义查询引擎的运行间方差:即便temperature 0也无法保证确定性,查询计划会指数级放大误差,21%的基准测试结果在重跑后质量发生变化,大量性能排名结论站不住脚。

Agentic LLM:会行动的大语言模型将如何改变世界
Agentic LLM 将大语言模型的推理能力与现实世界的行动能力结合,让 AI 从「会回答」进化到「会行动」。本文解析智能体大语言模型的工作原理、多智能体交互方式及其对用户的影响。

SqueezeBench:抗饱和的AI数学能力评测基准
SqueezeBench 是一种抗饱和的AI数学能力评测基准,通过维护整数函数的上下界记录、双 Lean 内核验证证明,让每次成功都抬高门槛。实验显示前沿模型可持续改进边界,但多数问题仍落后于人类最佳成果。

LLMxRay:开源LLM可观测性工具,让大模型调用不再是黑盒
LLMxRay 是一款面向大语言模型的开源可观测性工具,帮助开发者追踪LLM调用链路、监控token成本与延迟。本文解析其定位、功能方向及在LLM生态中的实际价值。

非文本AI模型Jev引爆市场:开发商估值75亿美元
非文本AI模型Jev发布数周后,开发商TypeSafe估值飙升至75亿美元。凭借显著更快的速度和远低于LLM的Token消耗,Jev正吸引用户与大型企业关注,或将重塑AI部署的成本结构。

ADI架构新思路:8B模型能否达到35B的验收标准?
Cortex Agentics发布人工确定性智能(ADI)首篇论文,提出将概率推理与确定性权威分离的新架构。实验显示受限上下文下8B小模型追平35B大模型的验收成绩,引发对模型规模与架构责任分配的工程思考。

10-16GB显卡本地LLM实测排名:哪款模型最值得跑?
一份针对10-16GB显卡的本地大语言模型实测排名,涵盖Gemma 4、Qwen 3.6、GLM-4.7等十余款模型,从速度、连贯性、套路率等维度评测,并总结各厂商模型性格差异与运行配置建议。

Dấu or Die基准测试:LLM能还原越南语声调符号吗?
越南语开发者构建Dấu or Die基准测试,考验LLM还原越南语声调符号的能力。Gemini 3.7 Flash以37/37满分夺冠,480B参数的Qwen Coder垫底,揭示世代、专精与成本的权衡。

谷歌Gemini 4 Argon发布:百万token输出改写旗舰AI格局
谷歌发布Gemini 4 Argon,首次将单次输出提升至百万token,对标GPT-6 Astra与Claude。本文解析其基准成绩、定价策略、token消耗代价及面向网络安全防御者优先开放的分阶段策略。

REMORY:32个残差Token如何压缩8K对话上下文
REMORY 论文提出用 32 个残差记忆 Token 以 95% 保真度复原 8K 对话上下文。本文解析其编码器-解码器架构、KL 散度训练机制、基准测试表现与成本优势,以及 Token 漂移、安全性等现实风险。

元能力:让代码替大模型思考——CodeSmith的RLM设计解析
CodeSmith 的 RLM 设计揭示:大模型为何算不好数学,以及"让代码替模型思考"背后的工程逻辑。LLM 当翻译官、解释器当计算器,并通过合约、超时与深度限制为元能力套上枷锁。

LLM真的"理解"语言吗?从注意力机制看模式识别之争
LLM预测下一个token时是真正理解语言,还是高级模式识别?本文从Transformer注意力机制出发,剖析"随机鹦鹉"与"涌现理解"两派观点,探讨AI理解力的边界与定义难题。

RAG检索增强生成完全指南:构建生产级系统的核心步骤
RAG检索增强生成完全指南,解析向量检索与LLM结合的核心架构。涵盖数据摄取、嵌入索引等构建生产级RAG系统的关键步骤与常见误区。

人人都在骂AI,为何又离不开它?解析矛盾心理
人们一边批评AI、一边疯狂使用它,这种矛盾心理从何而来?本文从一家"自我厌恶"的AI创业公司谈起,解析公众对人工智能爱恨交织的深层原因,以及输出多样性如何成为破局关键。

OrcaCyber Zero 1.5发布:百万上下文的网络安全专用模型
OrcaRouter发布OrcaCyber Zero 1.5网络安全专用模型,具备100万token上下文窗口,Cybench满分、CVE-Bench子集95.8%,定价每百万token 3/7.5美元。本文解读其技术规格与行业意义。

高通CEO放话:2028年手机或将常驻千亿参数AI大模型
高通CEO透露AI公司希望2028年手机能常驻运行千亿参数大模型。本文解析端侧大模型的内存需求、量化方案、散热功耗与供应链瓶颈,并探讨其技术可行性与商业动机。

