GPT-4
核心事实
时间轴 (近 90 天)
同一句印地语在GPT-4的分词器下需要21个token，而在GPT-4o（o200k_base）下只需要5个token。
GPT-4论文明确表示，出于竞争和安全考虑，不会分享任何构建细节。
聊天模型（如GPT-3.5、DeepSeek-V2）擅长快速生成自然语言和简单代码片段，响应速度快、成本低；推理模型（如GPT-4、DeepSeek-R1）具备更强的逻辑推理和多步规划能力，但响应较慢、成本较高。
开源大模型允许用户自由下载、修改和商用（需遵守相应许可证），与闭源模型如GPT-4不同。
盖茨的文章《The Age of AI Has Begun》与OpenAI发布GPT-4几乎同期。
论文报告称，RAPTOR 在 QuALITY 基准（长文档问答）上搭配 GPT-4 时，绝对准确率提升约 20 点，当时达到最先进水平。
邮件 AI 助手的核心能力通常基于大语言模型（LLM）构建，例如 GPT-4。
Alpha Codium 研究表明，采用‘计划—编写—跑测试—报错—修复—重复’的闭环方法，能将 GPT-4 在 CodeContests 基准上的通过率从 19% 提升至 44%。
GPT-4、Llama 3、Claude 等几乎所有前沿模型的训练集群都以 H100 为核心。
第一波 Agent 框架主要解决能力问题（思维链、工具使用、多步规划），因为能力在演示中表现出色，但困难的部分从来不是能力，而是可靠性、可观测性和可控性。
还有 40 条时间轴事件
全部知识事实 (20)
GPT-4采用混合专家（MoE）架构，估计总参数量达1.8万亿，每次推理实际激活参数约为总量的1/8
90%已验证GPT-4系列采用cl100k_base词表（约10万词元），GPT-4o系列升级至o200k_base（约20万词元）
90%已验证GPT-5.5是OpenAI于2025年中期发布的模型，相比GPT-4o在推理深度和上下文理解方面有显著提升
90%已验证GPT-4o 由 OpenAI 开发，凭借 Function Calling 能力在工具集成场景占优
90%已验证2023年以来，随着GPT-4、Claude等大语言模型推理能力的飞跃，Agent从学术概念迅速走向工程实践
90%已验证2024年发布的GPT-4o将图像生成能力直接整合进多模态大语言模型中
90%已验证LLM-as-Judge方法利用GPT-4等大语言模型作为裁判对Agent输出质量进行自动化评分
90%已验证GPT-4的训练成本据估计超过1亿美元
90%已验证2023年OpenAI关闭了独立的Codex API，将其能力整合进GPT-4
90%已验证大语言模型的预训练过程需要数千块高端GPU并行运算数月，耗资通常在数千万到数亿美元之间
90%已验证MOE架构将模型内部划分为多个专家子网络，每次推理时由门控网络动态选择少数专家参与计算，实际激活参数量远小于总参数量
90%已验证GPT-4、Claude、Gemini等代表性大语言模型参数量通常在千亿级别以上
90%已验证GPT-4的参数量估计超过1万亿
90%已验证早期GPT-3的上下文窗口仅有4K Token，而现代模型已扩展至128K甚至更长
90%已验证训练一次GPT-4级别的模型需要数万块A100/H100 GPU协同工作数月
90%已验证GPT-4、Claude、Gemini等大语言模型的核心工作原理是基于Transformer架构的下一个token预测
90%已验证GPT-4于2023年推出，参数规模估计超过万亿
90%已验证2024年多项学术研究显示，GPT-4等模型能够在受控环境中识别某些类型的软件漏洞，其效率接近初级安全研究员
85%已验证GPT-4 and Claude are large language models that can understand context, generate structured outputs, and execute multi-step reasoning
85%已验证混合专家模型（MoE）通过门控机制对每个输入token动态选择少数专家激活，从而在保持模型能力的同时降低单次计算开销
85%