#自动微分引擎
共 12 篇相关文章
·8 分钟
C++从零手写CNN：项目该继续打磨还是转向新方向？
一位大一学生用C++17从零实现CNN达到94%准确率后，面临继续深挖还是转向新项目的抉择。本文提供基于边际学习收益的判断框架，帮助ML初学者做出最优学习路径决策。
阅读全文 →
·15 分钟
17岁少年用C++从零构建深度学习框架Forge，精确复现GPT-2
17岁开发者从零用C++构建深度学习框架Forge，自研张量引擎、自动微分、BPE分词器等核心组件，加载GPT-2权重后实现与HuggingFace逐token精确一致的输出，展示了对Transformer底层机制的深度理解。
阅读全文 →
·15 分钟
系统学习机器学习：从数学推导到代码实现的完整路径
探讨如何系统学习机器学习，涵盖数学基础、算法推导、理论到代码实现的完整学习路径，推荐Andrew Ng、CS229等优质课程资源，帮助你避免沦为调库工程师，建立对ML算法的深刻理解。
阅读全文 →
·17 分钟
5天从零手写反向传播：数学新手的深度学习实战记录
一位自称数学不好的开发者，用5天时间从导数概念开始，逐步理解数值梯度、链式法则，最终亲手实现反向传播引擎micrograd。本文详细拆解他的学习路径与代码实现，为深度学习入门者提供可复制的自学方案。
阅读全文 →
·12 分钟
用NumPy从零构建神经网络：完整实战指南
详解如何仅用Python和NumPy从零实现神经网络，涵盖前向传播、反向传播、梯度下降的完整代码实现路径，附学习资源推荐和分步实战路线图。
阅读全文 →
·13 分钟
picodl：用纯NumPy从零手写深度学习库的技术解析
深入解析picodl开源项目，一个用纯NumPy从零实现的轻量级深度学习库。涵盖前向传播、反向传播、梯度计算等核心实现原理，探讨其教育价值与技术改进方向。
阅读全文 →
·16 分钟
从零构建AI：503节课开源课程完整学习路径
AI Engineering from Scratch是一门包含503节课、20个阶段的开源AI课程，从线性代数到自主智能体，先手写实现再调库，支持Python/TypeScript/Rust/Julia四种语言，GitHub超4.6万星。
阅读全文 →
·5 分钟
14字节神经网络从零解决迷宫问题：极致压缩的AI实验
一个仅14字节的神经网络如何解决96.5%的未见迷宫？探索从零构建极致压缩模型的工程实践，理解模型规模与任务复杂度的关系，以及小模型在边缘计算场景中的潜力。
阅读全文 →
Dense：专为神经网络架构研究打造的开源ML工作台
·6 分钟
Dense：专为神经网络架构研究打造的开源ML工作台
Dense 是一款面向神经网络架构研究的开源 ML IDE，整合了 DeltaImportance 层与架构可视化工具，帮助研究者在设计阶段快速迭代、分析网络重要性，填补训练框架与可视化工具之间的生态空白。
阅读全文 →
·18 分钟
AI应用开发工程师核心能力拆解：从入门到工业级落地
会调API不等于AI工程师。本文拆解AI应用开发工程师的完整能力结构，涵盖Python基础、大模型微调、Agent开发、企业级实战项目四大模块，附四阶段学习路线，助你系统进阶。
阅读全文 →
·6 分钟
直接优化人脸相似度：角色LoRA训练提速实战指南
告别低效噪声预测，直接以人脸相似度为优化目标训练角色LoRA。结合DRaFT可微奖励微调方法，RTX 4090上10-12分钟完成训练，效果远超传统SFT。附开源代码与工程细节。
阅读全文 →
·5 分钟
Unsloth v0.1.47-beta发布：LLM微调提速2倍、显存降低70%
Unsloth发布v0.1.47-beta版本，这款拥有6.79万Star的开源大模型微调框架，可将Llama、Mistral、Qwen等主流模型微调速度提升2倍以上，显存占用降低约70%，让消费级GPU也能完成高效微调。
阅读全文 →