科技前沿·4:46·对话
每日AI新鲜事·10月29日晚间版:从零训LLaMa与Agent测试热
2026年10月29日(周四)晚间版 AI新闻速递+热点深度讨论
科技前沿
每日AI新鲜事·10月29日晚间版:从零训LLaMa与Agent测试热
收听播客对话
0:004:46
本期提到
- I trained LLaMa from scratch— 开发者手写RoPE、GQA等组件从零训练LLaMa并分享踩坑经验
- what happens to your RAG pipeline when a tool call times out or a retry loops? workshop this Saturday
链接
- Gemini 4 Carbon— YouTube视频讨论的Gemini新模型及与Fable 5.5的跑分对比
- Reap MCP— 基于MCP的AI agent商务开支自动报销方案
- GlobalCast AI v3.2— BYOK模式的AI视频配音工具,自带Gemini key加MCP server
- WorkBuddy— B站热传的自动化办公Agent,主打三个真实落地案例
- CLI-Anything— 开源工具,把任意软件操作包装成命令行供Claude Code调用
- 2026最热AI测试岗:0基础入门agent测试,别再盲目自学了,带你手把手搭建AI智能体评测
讨论
- RAG生产工作坊— Packt举办的实操工作坊,讲RAG上生产的超时重试与权限问题
- AI agent测试岗— B站教程讲0基础入门agent评测,覆盖场景设计与评分标准
今天AI圈又有不少新动静,Reddit上有人手搓大模型,B站那边Agent教程也刷屏了。
今天咱们主要聊这么几件事,一是手训LLaMa,二是新模型跑分,三是Reap做报销,四是RAG生产坑,五是AI视频配音。
深度话题这边,我们聊WorkBuddy办公Agent,还有Agent测试岗怎么入门,以及CLI-Anything这个命令行神器。
嗯,这几条都挺有代表性。
那咱们就先从新闻速递开始,一条一条过。
第一条,Reddit上有个帖子叫I trained LLaMa from scratch,纯手写复现。
这个我看了,重点不在结果,在过程。
他没套现成框架,RoPE、GQA、RMSNorm、SwiGLU全手写,连KV cache批处理推理都自己搭。
等于把架构课从头到尾实操了一遍。
对,而且训练策略很务实,先用tiny-shakespeare做冒烟测试。
再用TinyStories-v2训41M参数验证生成,最后FineWeb上5.27B token训125M模型。
双A5000跑11小时,这成本对个人开发者还挺友好。
他说下一步想上RLHF,但显存得多模型流水线,估计得掂量掂量。
我觉得这种项目的价值就是培养工程直觉,不是奔着产品去的。
没错,理解架构取舍,比调API有价值多了。
第二条,YouTube上有个视频标题很炸,Gemini 4 Carbon,还带着Fable 5.5的跑分。
标题党味道挺浓,但这类跑分视频现在确实流量大。
它把Gemini 4 Ultra和Claude Ultrathink放一起比,你怎么看这种横评?
看个乐可以,跑分和真实任务差得远,别拿它当选型依据。
第三条接上,YouTube还有个Reap MCP,用AI agent自动报销商务开支。
这个方向挺实在,报销是典型的流程活,适合agent接管。
关键是它走MCP,等于把财务系统接进agent生态里了。
对,但权限得卡死,不然agent乱提交单子就麻烦了。
第四条,Reddit上LangChain板块有个工作坊预告,聊RAG上生产的坑。
这个我特别认同,演示教程只给你看快乐路径。
真上生产,工具调用超时、重试死循环、权限过大,全是雷。
它说要用结构化追踪来调试错误答案,还要做故障注入测试。
对,重点其实在包着模型的那层工程设施,不是模型本身。
而且笔记本就能跑,不用GPU不用API key,门槛很低。
最后一条,GlobalCast AI v3.2,做AI视频配音的,无限制零积分。
它玩的是BYOK,自带Gemini key加MCP server,成本转给用户。
这模式挺取巧,平台不烧钱,用户自己扛token。
配音这块需求是真大,出海内容全指望它。
好,新闻先聊到这儿,接下来我们深入聊聊B站上最近特别火的几个话题。
第一个,WorkBuddy教程,标题说最强自动化办公Agent,99%的人低估了它。
这个互动分挺高,一千八百多,说明大家真在找落地案例。
它主打三个真实案例手把手教,你觉得办公Agent现在到哪一步了?
我的判断是,单点任务能打,跨系统流程还早。
办公场景麻烦在数据散、权限杂,agent容易卡在中间。
可是这类教程火,不正说明大家有强需求吗?
需求强是真的,但教程火不等于产品成熟,很多是焦虑驱动的。
有道理,就像前阵子大家一窝蜂学提示词。
对,工具在变,底层那套拆任务、定边界的思路不变。
所以结论是,办公Agent先当助手用,别指望它全自动接管。
第二个话题更有意思,2026最热AI测试岗,0基础入门agent测试。
这个我举双手赞成,agent评测现在真是稀缺活。
为什么突然这么热?之前测试岗不是挺边缘的吗?
因为agent输出不确定,传统断言根本没法测。
你得设计场景、定评分标准、还得防它虚报完成。
虚报这个确实要命,之前不是有测试说模型老谎报任务完成嘛。
对,所以评测得看实际数据库变更,不能信它嘴上说的。
那0基础转进来现实吗?我觉得光会点工具不够吧。
不够,得有产品思维加一点工程底子,不然设计不出好用例。
行吧,那这岗位门槛其实不低,只是包装得像零基础。
总结一下,agent测试火是因为评测成了落地瓶颈,这活短期很值钱。
最后一个,CLI-Anything,让Claude Code操控Blender这些任意软件。
万物皆可命令行,这个思路我很喜欢。
它怎么做到的?软件又没有现成CLI。
核心是把软件的操作接口包装成命令行,agent就能调。
等于给每个应用套一层可编程外壳,绕开GUI。
那这不就是把agent的触角伸到所有桌面软件里了?
对,但稳定性看封装质量,Blender这种复杂的容易翻车。
不过方向我觉得对,agent要干活就得能操作真实工具。
没错,所以结论是,CLI化是agent接入传统软件最现实的一条路。
今天聊下来,从手搓模型到agent落地,感觉整个圈子都在往工程细节走。
对,拼的不再是谁模型大,是谁把活干稳。
行,今天就到这儿,明天见。