UkisAI
专注于开源大模型研究与优化的小型AI实验室，致力于提升小型LLM的推理效率
时间轴 (近 90 天)
Swift系列模型由UkisAI团队基于强化学习训练，对推理模型的思考链长度施加惩罚信号以缩短内部推理步骤
Swift Qwen3.8 27B 下载量已突破 10 万次
Swift Qwen3.8 27B 是 UkisAI 的首个开源模型
UkisAI 采用的方法不直接训练模型缩短思考，而是训练它更高效地思考，以解决小型 LLM 的过度思考问题
UkisAI 正在推进 Swift1.5 Qwen3.8 27B，修复训练中的 bug 并加入更多强化学习训练
Swift Qwen3.8 Flash Next 预计在未来一周内发布
团队通过强化学习（GSPO）、On-Policy Distillation 及 ThinkingCap 3.6 27B 适配器分块将准确率损失恢复到 1% 以内，并将 On-Policy Distillation 视为关键
UkisAI 在 Reddit 上开源了 Swift-Qwen3.8-27B 模型
团队正在开发 Swift 3.8 Flash Next，目前已实现 -30% 思考 token 且维持 xhigh 准确率
团队在 Nvidia GPU 支持下开放了 OpenAI 兼容的免费研究用途 API，限速 5 RPM
还有 5 条时间轴事件
全部知识事实 (12)
Swift系列模型由UkisAI团队基于强化学习训练，对推理模型的思考链长度施加惩罚信号以缩短内部推理步骤
50%待验证UkisAI 采用的方法不直接训练模型缩短思考，而是训练它更高效地思考，以解决小型 LLM 的过度思考问题
50%待验证Swift Qwen3.8 27B 是 UkisAI 的首个开源模型
50%待验证UkisAI 的方法论借鉴了 Meta 的一篇论文，并使用 8×H100 集群在编码、语言、视觉、智能体等分布外领域生成推理轨迹
50%待验证团队构建了推理时惩罚器（inference-time penalizer），其表现优于论文中给出的原始 token 集合，且对低精度和 BF16 模型均有效
50%待验证团队使用识别出的 token 构建损失函数运行 LoRA SFT，成功缩减推理长度但导致准确率下滑
50%待验证团队通过强化学习（GSPO）、On-Policy Distillation 及 ThinkingCap 3.6 27B 适配器分块将准确率损失恢复到 1% 以内，并将 On-Policy Distillation 视为关键
50%待验证UkisAI 团队认为推理长度本身很重要，不应被强行缩短而应被优化，其方法是对现有 reasoning effort 机制的补充而非替代
50%待验证过度思考错误（overthinking errors）在 BF16 全精度的同尺寸模型中也普遍存在，而非仅是低精度量化（PTQ）的副作用
50%待验证UkisAI 正在推进 Swift1.5 Qwen3.8 27B，修复训练中的 bug 并加入更多强化学习训练
50%待验证团队正在开发 Swift 3.8 Flash Next，目前已实现 -30% 思考 token 且维持 xhigh 准确率
50%待验证UkisAI 在 Reddit 上开源了 Swift-Qwen3.8-27B 模型
50%