BitRun
零编译的单文件1-bit LLM推理运行器，静态链接内置NEON DotProd和AVX2原生SIMD内核，无需构建依赖即可在纯CPU上运行三值量化模型
时间轴 (近 90 天)
BitRun 由作者 IshekKhal 发布，其初始 alpha 收到了数千名开发者的反馈。
BitRun 可将后台运行日志自动写入 ~/.bitrun/engine.log。
BitRun v0.2 可以完全在 CPU 内存中运行 PrismML 的 80 亿参数模型 bonsai-8b，占用约 2.08 GB 内存，不需要独立 GPU、云端 API 或编译。
BitRun 为运行 8B 模型从底层重建了推理运行时，包括与旧子模块解耦、修复 8B 张量偏移崩溃、修复矩阵内存边界与步幅安全问题、以及架构专属 SIMD 加速。
BitRun 在 Apple Silicon 上集成 ARM NEON 点积内核与平方 ReLU 激活，同时为 Windows 和 Linux PC 提供 AVX2 回退方案。
x86 平台上 8B 模型仍走 arch-fallback.h 的通用可移植循环，这是 x86 大模型性能骤降的根本原因。
BitRun可启动OpenAI兼容的REST接口，命令为bitrun serve falcon3-1b --port 11435。
BitRun是一个静态链接的独立运行器，内置原生SIMD内核（Mac上的NEON DotProd、Windows/Linux上的AVX2），无需任何构建依赖。
BitRun的GitHub仓库为IshekKhal/bitrun，发布二进制见v0.1.0-alpha标签；相关上游PR #642与#644位于microsoft/BitNet。
在Apple Silicon M4 Pro（12核，ARM NEON）上，Falcon3 1B Instruct达到137.5 t/s提示处理和98.6 t/s生成速度，内存占用1.9 GB。
还有 4 条时间轴事件
全部知识事实 (10)
x86 平台上 8B 模型仍走 arch-fallback.h 的通用可移植循环，这是 x86 大模型性能骤降的根本原因。
50%待验证BitRun 可将后台运行日志自动写入 ~/.bitrun/engine.log。
50%待验证BitRun v0.2 可以完全在 CPU 内存中运行 PrismML 的 80 亿参数模型 bonsai-8b，占用约 2.08 GB 内存，不需要独立 GPU、云端 API 或编译。
50%待验证BitRun 为运行 8B 模型从底层重建了推理运行时，包括与旧子模块解耦、修复 8B 张量偏移崩溃、修复矩阵内存边界与步幅安全问题、以及架构专属 SIMD 加速。
50%待验证BitRun 在 Apple Silicon 上集成 ARM NEON 点积内核与平方 ReLU 激活，同时为 Windows 和 Linux PC 提供 AVX2 回退方案。
50%待验证BitRun 由作者 IshekKhal 发布，其初始 alpha 收到了数千名开发者的反馈。
50%待验证BitRun可通过一行curl命令安装，支持macOS与Linux；Windows PowerShell也有一行安装命令。安装后可用bitrun pull falcon3-1b拉取模型并用bitrun run falcon3-1b运行。
50%待验证BitRun可启动OpenAI兼容的REST接口，命令为bitrun serve falcon3-1b --port 11435。
50%待验证BitRun的GitHub仓库为IshekKhal/bitrun，发布二进制见v0.1.0-alpha标签；相关上游PR #642与#644位于microsoft/BitNet。
50%待验证BitRun是一个静态链接的独立运行器，内置原生SIMD内核（Mac上的NEON DotProd、Windows/Linux上的AVX2），无需任何构建依赖。
50%