MLP

论文通过控制实验（同一MLP架构、相同超参数搜索空间和训练轮数，仅输入表示不同）证明，Assur导出的特征在样本效率上具有几何平均1.8倍的优势，覆盖50到10000个机构的训练预算。

KS3在LLM任务上与MLP表现持平，这一观察来自单一来源，尚需更多独立复现。

MLP由全连接层堆叠而成，理论上能以任意精度逼近连续函数（通用逼近定理），但训练通常依赖大量迭代和精细调参，且参数量随隐藏层宽度增长迅速。

在噪声去除、几何拟合和金融预测等任务中，KS3的收敛速度明显快于MLP；而在大语言模型（LLM）相关任务上，两者表现不相上下。

KS3在随机样本上的梯度下降收敛速度显著快于MLP，而GPU推理延迟与MLP几乎持平。

实验在模 97 的模加法任务上训练一个小型 MLP，训练集仅占 35%，使用全批量训练，共 20k 步。

MLP由线性变换叠加非线性激活函数并堆叠多层构成，对输入结构几乎不做利用。

论文在 UNSW-NB15、CIC-IDS2017、EMBER2024 三个基准上，与校准后的 XGBoost、Random-Forest、MLP 和 Kitsune 对比，并测量了“Suricata（52,674 条 Emerging-Threats 规则）→ VX-One”的两阶段级联，在 CIC-IDS2017 上跨五天运行。

MLP（Major League Pickleball）等联赛和巡回赛逐步建立，装备、场地运营、培训与赛事组织构成完整产业链。

与 MLP 把固定非线性激活函数放在节点、权重放在边上不同，KAN 把可学习的样条函数（通常是 B 样条）放在边上，节点只做求和。

Kolmogorov-Arnold Geometry（KAG）框架通过分析隐藏层对输入变化的局部响应——即Jacobian矩阵的子式——来揭示网络内部的计算结构。

作者在合成数据集上训练了单隐藏层MLP，并通过计算实验验证了α-RC指标的有效性，实验表明新指标能够更清晰地反映网络内部表示的集中程度，且不受网络规模影响。

电路分析（如追踪注意力头与 MLP 的协作路径）依然有效，但它解释的是计算路径，而非表示空间的「洁净度」，两者属于不同层次的问题。

静态能力与动态能力之间的平衡，对模型晚层MLP（多层感知机）参数的变化尤为敏感。

在主流视觉语言模型（VLM）中，MLP指Transformer每一层中负责逐位置非线性变换的前馈网络，其参数量往往占整层的一半以上。

在CPU上用NumPy实现一个可训练的Transformer或手写MLP并跑通MNIST是可行的，许多教学项目就是这样做的。

探针是一个轻量分类器，通常是一条线性层或小型MLP，训练时接收模型某一层的激活向量作为输入，输出是否存在目标行为的分数，不修改底层大模型的权重。

KAN将可学习的激活函数放在网络的边（连接）上，而传统MLP在节点上使用固定激活函数、在边上使用可学习权重

论文的核心结论是使用KAN架构可以在样本量减少40%的情况下达到与传统MLP相当的性能

实验显示KAN相对MLP在训练过程中的相对性能提升可达50%