逻辑回归
机器学习中的经典分类算法，通过sigmoid函数将线性组合映射为概率输出，本质上等价于单神经元无隐藏层神经网络，决策边界为线性超平面，损失函数为凸函数保证全局收敛
核心事实
时间轴 (近 90 天)
选择问题的常见实现包括逻辑回归、朴素贝叶斯、梯度提升树以及基于嵌入的最近邻分类器；大模型场景下则通过提示词约束输出枚举值。
TF-IDF将每封邮件表示为稀疏向量，通过词频和逆文档频率加权；逻辑回归是一种线性分类器，通过为每个词特征学习权重输出类别概率；在标签量有限时，该组合参数少、不易过拟合、训练推理快且权重可解释。
少样本提示（few-shot prompting）未能弥合生成式LLM与逻辑回归基线在路由准确性上的差距。
逻辑回归、决策树、支持向量机等算法产生的决策边界形态各不相同。
部分监管者倾向于要求金融AI使用本身可解释的模型（如逻辑回归、决策树），这直接限制了复杂模型的落地空间。
正式模型使用 DictVectorizer 做 one-hot 编码（仅在训练集上 fit），逻辑回归设置 solver="liblinear"、C=1.0，验证集 AUC 为 0.732。
在 5 折交叉验证中扫描 C 值，C=1e-06 时 AUC 为 0.617 ± 0.019，C=0.001 时最佳为 AUC 0.749 ± 0.010，C=1 时为 0.732 ± 0.007。
模型校准良好：平均预测风险 0.469，实际观察率 0.471，校准斜率 1.05，每个十分位都在观察率 5 个百分点以内。
在敏感度至少 70% 的约束下选择阈值得到 0.428，在测试集上敏感度 0.697、特异度 0.547、精确率 0.579，会标记 56.8% 的患者。
在作者进行的预测实验中，TabPFN 在全部9次运行中排名第一：使用300条历史预订时 ROC-AUC 为0.721，1,000条时为0.766，3,000条时为0.778；梯度提升分别为0.682、0.702、0.747；逻辑回归分别为0.699、0.741、0.749。
还有 36 条时间轴事件
全部知识事实 (20)
线性探针是在模型激活值上训练的简单线性分类器，用于检测模型内部是否存在特定行为或概念
75%待验证逻辑回归尽管名字中有回归，实际上是一种分类算法
70%待验证模型选择应遵循从简单到复杂的原则，先用逻辑回归或决策树建立基线，再逐步尝试集成方法和深度学习模型
60%待验证选择问题的常见实现包括逻辑回归、朴素贝叶斯、梯度提升树以及基于嵌入的最近邻分类器；大模型场景下则通过提示词约束输出枚举值。
50%待验证TF-IDF将每封邮件表示为稀疏向量，通过词频和逆文档频率加权；逻辑回归是一种线性分类器，通过为每个词特征学习权重输出类别概率；在标签量有限时，该组合参数少、不易过拟合、训练推理快且权重可解释。
50%待验证少样本提示（few-shot prompting）未能弥合生成式LLM与逻辑回归基线在路由准确性上的差距。
50%待验证逻辑回归、决策树、支持向量机等算法产生的决策边界形态各不相同。
50%待验证部分监管者倾向于要求金融AI使用本身可解释的模型（如逻辑回归、决策树），这直接限制了复杂模型的落地空间。
50%待验证正式模型使用 DictVectorizer 做 one-hot 编码（仅在训练集上 fit），逻辑回归设置 solver="liblinear"、C=1.0，验证集 AUC 为 0.732。
50%待验证在 5 折交叉验证中扫描 C 值，C=1e-06 时 AUC 为 0.617 ± 0.019，C=0.001 时最佳为 AUC 0.749 ± 0.010，C=1 时为 0.732 ± 0.007。
50%待验证模型校准良好：平均预测风险 0.469，实际观察率 0.471，校准斜率 1.05，每个十分位都在观察率 5 个百分点以内。
50%待验证在敏感度至少 70% 的约束下选择阈值得到 0.428，在测试集上敏感度 0.697、特异度 0.547、精确率 0.579，会标记 56.8% 的患者。
50%待验证在作者进行的预测实验中，TabPFN 在全部9次运行中排名第一：使用300条历史预订时 ROC-AUC 为0.721，1,000条时为0.766，3,000条时为0.778；梯度提升分别为0.682、0.702、0.747；逻辑回归分别为0.699、0.741、0.749。
50%待验证响应预测模型不一定要用复杂深度学习，用逻辑回归或梯度提升树（如XGBoost）基于少量特征即可获得明显效果。
50%待验证模拟实验比较了HGP与逻辑回归的性能：在非参数结构下，HGP实现了更低的人口加权预测误差；而当参数模型设定正确时，逻辑回归则表现良好。
50%待验证当有标注数据和稳定schema时，逻辑回归分类器在HDFS异常检测任务上以50个标注块达95.1%准确率，8000块达99.7%，超过零样本LLM的86%。
50%待验证独热编码存在虚拟变量陷阱：若同时保留全部k列并拟合截距项，特征间会完全共线，逻辑回归虽可通过正则化缓解，但通常仍会采用 drop='first' 去掉一列。
50%待验证ML Zoomcamp 2026 的 Module 3 涵盖逻辑回归训练、独热编码处理类别变量、互信息评分、特征消除以及分类模型的可解释性。
50%待验证arXiv论文（arXiv:2610.07292v1）指出，当协变量分布未知时，即便是逻辑回归这样基础的非线性问题，在中等维度下传统方法也可能出现灾难性的失效模式
50%待验证该研究将由随机森林、XGBoost和逻辑回归组成的集成模型进行精炼中智分解，输出T-hat、F-hat、I1-hat、I2-hat四个相互独立的指标
50%