神经架构搜索
神经架构搜索是一种用算法自动化地在预定义搜索空间中寻找最优神经网络结构的机器学习子领域，旨在替代研究者手工设计网络的耗时过程，兴起于2017年前后
核心事实
时间轴 (近 90 天)
现有自动化模型优化工作的共同点是大模型输出的是建议或配置，真正改变模型参数的仍是训练流程。
在自动化模型优化领域，已有一些可对照的真实工作，例如用大模型搜索更好的提示词、数据配方或训练超参数（如自动提示工程、神经架构搜索与大模型结合的尝试）。
早期NAS计算成本极高，需要数百块GPU训练数万次；近年来的权重共享、渐进式搜索等方法已将成本大幅降低。
神经架构搜索（NAS）的搜索过程本身需要消耗大量算力
神经架构搜索（NAS）兴起于2017年前后，核心思想是用算法自动化地在预定义搜索空间中寻找最优神经网络结构
一篇综述论文的数据显示，在大约五年时间里NAS领域涌现出3000多个新提出的模型架构
早期NAS工作（如NASNet、DARTS）因搜索空间设计不透明，其发现的架构被证明很大程度上依赖特定代理任务和搜索预算
全部知识事实 (8)
神经架构搜索（NAS）兴起于2017年前后，核心思想是用算法自动化地在预定义搜索空间中寻找最优神经网络结构
75%已验证AutoML是将特征选择、模型选择、超参数调优等传统ML流程自动化的技术体系
65%待验证现有自动化模型优化工作的共同点是大模型输出的是建议或配置，真正改变模型参数的仍是训练流程。
50%待验证在自动化模型优化领域，已有一些可对照的真实工作，例如用大模型搜索更好的提示词、数据配方或训练超参数（如自动提示工程、神经架构搜索与大模型结合的尝试）。
50%待验证早期NAS计算成本极高，需要数百块GPU训练数万次；近年来的权重共享、渐进式搜索等方法已将成本大幅降低。
50%待验证神经架构搜索（NAS）的搜索过程本身需要消耗大量算力
50%待验证一篇综述论文的数据显示，在大约五年时间里NAS领域涌现出3000多个新提出的模型架构
50%待验证早期NAS工作（如NASNet、DARTS）因搜索空间设计不透明，其发现的架构被证明很大程度上依赖特定代理任务和搜索预算
50%