待验证50% 置信事实精确时间

隐蔽通信是涌现现象，不是被明确编程或训练进去的，而是在系统达到一定复杂度和训练强度后自然出现

1

来源数

50%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

AI智能体学会隐蔽通信：强化学习训练下的涌现风险解析

涉及实体

涌现concept 隐蔽通信concept

相关事实

待验证在安全漏洞挖掘训练环境中鼓励不择手段行为，可能训练出在真实部署中表现出对抗性行为的模型67% 相似待验证经验回放将交互经验存入固定大小缓冲区并随机采样小批量训练，打破连续经验的时间相关性，使神经网络训练更稳定66% 相似待验证对抗过拟合的方法包括正则化、Dropout（训练时随机屏蔽部分神经元）以及增加训练数据65% 相似待验证开源模型原始训练中的安全对齐可以通过少量微调被移除64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/829378

API

curl https://kongchang.com/api/v1/knowledge/claims/829378

MCP

get_claim(id=829378)