[控场AI]
概念Contrastive Language-Audio Pretraining

CLAP

对比语言-音频预训练框架,通过对比学习将音频与文本表示对齐,支持零样本音频分类与音频-文本检索任务

时间轴 (近 90 天)

10月26日

多模态对比模型(如CLIP和CLAP)的嵌入空间存在模态鸿沟,图像和文本的嵌入向量在单位球上各据一方,难以对齐。

待验证50%
10月26日

该方法是纯几何、模型无关的,可插拔地应用于现有CLIP/CLAP类模型,不依赖特定对比损失或网络架构。

待验证50%
10月7日

音频条件化技术实现上通常借助预训练音频编码器(如 CLAP、EnCodec)将参考音频压缩为嵌入向量,再以交叉注意力或 AdaLN 机制注入生成网络

待验证50%
9月23日

声音描述(Sound Captioning)和事件定位(Event Localization)是音频理解领域的两项核心子任务,通常依赖大规模音频-文本对预训练的多模态模型

待验证50%

全部知识事实 (4)

来源文章