Please wait a minute...
图/表 详细信息
基于机器学习鸟声识别算法研究进展
申小虎, 朱翔宇, 史洪飞, 王传之
生物多样性    2023, 31 (11): 23272-.   DOI: 10.17520/biods.2023272
摘要   (787 HTML474 PDF(pc) (2992KB)(996)  

监测生态系统中鸟类多样性的状态和趋势是一项重大挑战, 需要广泛适用的基于机器学习的鸟鸣识别算法。为准确把握基于机器学习的鸟声识别方法的研究现状与发展趋势, 本文介绍了鸟鸣识别任务的基本概念, 并从模型结构设计角度对基于机器学习的鸟鸣识别算法进行概述。鉴于基于机器学习的鸟鸣识别技术的跨学科性质, 根据研究方向将算法分为: 概率模型(probabilistic model)、模板匹配(template matching)、时序分析(time series analysis)、迁移学习(transfer learning)、数据融合(data fusion)、集成学习(ensemble learning)、度量学习(metric learning)和无监督聚类(unsupervised clustering)的鸟鸣识别算法。本文回顾了这些方法在完成鸟声识别任务时的技术脉络, 以及这些算法的特点和局限性, 并比较了它们在鸟鸣识别方面的有效性。本文还讨论了常用的标准化鸟声开源数据集和评估指标。最后, 本文指出当前方法所面临的挑战和该领域潜在的未来研究方向。本综述旨在为从事鸟声识别研究的学者和开发人员提供一个全面的参考框架, 以便更好地理解现有技术和潜在发展趋势。



View image in article
图10 监督学习与不完全监督学习的区别
正文中引用本图/表的段落
上一节阐明了度量学习策略如何处理部分未标注的数据集样本, 然而, 利用数据的内在关系将鸟声样本进行分类的方法(Ntalampiras & Potamitis, 2021)正是无监督聚类的方法。无监督聚类的识别在某种程度上与2.2.5节的三元组损失相类似, 但它们的核心差异在于前者着重于同一鸟种样本间的相似性, 而后者则着重于强调不同鸟种样本之间的差异性。图10展示了监督学习、半监督学习和无监督聚类的主要区别。
(3) Macaulay资料库(https://www.macaulaylibr-ary.org/)。该资料库由美国康奈尔大学鸟类实验室创建, 包含了约5,000万份鸟类图像、声音样本、视频资料, 覆盖了约10,000种的鸟类。
本文概述了基于机器学习的鸟声识别方法, 比较了当前先进识别方法之间的优劣, 并对这些方法的性能进行了分析.尽管目前基于深度学习的鸟声识别方法取得了一定的成绩, 但面向大规模数据样本时, 其准确性和鲁棒性还需要进一步提高, 推广应用仍面临以下挑战: ...
Probability enhanced entropy (PEE) novel feature for improved bird sound classification
1
2022
... 为确保识别的精度和鲁棒性, 手工特征的有效性一直被视为一个关键指标.某些认知科学的研究显示, 多频带谱的时序信息在鸟声识别中是可行的.受此启发, 张赛花等(2017)提出了一种方法, 首先使用基于高斯混合模型的声音事件检测方法提取鸟鸣片段, 然后利用Mel子带参数, 并采用自回归模型进行特征建模, 最终得到不同鸟鸣信号的特征描述.而韩鹏飞和陈晓(2022)以及Murugaiya等(2022)则尝试不同的手工特征融合方法, 并采用支持向量机完成分类.可见, 浅层手工特征更多的是关注鸟声信息的表达能力. ...
An ensemble of convolutional neural networks for audio classification
1
2021
... 在信息融合研究领域, 数据融合方法大致可分为数据级融合、特征级融合和决策级融合3个阶段(李洋等, 2019).在声学场景分类任务中, Phaye等(2019)提取了时频图的数据信息, 并通过子卷积网络对特征进行提取, 验证了融合方法在事件检测上的可行性.Nanni等(2021)则兼顾数据级融合与决策级融合方法, 尝试了多种声音表征方式、数据增强方法及预训练模型, 在对鸟声、猫声以及其他声音开展识别中提高了声音事件分类的精度.声学场景分类任务与鸟声识别任务在实现上较为接近, 因此近年来数据融合方法引起了鸟声识别研究者的广泛关注. ...
1
2017
... 鸟声识别问题中存在两个典型任务: 鸟声事件检测与鸟类物种分类(Nugroho et al, 2019).鸟声识别问题既可以采取单阶段模式(Narasimhan et al, 2017), 也可以采取两阶段模式(Vida?a-Vila et al, 2020), 即先检出鸟声事件, 再进行分类.整个流程大致分为4个阶段(Jung et al, 2019): 样本采集、预处理、特征参数提取、参数优化分类(图2). ...
Bird species identification via transfer learning from music genres
1
2018
... 迁移学习策略不仅适用于深度学习模型, 在传统机器学习框架中也得到广泛应用.刘昊天等(2017)针对鸟声样本不足和不均衡的问题, 在传统机器学习框架上使用了多标记的迁移学习算法.该方法主要通过最大均值差异度量了训练样本和测试样本的分布差异, 并采用RankSVM排序模型来完成多标记分类.然而, 该方法在处理潜在的鸟类物种和非平稳环境噪声时表现一般.Ntalampiras (2018)利用了鸟声与音乐数据(music data)特征间的统计相似性, 通过学习音乐数据样本间的概率密度分布生成隐马尔可夫模型(hidden Markov model, HMM), 并尝试利用迁移学习框架将该模型产生的概率对各鸟类物种的声音信息进行表征, 最终通过随机森林方法对鸟类物种进行分类.实验结果验证了此类知识迁移方法的可行性, 也为在深度学习框架下解决类似问题提供了参考思路. ...
Acoustic detection of unknown bird species and individuals
1
2021
... 上一节阐明了度量学习策略如何处理部分未标注的数据集样本, 然而, 利用数据的内在关系将鸟声样本进行分类的方法(Ntalampiras & Potamitis, 2021)正是无监督聚类的方法.无监督聚类的识别在某种程度上与2.2.5节的三元组损失相类似, 但它们的核心差异在于前者着重于同一鸟种样本间的相似性, 而后者则着重于强调不同鸟种样本之间的差异性.图10展示了监督学习、半监督学习和无监督聚类的主要区别. ...
Pattern recognition bird sounds based on their type using discreate cosine transform (DCT) and Gaussian methods
1
2019
... 鸟声识别问题中存在两个典型任务: 鸟声事件检测与鸟类物种分类(Nugroho et al, 2019).鸟声识别问题既可以采取单阶段模式(Narasimhan et al, 2017), 也可以采取两阶段模式(Vida?a-Vila et al, 2020), 即先检出鸟声事件, 再进行分类.整个流程大致分为4个阶段(Jung et al, 2019): 样本采集、预处理、特征参数提取、参数优化分类(图2). ...
基于卷积神经网络的鸟声识别实验设计
1
2022
... 传统机器学习方法中采用的手工特征由于表征能力受限, 很难高效地应对复杂自然场景下的鸟声识别任务.近年来, 众多学者(Hong & Zabidi, 2021; 欧昀等, 2022; 邱志斌等, 2022)已逐渐尝试使用深度学习技术来增强鸟声的表征能力, 以提高其识别的鲁棒性.此外, 当面临如背景噪声干扰、多鸟同时鸣叫、样本长度多变、物种丰度过高等挑战时, 基于概率模型的传统方法的性能往往不佳.卷积神经网络是最早被引入鸟声识别的深度学习模型之一, 其在2016年的BirdCLEF中取得了优异的成绩(Sprengel et al, 2016).研究团队如Kahl等(2017)探索了多种CNN网络结构, 找到了最适合进行鸟声识别的卷积网络结构配置, 在2017年的BirdCLEF中取得了良好的名次.Pankajakshan等(2018)同样采用CNN卷积神经网络进行鸟声检测, 但与其他研究不同的是, 该方法利用学习池化(learned pooling)代替普通最大池化方法.这种学习池化的方法类似于3D-CNN, 由于考虑了最大池化所忽略的特征谱图间的相关性, 从而得到识别性能更佳的实验结果. ...
基于卷积神经网络的鸟声识别实验设计
1
2022
... 传统机器学习方法中采用的手工特征由于表征能力受限, 很难高效地应对复杂自然场景下的鸟声识别任务.近年来, 众多学者(Hong & Zabidi, 2021; 欧昀等, 2022; 邱志斌等, 2022)已逐渐尝试使用深度学习技术来增强鸟声的表征能力, 以提高其识别的鲁棒性.此外, 当面临如背景噪声干扰、多鸟同时鸣叫、样本长度多变、物种丰度过高等挑战时, 基于概率模型的传统方法的性能往往不佳.卷积神经网络是最早被引入鸟声识别的深度学习模型之一, 其在2016年的BirdCLEF中取得了优异的成绩(Sprengel et al, 2016).研究团队如Kahl等(2017)探索了多种CNN网络结构, 找到了最适合进行鸟声识别的卷积网络结构配置, 在2017年的BirdCLEF中取得了良好的名次.Pankajakshan等(2018)同样采用CNN卷积神经网络进行鸟声检测, 但与其他研究不同的是, 该方法利用学习池化(learned pooling)代替普通最大池化方法.这种学习池化的方法类似于3D-CNN, 由于考虑了最大池化所忽略的特征谱图间的相关性, 从而得到识别性能更佳的实验结果. ...
All-conv net for bird activity detection:Significance of learned pooling
1
... 传统机器学习方法中采用的手工特征由于表征能力受限, 很难高效地应对复杂自然场景下的鸟声识别任务.近年来, 众多学者(Hong & Zabidi, 2021; 欧昀等, 2022; 邱志斌等, 2022)已逐渐尝试使用深度学习技术来增强鸟声的表征能力, 以提高其识别的鲁棒性.此外, 当面临如背景噪声干扰、多鸟同时鸣叫、样本长度多变、物种丰度过高等挑战时, 基于概率模型的传统方法的性能往往不佳.卷积神经网络是最早被引入鸟声识别的深度学习模型之一, 其在2016年的BirdCLEF中取得了优异的成绩(Sprengel et al, 2016).研究团队如Kahl等(2017)探索了多种CNN网络结构, 找到了最适合进行鸟声识别的卷积网络结构配置, 在2017年的BirdCLEF中取得了良好的名次.Pankajakshan等(2018)同样采用CNN卷积神经网络进行鸟声检测, 但与其他研究不同的是, 该方法利用学习池化(learned pooling)代替普通最大池化方法.这种学习池化的方法类似于3D-CNN, 由于考虑了最大池化所忽略的特征谱图间的相关性, 从而得到识别性能更佳的实验结果. ...
Classification of bird sounds as an early warning method of forest fires using convolutional neural network (CNN) algorithm
1
2022
... 鸟类位于食物链上游, 是监测环境质量和污染状况的良好参考指标.正如人类的声纹具有独特性, 鸣声同样是鸟类的显著生物特征, 可为我们提供发现和识别鸟类的关键信息.鸟声识别是计算机听觉技术的一个重要子领域, 随着人们的生态保护意识不断增强, 鸟声识别的相关研究得到了广泛关注.在生物多样性环境监测、森林火灾预警、涉鸟类案件“打防管控”等领域, 鸟声识别发挥了基础性研究作用(Permana et al, 2022).因此, 鸟声识别算法的研究吸引了众多学者的参与. ...
Repertoire-based individual acoustic monitoring of a migratory passerine bird with complex song as an efficient tool for tracking territorial dynamics and annual return rates
1
2016
... Stowell和Plumbley (2014)的研究表明, 通过从数据中自动学习得到的特征表现通常优于手工设计的特征, 但构建大规模标注数据集往往需要大量的人力资源.因此, 为了缓解标注数据不足带来的问题, 部分研究者已经开始探索大规模无监督学习, 期待在不依赖显式特征提取的前提下提升分类的性能.除鸟声物种分类外, 某些文献(Petrusková et al, 2016; Marin-Cudraz et al, 2019)也运用无监督聚类方法对特定地区某些稀有鸟类的出现频次进行了研究, 但大多还是使用声学参数统计而非深度学习框架.鉴于深度学习方法在音节表征上展现出出色的性能, 吴科毅等(2023)提出了一种基于音节聚类与深度学习相结合的鸟声检测方法.该方法在特征提取阶段采纳了基于音高和频率平坦度的音节提取算法, 并综合使用了过零率(zero crossing rate)和能量(energy)辅助判定, 成功地解决了多物种鸟鸣叠加音节的特征提取问题.该方法采用非监督的变分编码器(variational auto-encoders, VAE)进行音节的无监督表征学习, 并使用狄利克雷混合模型(Dirichlet process mixture model, DPMM)引导模型确定聚类数量.尽管非监督学习方法在某种程度上缓解了弱标签和有限数据样本带来的挑战, 但从文献数量上看, 监督学习仍是鸟声物种识别的主流研究方向. ...
1
2019
... 在信息融合研究领域, 数据融合方法大致可分为数据级融合、特征级融合和决策级融合3个阶段(李洋等, 2019).在声学场景分类任务中, Phaye等(2019)提取了时频图的数据信息, 并通过子卷积网络对特征进行提取, 验证了融合方法在事件检测上的可行性.Nanni等(2021)则兼顾数据级融合与决策级融合方法, 尝试了多种声音表征方式、数据增强方法及预训练模型, 在对鸟声、猫声以及其他声音开展识别中提高了声音事件分类的精度.声学场景分类任务与鸟声识别任务在实现上较为接近, 因此近年来数据融合方法引起了鸟声识别研究者的广泛关注. ...
1
2018
... 在近几年的跨学科研究中, 机器学习技术与鸟声识别的结合引起了广泛的关注.为了深入探究这一主题, 本研究集中分析了自2017年起在多个国际期刊(如Journal of Avian BiologyEcological InformaticsApplied Acoustics)和国内期刊(如《生物多样性》《声学学报》《应用声学》《机器智能研究(英文版)》等)及顶级学术会议(如International Conference on Acoustics, Speech and Signal Processing、International Speech Communication Association、International Conference on Neural Information Processing)上发表的相关文章, 这些文章涵盖了鸟类学、声学技术和人工智能等领域.通过文献检索, 我们发现深度学习已成为鸟声识别研究的主导方法.然而, 一些传统的机器学习方法仍然适用于某些特定场景的鸟声识别(Mehyadin et al, 2021; Xie et al, 2021; 李大鹏等, 2022), 因此在实际应用中需结合数据条件与任务需求决定是否采用深度学习方法(Ghani & Hallerberg, 2021).基于上述考虑, 本文对近年来基于机器学习, 重点是基于深度学习的鸟声识别方法进行了总结与分析, 比较了不同方法之间的性能优劣, 以期为未来的鸟类识别算法研究提供帮助.截至目前, 国内外已有研究学者对鸟声识别技术开展过类似的综述工作.在国内综述文献中, 乔玉等(2020)针对中文文献进行了综述, 重点放在传统机器学习方法上, 对深度学习方法在鸟声识别中的应用介绍得较少, 忽略了深度学习策略对提升鸟声识别精度的帮助; 在国外综述文献中, 学者Priyadarshani等(2018)、Das等(2020)和Xie等(2023)均从信号处理的观点出发对鸟声物种识别的机器学习模型进行过归纳, 但重点放在鸟声预处理、特征提取方法和识别方法的总结上, 缺少对模型架构与学习策略的系统分析.随着近年来深度学习技术在鸟声识别中的进一步应用, 本文拟进一步完善鸟声识别算法的文献综述.本文的工作主要体现在以下3个方面: ...
Automatic recognition of bird individuals on an open set using as-is recordings
1
2016
... 前述鸟声识别策略均是基于监督学习, 其训练过程依赖具有确切鸟类物种标签的数据样本.然而, 在真实环境中执行鸟声识别可能面临开放性的数据集, 该数据集中可能出现数量和种类均为未知的鸟类声音.深度学习模型的softmax层概率阈值分类是导致无法处理开放数据集的主因(Ptacek et al, 2016), 因此设计能适应开放集学习的度量策略以判定未知类别是解决此类问题的首选.度量学习旨在从开放数据中学习数据样本间的距离度量方式, 使同类样本之间的距离最小、不同类样本之间的距离最大, 其框架如图9所示. ...
基于机器听觉的鸟声识别的中文研究综述
3
2020
... 在近几年的跨学科研究中, 机器学习技术与鸟声识别的结合引起了广泛的关注.为了深入探究这一主题, 本研究集中分析了自2017年起在多个国际期刊(如Journal of Avian BiologyEcological InformaticsApplied Acoustics)和国内期刊(如《生物多样性》《声学学报》《应用声学》《机器智能研究(英文版)》等)及顶级学术会议(如International Conference on Acoustics, Speech and Signal Processing、International Speech Communication Association、International Conference on Neural Information Processing)上发表的相关文章, 这些文章涵盖了鸟类学、声学技术和人工智能等领域.通过文献检索, 我们发现深度学习已成为鸟声识别研究的主导方法.然而, 一些传统的机器学习方法仍然适用于某些特定场景的鸟声识别(Mehyadin et al, 2021; Xie et al, 2021; 李大鹏等, 2022), 因此在实际应用中需结合数据条件与任务需求决定是否采用深度学习方法(Ghani & Hallerberg, 2021).基于上述考虑, 本文对近年来基于机器学习, 重点是基于深度学习的鸟声识别方法进行了总结与分析, 比较了不同方法之间的性能优劣, 以期为未来的鸟类识别算法研究提供帮助.截至目前, 国内外已有研究学者对鸟声识别技术开展过类似的综述工作.在国内综述文献中, 乔玉等(2020)针对中文文献进行了综述, 重点放在传统机器学习方法上, 对深度学习方法在鸟声识别中的应用介绍得较少, 忽略了深度学习策略对提升鸟声识别精度的帮助; 在国外综述文献中, 学者Priyadarshani等(2018)、Das等(2020)和Xie等(2023)均从信号处理的观点出发对鸟声物种识别的机器学习模型进行过归纳, 但重点放在鸟声预处理、特征提取方法和识别方法的总结上, 缺少对模型架构与学习策略的系统分析.随着近年来深度学习技术在鸟声识别中的进一步应用, 本文拟进一步完善鸟声识别算法的文献综述.本文的工作主要体现在以下3个方面: ...

本文的其它图/表