【NIPS2019】
Abstract
DTW常用于相似性度量,由于DTW对时间轴的规整不变性,可以提供信号间的差异测量。本文提出了ANN的新组件,利用DTW进行特征提取(以往常用DTW作为损失函数)。从理论上分析了DTW损失,用随机反向传播机制来提高DTW学习的准确率和效率。所提出的框架可用作数据分析工具,进行数据分解。
许多睡眠研究都面临数据不足的问题,无法充分利用深层神经网络,因为不同的实验室使用不同的记录设置,因此需要在相当小的数据库上训练算法,然而,由于通道不匹配,大型的数据库不能直接进行数据补偿。本文提出了一种深度转移学习方法来克服通道不匹配问题,并将知识从一个大的数据集转移到一个小的队列中来研究单通道输入下的自动睡眠分期。我们采用最先进的SeqSleepNet并在源域(即大数据集)中训练网络。然后,在目标域(即小群体)中对预训练网络进行微调,完成知识转移。我们研究了源域和目标域之间存在轻微和严重通道不匹配的两种迁移学习场景。我们还研究微调完全或部分预训练的网络是否会影响目标域上睡眠分段的性能。
本研究以蒙特利尔睡眠研究档案馆(MASS)的200名受试者为源域,以20名受试者组成的Sleep-EDF扩展数据库作为目标域,我们的实验结果表明,所提出的深度转移学习方法在睡眠分期方面有显著的改善。此外,这些结果也揭示了微调预训练网络的特征学习部分以绕过信道失配问题的必要性。
[TOC]
期刊: Frontiers in Human Neuroscience, 2017
作者: Yuan-Pin Lin, National Sun Yat-sen University; Tzyy-Ping Jung, University of California, San Diego
近年来,迁移学习在脑电信号挖掘领域受到越来越多的关注。然而,盲目的迁移学习也会导致负迁移现象。
本研究提出了一个条件迁移(cTL)框架,以促进每个个体的正迁移。通过对26的个体进行实验,相比仅仅利用自身的数据,在valence分类上提升了15%,在arousal分类上提升了26%。
简单来讲,cTL设置了一个阈值,如果准确率不高,则可以考虑迁移学习(利用其他相似个体的数据),否则没必要进行迁移学习。
脑机接口(BCI)使用户能够直接使用脑信号与计算机交流。
最常见的模式是非侵入性BCI,使用的是脑电图,它对噪声和伪影较为敏感,并且受试者之间和受试者内部的信号也是非平稳的。因此很难用基于脑电图的BCI系统建立通用模式的识别模型,该模型对于不同的受试者、不同的会话、不同的设备和任务是最优的。
一般情况下,会通过收集受试者的一部分数据来进行校准和微调,这既耗时又对用户不友好。迁移学习的出现就是为了减少校准微调的工作量,它利用相似或相关的受试者/会话/设备/任务的数据来促进对新受试者/会话/设备/任务的学习。
本文回顾了自2016年有关EEG的BCI期刊论文,其中有六种范式和应用
我们回顾这些话题,给出一些观察结果和结论
摘要:大型公司需要实时监视其应用程序和服务中的各种指标
(例如,“页面浏览量”和“收入”)。在Microsoft,我们开发了时间序列异常检测服务,该服务可帮助客户不断的监视时间序列并及时提醒潜在的事件。在本文中,为了解决时间序列异常检测的问题,我们提出了一种基于谱残差(SR)和卷积神经网络(CNN)的新算法。我们的工作是尝试将视觉显着性检测域中的SR模型首次迁移到时间序列异常检测中。此外,我们创新地将SR和CNN结合在一起以改善SR模型的性能。与公共数据集和Microsoft数据集的最新基准(只使用了周期相关的历史数据,没有使用上同周期相邻时刻的历史数据)模型相比,我们的方法获得了优异的实验结果。
关键词:异常检测,无监督,时间序列
作者
Ki Hyun Kim, Sangwoo Shim, Yongsub Lim, Jongseob Jeon, Jeongwoo Choi, Byungchan Kim, Andre S. Yoon
会议
2020 ICLR
贡献
1、提出一种新的利用输入的隐藏层激活值和自编码器重构之后的隐藏层激活值异常检测方法RAPP,并且给出了识别输入异常的聚合函数
2、给出了RAPP的动机,将重构的观点从输入空间扩展到隐空间。展示了重构输入之后再输入到网络的隐藏激活值与对应的原始输入的隐藏重构值是等价的。
3、说明了RAPP在多个数据集上改进了基于自编码器的异常检测方法。此外,验证了RAPP的效果超过了最近的异常检测方法。
使用源域的正常和异常实例或者仅使用正常实例训练自编码器,通过引入隐域向量(latent domain vector)(域的隐表示,由每一个域的正常实例通过神经网络得到)的概念,所提出的方法可以为目标域推断出异常检测器,而不需要在目标域中重新训练。
每一个域的隐域向量都是由每个域的正常实例来得到的,每个域的异常分数函数由自编码器的偏差来建模,并且自编码器具体的域属性由隐域向量来控制。