梯度学习算法论文-郭业才,郑慧颖,叶飞

梯度学习算法论文-郭业才,郑慧颖,叶飞

导读:本文包含了梯度学习算法论文开题报告文献综述及选题提纲参考文献,主要关键词:运动模糊,卷积神经网络,梯度域,图像复原

梯度学习算法论文文献综述

郭业才,郑慧颖,叶飞[1](2019)在《梯度域和深度学习的图像运动模糊盲去除算法》一文中研究指出针对传统图像去运动模糊方法易放大噪声,产生振铃效应等问题,提出一种基于梯度域和深度学习的图像运动模糊盲去除算法。该算法利用引导滤波和L0滤波对图像进行预处理,将预处理后的梯度域图像块送入设计的卷积神经网络进行训练;提取训练好的模型参数,实现模糊核估计与图像复原;在图像复原过程中使用TV正则项进行图像去模糊。与其他算法相比,该算法能有效地抑制振铃效应和减弱噪声,去运动模糊效果较好。(本文来源于《实验室研究与探索》期刊2019年06期)

张亚中,李玉箫,刘雨享,何伟[2](2019)在《基于机器学习梯度下降法的OAM对准算法》一文中研究指出OAM为通信系统增加了一个新的维度即"模分复用",有望借此增大信道容量。但是由于涡旋电磁波的特殊性,OAM对收发天线的轴心对准要求很高,轴偏差对于信道容量的影响很大。我们以能量谱方差为损失函数,提出了一种基于机器学习梯度下降法的高效对准算法,并进行仿真。仿真结果表明了这种算法可以在损失函数未知的情况下,根据当前位置测量得到的数据调整参数,以很快的收敛速度实现参数的最优化,使OAM系统收发机精确快速对准。相对于已有的对准算法,这种算法更适合于机器实现,而且不依赖于初始状态。(本文来源于《通信技术》期刊2019年06期)

王天翔[3](2019)在《深度学习中梯度下降算法的应用研究》一文中研究指出随着数据化时代的变革,人工智能技术已经深入人心,深度学习技术也随着人工智能技术而兴起。深度学习的成功在于其能够解决神经网络方面的一系列问题。在处理深度神经网络及卷积神经网络方面,往往离不开梯度下降算法的支持。深度学习中的梯度算法可应用于许多问题的求解,比如线性回归模型、矩阵分解、区块链核心技术去中心化的共识算法。区块链技术的核心问题是节点之间的共识问题,在各个矿工节点之间往往会有拜占庭故障节点扰乱当前交易系统,解决这些拜占庭节点问题的方法我们称其为拜占庭容错技术(或拜占庭弹性技术)。在应对拜占庭共识问题时,各个节点间往往存在任意数量的拜占庭节点。在近几年里,拜占庭容错问题引起了研究人员的高度重视,成为业界的热点研究话题。拜占庭节点的存在,会导致节点间信息交流的不可靠,因而会干扰算法的正常运作,甚至可能会导致服务器的瘫痪。在深度学习中利用随机梯度下降算法处理拜占庭共识问题是有效的方法之一。纵观最近两年时间,Blanchard首先提出利用随机梯度法来处理拜占庭故障模型,并提出经典拜占庭模型(Classical Byzantine model)。基于经典拜占庭模型,Blanchard在迭代过程中加入Krum函数的聚合规则,保障在经典拜占庭模型下,基于Krum聚合规则可以使整个参数服务器系统具有较强的鲁棒性。随后基于Blanchard经典拜占庭模型,Cong Xie提出更为普遍的拜占庭模型,即广义拜占庭模型(General Byzantine model),将经典拜占庭模型实际化,更加突出了拜占庭结构的任意性,同时Cong Xie提出基于中值的聚合规则,即几何中值,并对基于几何中值的聚合规则进行收敛分析,同时在实验中进行外界拜占庭节点攻击进行干扰,证明出基于几何中值的聚合规则具有强鲁棒性。遗憾的是,利用深度学习梯度下降算法来解决拜占庭故障问题,目前国内外的技术仍然不够成熟,还有许多方面值得去深究。本文基于此现状做了相关的研究,主要包括以下工作:(1)首先,本文对深度学习一些梯度下降方法概念进行梳理总结,介绍了BGD、MBGD、SGD的不同应用环境,并介绍基于SGD改进的优化算法。(2)文章将深度学习下的随机梯度下降方法应用到解决拜占庭故障上,从拜占庭故障模型以及迭代过程入手,同时引入拜占庭弹性概念。(3)文中对比基于中值的拜占庭聚合规则,提出基于截尾均值的新型拜占庭聚合规则。(4)最后文中对基于截尾均值的聚合规则在强凸环境与非强凸环境进行收敛分析,并对基于截尾均值的聚合规则进行节点攻击实验,证明其具有强鲁棒性。(本文来源于《浙江师范大学》期刊2019-05-21)

杨静,徐彦,赵欣[4](2019)在《带延迟调整的脉冲神经元梯度下降学习算法》一文中研究指出脉冲神经元有监督学习算法通过梯度下降法调整神经元的突触权值,但目标学习序列长度的增加会降低其精度并延长学习周期。为此,提出一种带延迟调整的梯度下降学习算法。将每个突触的延迟作为学习参数,在学习过程中调整权值,同时对突触的延迟时间进行梯度下降调整,从而使神经元激发出目标脉冲序列。实验结果表明,该算法在不增加算法复杂度的情况下,能够提高神经元学习复杂脉冲序列的能力,且收敛速度较快。(本文来源于《计算机工程》期刊2019年09期)

杨静,赵欣,徐彦,姜赢[5](2018)在《基于梯度下降的脉冲神经元精确序列学习算法》一文中研究指出基于梯度下降的脉冲神经元有监督学习算法通过计算梯度最小化目标序列和实际输出序列间的误差使得神经元能激发出目标脉冲序列。然而该算法中的误差函数是基于实际输出脉冲序列和相对应的目标输出脉冲序列动态构建而成,导致算法在收敛时可能出现实际输出序列的个数和期望输出个数不相等的情况。针对这一缺陷提出了一种改进的脉冲神经元梯度下降学习算法,算法在学习过程中检测目标序列脉冲个数和实际激发脉冲个数,并引入虚拟实际激发脉冲和期望激发脉冲构建误差函数以分别解决激发个数不足和激发个数多余的问题。实验结果证明该算法能有效地防止学习算法在输出脉冲个数不等的情况下提前结束,使得神经元能够精确地激发出目标脉冲序列。(本文来源于《计算机工程与应用》期刊2018年23期)

解博,朱斌,张宏伟,马旗,张扬[6](2019)在《基于深度学习航拍图像检测的梯度聚类算法》一文中研究指出针对在目标检测中现有方法检测速度慢的问题,基于航拍图像中人造物体含有大量边缘的特点,提出了一种基于梯度聚类的区域建议算法(APM)。利用目标检测算法对提取的感兴趣区域进行检测,在DOTA (Dataset for Object deTection in Aerial Images)数据集上对算法的实时性和准确率进行了测试。研究结果表明,所提算法极大地提升了目标检测算法对大尺寸、目标密集的航拍图像的检测速度,该方法的召回率较高。(本文来源于《激光与光电子学进展》期刊2019年06期)

宋伟,任栋,于京,齐振国[7](2019)在《一种新的基于叁维卷积共生梯度直方图和多示例学习的特殊视频检测算法》一文中研究指出已有的基于梯度方向直方图信息的视频内容检测算法侧重在二维的视频帧上提取特征,忽略了视频内容在时间维度上的相关性.提取局部梯度间潜在的共生关系特征可一定程度上提高算法的检测准确率;同时,对相邻特征池化可有效减少特征降维过程中的信息丢失.基于此,利用视频帧间结构信息通过卷积运算构建共生梯度直方图的叁维结构,然后对相邻特征池化实现描述特征的有效降维,解决了忽略帧间信息影响识别准确率以及高维度特征难以训练的问题;将视频特征映射到多示例学习中的示例和包,非常容易地实现了对不同长度视频的检测.在公开测试数据集Hockey、Movie上进行测试,实验结果显示,Hockey数据集上算法的检测准确率高于现有最优算法3%,Movie数据集上的检测准确率高于现有最优算法0.5%,验证了新特征与算法的有效性.(本文来源于《计算机学报》期刊2019年01期)

解博,朱斌,张宏伟,马旗,张扬[8](2018)在《基于深度学习的梯度聚类SSD算法参数选择》一文中研究指出基于深度学习的航拍目标检测算法,由于硬件条件的限制,不能对大尺寸的航拍图像直接进行检测,通常采用滑窗法提取候选区域,但这种方式不能兼顾算法的实时性。一种梯度聚类SSD算法利用航拍图像中人造物体的边缘梯度进行区域建议,对建议区域利用SSD模型进行目标检测得到检测结果,能够一定程度地解决对大尺度航拍图像检测的实时性问题。本文根据航拍图像的特点,对基于梯度聚类SSD中梯度聚类算法进行参数选择,使其建议的区域更加准确。实验在DOTA数据集上对参数的效果进行了检验。(本文来源于《电声技术》期刊2018年07期)

仰迪,白延琴,李倩[9](2018)在《半监督距离度量学习的内蕴加速投影梯度算法》一文中研究指出考虑求解一类半监督距离度量学习问题.由于样本集(数据库)的规模与复杂性的激增,在考虑距离度量学习问题时,必须考虑学习来的距离度量矩阵具有稀疏性的特点.因此,在现有的距离度量学习模型中,增加了学习矩阵的稀疏约束.为了便于模型求解,稀疏约束应用了Frobenius范数约束.进一步,通过罚函数方法将Frobenius范数约束罚到目标函数,使得具有稀疏约束的模型转化成无约束优化问题.为了求解问题,提出了正定矩阵群上加速投影梯度算法,克服了矩阵群上不能直接进行线性组合的困难,并分析了算法的收敛性.最后通过UCI数据库的分类问题的例子,进行了数值实验,数值实验的结果说明了学习矩阵的稀疏性以及加速投影梯度算法的有效性.(本文来源于《运筹学学报》期刊2018年02期)

唐艳丽[10](2015)在《基于光滑L_0正则子的神经网络稀疏化梯度学习算法研究》一文中研究指出科学家们在探索人类大脑的过程中形成了一门新的学科一一神经网络,近年来在各个领域得到了广泛应用。前馈神经网络是一种重要的神经网络模型,而基于梯度信息的BP算法是最为流行的神经网络学习算法。人们在梯度算法的基础上提出各种改进方法,其中运用较多的一种方法是基于正则化思想的网络剪枝方法,其通过在误差函数中添加正则项,使多余单元的权值趋于零,并对权值趋于零的单元剪枝,从而达到减小网络的复杂度,提高网络泛化能力的效果。L0正则化方法具有最优的稀疏性,但其求解是NP难问题,难以和神经网络的学习算法进行结合。本文利用光滑函数序列对L0正则子进行逼近,进而提出一种带光滑Lp正则项的梯度学习算法,并对算法的稀疏性、收敛性进行理论分析。本文第一章介绍神经网络的发展历程,神经网络的学习方式和学习算法,以及梯度学习算法,并在此基础上对Lp正则化方法作详细介绍;第二章研究带光滑L0正则项的批处理梯度学习算法,同时建立了算法的稀疏性、收敛性结果及其数学证明,并通过数值实验对理论结果进行验证;第叁章研究带光滑L0正则项的在线梯度学习算法,同时建立了算法的收敛性理论,并通过数值实验验证了相应的理论结果;第四章对全文进行了总结。(本文来源于《大连海事大学》期刊2015-12-01)

梯度学习算法论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

OAM为通信系统增加了一个新的维度即"模分复用",有望借此增大信道容量。但是由于涡旋电磁波的特殊性,OAM对收发天线的轴心对准要求很高,轴偏差对于信道容量的影响很大。我们以能量谱方差为损失函数,提出了一种基于机器学习梯度下降法的高效对准算法,并进行仿真。仿真结果表明了这种算法可以在损失函数未知的情况下,根据当前位置测量得到的数据调整参数,以很快的收敛速度实现参数的最优化,使OAM系统收发机精确快速对准。相对于已有的对准算法,这种算法更适合于机器实现,而且不依赖于初始状态。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

梯度学习算法论文参考文献

[1].郭业才,郑慧颖,叶飞.梯度域和深度学习的图像运动模糊盲去除算法[J].实验室研究与探索.2019

[2].张亚中,李玉箫,刘雨享,何伟.基于机器学习梯度下降法的OAM对准算法[J].通信技术.2019

[3].王天翔.深度学习中梯度下降算法的应用研究[D].浙江师范大学.2019

[4].杨静,徐彦,赵欣.带延迟调整的脉冲神经元梯度下降学习算法[J].计算机工程.2019

[5].杨静,赵欣,徐彦,姜赢.基于梯度下降的脉冲神经元精确序列学习算法[J].计算机工程与应用.2018

[6].解博,朱斌,张宏伟,马旗,张扬.基于深度学习航拍图像检测的梯度聚类算法[J].激光与光电子学进展.2019

[7].宋伟,任栋,于京,齐振国.一种新的基于叁维卷积共生梯度直方图和多示例学习的特殊视频检测算法[J].计算机学报.2019

[8].解博,朱斌,张宏伟,马旗,张扬.基于深度学习的梯度聚类SSD算法参数选择[J].电声技术.2018

[9].仰迪,白延琴,李倩.半监督距离度量学习的内蕴加速投影梯度算法[J].运筹学学报.2018

[10].唐艳丽.基于光滑L_0正则子的神经网络稀疏化梯度学习算法研究[D].大连海事大学.2015

标签:;  ;  ;  ;  

梯度学习算法论文-郭业才,郑慧颖,叶飞
下载Doc文档

猜你喜欢