?
信誉好的时时彩平台,北京赛车pk10开奖结果,大公鸡七星彩,网赚微信群 凤凰彩票

sscejia conN:从动搜刮神经收学界 连系遗传算法取

时间:2017-10-29 12:51来源:未知 作者:admin 点击:
以下是该尝试所利用的 7 个数据集,此中展现了每一个数据集的锻炼样本数、收学界 连系遗传算法取DNN的EDEkj测试样本数和最终分类数。Elec 和 IMDB 数据集用于感情阐发,其它的都用于

  以下是该尝试所利用的 7 个数据集,此中展现了每一个数据集的锻炼样本数、收学界 连系遗传算法取DNN的EDEkj测试样本数和最终分类数。Elec 和 IMDB 数据集用于感情阐发,其它的都用于图像识别。

  跟着层级深度的添加,深度神经收集正在机能上持续连结提拔。该趋向意味着分歧收集架构和超参数的陈列组合能够发生极其巨量的可能性,而现正在它只要少量的经验性指点。为领会决这一复杂性增加问题,我们提出了进化深度收集(Evolutionary DEep Networks /EDEN),该收集是一种高效计较的神经进化算法,它能接入任何已有的深度进修平台,如 TensorFlow 等。我们展现了 EDEN 能够演化利用嵌入、1D 和 2D 卷积、最大池化、全毗连层以及超参数所建立的简单而成功的架构。EDEN 正在七个图片取感情阐发数据集中的演化成果表白,该收集正在搜索高效的收集架构上是可依赖的。此外,EDEN 不只正在三个案例中获得了当前最佳的程度,同时还只需要正在单块 GPU 上锻炼了 6 到 24 个小时。kj sscejia con我们的研究起首测验考试了将神经进化使用于建立 1D 卷积收集(包罗嵌入层的优化等)并进行感情阐发使命。

  正在 Emmanuel 等人的研究工做中,除了摸索超参数和 epoch 数以外,他们还摸索了其它无效特征(如嵌入层的优化)以添加现存研究模子的复杂度。通过利用 EDEN,研究者认为我们能够处理两个问题:即我们能否能够正在浩繁问题范畴中演化优秀的一般性架构和超参数?这种演化能否能够正在单块 GPU 上完成,而不是像以前一样需要正在大型计较集群上完成?

  遗传算法(GA)[12] 是用于处理优化问题的进化算法。一般起首随机初始化染色体群(population of chromosomes),每一个染色体代表优化问题的候选解。基于顺应度函数,我们选择多对较优个别(父母)。顺应度高的个别更易被选中繁衍,即将较优父母的基因传送到下一代。

  算法 3 展现了染色体若何随机生成伪代码,算法 2 展现了本研究所利用的初始种群生成法。sscejia conN:从动搜刮神经正在某些环境中可能会生成无效的架构,而这些无效的架构将会被丢弃并从头生成新的神经收集架构。

  下表 3 展现了模子正在 7 个数据集上的测试精确度、进修率、dnndnn可锻炼参数和现有的最佳尝试成果。我们尝试有三个精确度跨越了当前最佳程度,他们都是利用 Adam 算法获得的。

  正在遗传算法的每一代中,dnn我们需要选择父染色体并进行遗传操做而创制子染色体。父染色体的选择利用的特定的算法,一般父染色体的选择是按照顺应度排序和竞赛选择(tournament selection)。正在本研究中,竞赛选择利用的是如下算法 4:

  原题目:学界 连系遗传算法取DNN的EDEN:从动搜刮神经收集架构取超参数 机械之心编译 参取:

  正在该论文中,研究者提出了一种进化深度收集(Evolutionary Deep Network/EDEN),即一种神经进化(neuro-evolutionary)算法。该算法连系了遗传算法和深度神经收集,并可用于摸索神经收集架构的搜刮空间、取之相联系关系的超参数和锻炼迭代所采用的 epoch 数量。机械之心简要引见了该论文。kj sscejia con

  我们的研究是初次测验考试用神经进化算法来创制 1D 卷积收集和优化嵌入层以实现感情阐发使命。正在将来的研究工做中,我们打算把 EDEN 扩展到 GAN 架构,以及摸索并行实现(parallel implementation)。

北京pk10

(责任编辑:admin)
顶一?
(0)
0%
踩一?
(0)
0%
------分隔?----------------------------
?