台湾“中央研究院”开发出一款新型生成对抗网络

***“中央研究院”it创新研究中心的研究人员开发出一款新型生成对抗网络,其在生成器的输出层设计了二元神经元,研究人员希望将此用于ai作曲。
中国***的研究人员最近开发了一种新型生成对抗网络(gan),在其生成器的输出层设计了二元神经元。该模型已经预先在arxiv上发表的论文中提出,可以直接在测试时生成二进制值预测。
目前为止,gan在连续分布建模方面取得了显着成果。不过,要将gan应用于离散型数据还存在很大挑战,尤其是在高维离散空间中,主要是因为由模型分布向目标数据分布的优化上存在困难。
进行这项研究的研究人员之一hao-wen dong透露,“我目前正着手进行音乐生成。我认为,作曲可以被解读为一系列的决断,例如,关于乐器的选择、和弦的方法、甚至是使用的确切音符。为了实现ai作曲家的宏伟愿景,我特别感兴趣的是gan等深层生成模型是否能够做出决定。因此,这项工作考察了我们是否可以训练设计了二元神经元的gan,并利用标准训练算法与反向传播去做出二元决策。”
hao-wen dong和他的顾问yi-hsuan yang共同开发一个模型,可以在测试时直接生成二进制值预测。然后,他们使用它来生成二进制化的mnist数字,同时比较不同类型的二元神经元、gan目标以及网络架构的性能。
样本生成数字和预激活输出,用于由mlp实施并使用wgan-gp目标进行训练的建议模型。来源:dong and yang
“简而言之,这种新型gan(binarygan)是一种采用二元神经元的gan,在其生成器的输出层输出一个或零的神经元,”dong说,“gan有两个主要组成部分:生成器和判别器。生成器的目的是生成假数据样本,这些样本能够欺骗判别器将生成的样本归类为真样本。另一方面,判别器的目标是区分假样本,然后利用其提供的反馈来改进生成器。而训练之后,生成器可以用来生成新的数据样本。”
研究人员能够有效地训练binarygan,以及它们的生成模型与二元神经元。他们的研究结果还表明,使用梯度估计器可能是有前景的用gan模拟离散分布的方法。
建议模型的预激活输出的直方图以及实值模型的概率预测。这两个模型均由mlp实施,并通过wgan-gp目标进行培训。
“通过使用梯度估计器,我们能够使用反向传播算法训练binarygan,”dong说,“此外,模型中采用的二值化导致了深度神经网络学习的中间表征存在着多种不同的特征。这也强调了在训练中包含二值化操作的重要性,因此这些二值化操作也能进行优化。”
dong和yang现在正寻求将采用二元神经元的gan应用于条件计算图的实现。在这种情况下,根据网络中的二元神经元所做的决定,某些部分将被激活或失效。
mlp实施的建议模型系统图;请注意,二元神经元仅用于生成器的输出层
这很重要,因为它可以让我们建立一个更复杂的、依赖于早期网络层面决定的模型,”dong说,“例如,我们可以建立一个ai作曲家,首先决定学习乐器和和弦,然后再相应地学习作曲。”

边缘计算或将是工业4.0的核心
实现光子角动量的精确控制新技术
如何对伺服电机实施理想控制
智慧城市的建设离不开智能安防的发展 智能家居发展走向专业化
人工智能芯片推进安防迈进AI时代 终端AI芯片市场还有待拓展
台湾“中央研究院”开发出一款新型生成对抗网络
Linux GUI子系统概述 GUI子系统的构成及工作流程
华为加大部署NFV,提升运营商4G/5G网络质量
一块单片机在工业领域能代替PLC么?
单片机内部EEPROM的读写原理及驱动程序编写
5G需持续演进,共建全行业数字化的引擎
OPPOR11什么时候上市:OPPOR11即将发布,VIVOX11还会远吗?11大比拼你最期待谁?
Linux CPU上下文切换
深圳信禾昌介绍不锈钢电热管电阻加热原理
中国人现在不那么喜欢买苹果手机了?iPhone8能否挑起大梁?
放大倍数为40的放大电路设计
碳化硅功率器件在航天电子产品中的应用领域
智能手机和平板电脑侵蚀,传统媒体设备将全面萎缩
如何将大数据技术应用于精益六西格玛?
中国联通携手中兴通讯打通全球首个5G电话