深度学习上演“皇帝的新衣”如何剖析CoordConv?
前几天，论智曾报道了这么一个项目：uber提出coordconv：解决了普通cnn的坐标变换问题。文中讲到，uber ai的工程师们发现卷积神经网络无法将空间表示转换成笛卡尔空间中的坐标和独热像素空间中的坐标。更重要的是，他们还对这一限制提出了解决方法，即coordconv。
论文一经推出，就收获了不少点赞，连我们的编译版本阅读量也很可观，小编甚是欣慰。可是没过几天，一位名叫filip piekniewski的朋友在他的个人博客上写道：“这种微不足道的进步也值得这样赞美……”这位计算机视觉工程师用52行代码就做出了和论文同样的结果，让我们看看他是如何剖析coordconv的吧。以下是论智的编译。
简介
关于深度学习的论文，我读的很多，经常一个星期读好几篇的样子，所以目前为止可能读了几千份论文。机器学习或深度学习有一个基本的问题，即这些论文总是处在科学和工程之间的“无人之境”上，我将它成为“学术工程（academic engineering）”，具体解释如下：
我个人认为，一篇科学论文应该传递一种观点，使其有能力解释某种东西。例如一篇证明一个数学定理的论文或者表示某些物理现象的模型。另外，科学论文应该以实验为基础，实验的结果能告诉我们有关显示的基本情况。虽然如此，科学论文的中心仍是对自然事实的普遍性和观察进行总结。
一篇工程类论文应该展示解决某一特殊问题的方法。在不同的应用上，问题的类型也不相同，有时可能很无聊，但是对某些人是很有价值的。对一篇工程论文来说，重点和科学论文有所不同：解决方案的普遍性也许不是最重要的，重要的是这一方案能够实际运用。也就是说，给定可用条件，该解决方案比之前的方法更便宜、更高效。所以说工程类论文的重点是应用，其余的部分都是用于支撑该方法能解决问题的观点。
而机器学习介于两者之间，这一领域既有科学类论文（例如介绍反向传播的那篇），也有明显的工程类论文，其中描述了很实用的解决方法。但是大部分论文都更偏向工程一点，为了显示优越性，其中取消了特别的技巧，经过一些不重要的数据测试之后就宣布这种方法的成功。
除此之外还有第四种论文，它们的确包含某种观点，这种想法可能是有用的，但却是不值一提的。为了掩盖这令人尴尬的事实，作者们美名其曰这是“学术工程”，从而让论文看上去“高大上”了许多。
好巧不巧，uber最近就发表了这样一篇论文——an intriguing failing of convolutional neural networks and coordconv solution，下面我就要好好剖（shou）析（si）这一成果。
解剖开始
让我们直接进入正题
现在我们知道，这篇论文的中心是，研究者发现卷积神经网络在需要坐标的任务中表现得不是很好，详细地说，即输出标签或多或少的是输入元素坐标的正函数，并不表示输入的其他属性。
卷积网络确实在此类问题上表现的不好，因为特征映射的结构，从福岛邦彦提出新认知机（neocognitron）后，在设计时就忽略了这些坐标的位置。所以uber ai的作者提出了一种解决方法：在卷积层中加入坐标，将其当做额外的输入映射。
听起来这个方法很好，但是作者实际上提出的方法，也是很多从业者经常会想当然的方法——他们添加的特征更适合对想要的输出进行解码。任何从事计算机视觉的专家都不会对加入特征感到陌生，虽然这只是深度学习圈子里一个小话题。现如今，深度学习中的研究者们已然脱离了实际应用，声称我们应该只使用学到的特征，因为“这种方法更好”。这么说深度学习圈里的人们也开始认同特征工程了啊……
训练
不管怎样，这篇论文加入了一个特征，明确表示出了坐标的值。接着作者在一个名为“not-so-clevr”的数据集上进行测试（这个数据集的名字很皮），那么他们的试验是不是真的聪明呢？让我们进一步分析。
其中一个任务是基于坐标生成独热图像，或者从独热图像中生成坐标。他们表示在卷积网络中加入坐标的确可以大大提高性能。
等等，冷静一下，如果他们不直接上手tensorflow，而是直接创建一个神经网络来解决独热编码到坐标的变换问题的话……就不用任何训练啊。对于这个问题我会进行三种操作：卷积、非线性激励和求和。好在这些都是卷积神经网络的基础组成部分：
import scipy.signal as sp
import numpy as np
# fix some image dimensions
i_width = 100
i_height = 70
# generate input image
a=np.zeros((i_height,i_width))
# generate random test position
pos_x = np.random.randint(0, i_width-1)
pos_y = np.random.randint(0, i_height-1)
# put a pixel in a random test position
a[pos_y, pos_x]=1
# create what will be the coordinate features
x=np.zeros_like(a)
y=np.zeros_like(a)
# fill the x-coordinate value
for x in range(i_width):
x[:,x] = x
# fill the y-coordinate value
for y in range(i_height):
y[y,:] = y
# define the convolutional operators
op1 = np.array([[0, 0, 0],
[0, -1, 0],
[0, 0, 0]])
opx = np.array([[0, 0, 0],
[0, i_width, 0],
[0, 0, 0]])
opy = np.array([[0, 0, 0],
[0, i_height, 0],
[0, 0, 0]])
# convolve to get the first feature map dy
ca0 = sp.convolve2d(a, opy, mode='same')
cy0 = sp.convolve2d(y, op1, mode='same')
dy=ca0+cy0
# convolve to get the second feature map dx
ca1 = sp.convolve2d(a, opx, mode='same')
cx0 = sp.convolve2d(x, op1, mode='same')
dx=ca1+cx0
# apply half rectifying nonlinearity
dx[np.where(dx<0)]=0
dy[np.where(dy<0)]=0
# subtract from a constant (extra layer with a bias unit)
result_y=i_height-dy.sum()
result_x=i_width-dx.sum()
# check the result
assert(pos_x == int(result_x))
assert(pos_y == int(result_y))
print result_x
print result_y
一个热点位图进行坐标转换、一个卷积层、一个非线性激励、一个求和以及最后从一个减法，无需学习，50多行python代码，搞定。
接下来让我们试试在gan上进行合成生成任务，其中一个还有坐标特征，另一个没有。在论文的附录中有这么一个表格：
他们尝试在imagenet上将坐标特征添加到resnet-50网络的第一个图层上。我猜作者希望在这里看到较大的提升，因为imagenet的类别读数并不是位置的函数（如果这里存在偏差，那么训练时的数据增强过程就应该完全清除）。
所以他们用100个gpu进行了测试（100个啊！），但是直到小数点后第三位，结果才有些许提升。100个gpu就提高了这么一点儿，要不然让谷歌或者facebook的人用10000个gpu试试，说不定能在小数点后第二位就看到变化了呢（逃）。
总结
这篇论文的确吸引人，它在当下“一切向计算力看齐”的大背景下还能揭露深度学习的缺陷实属不易。但为什么是uber提出这个问题？如果是一些学生做出这样的成绩也就罢了，但是uber ai不是搞自动驾驶的吗？
更有意思的是这篇论文在推特上受到很多人，甚至深度学习专家的表扬。他们太过于看重gpu的表现力了，殊不知这明明只需要几行python就能解决……
提供显著跳频(FH)优势的下一代软件定义无线电收发器
因为武汉的疫情LCD今年要全面涨价了吗
一起看看怎么选择PCBA厂家
声、光双控延时开关电路原理图讲解
可变磁阻和涡流速度传感器真正的区别
深度学习上演“皇帝的新衣”如何剖析CoordConv?
基于HF0500和MP6907的笔记本电脑和手机45w type c适配器应用方案
华为p50pocket功能介绍
台湾力成将量产HBM芯片封测业务，预计今年年底客户验证完成
比克如何应对补贴政策调整
冷却液温度传感器的工作原理及作用解析
佳能6D Mark II最新消息：提前至七月发布 新增WiFi无线连接功能
华为Mate10什么时候上市？华为Mate10最新消息：华为Mate10提前爆出全面屏稳了，华为Mate9降价支持
英飞凌拟收购ST半导体,英飞凌一跃成为欧洲半导体巨头
外设SPI在SOC设计中的应用
SK海力士亮相2021重庆智博会,引领前沿科技,践行社会价值
最新开发分拣机器人或将代替快递打包员？
车联网，是潜力巨大的销售平台，更是高端服务平台
火电、水电、风电和光伏等发电技术的优缺点
可穿戴设备市场回暖 出货量不断攀升
论文一经推出，就收获了不少点赞，连我们的编译版本阅读量也很可观，小编甚是欣慰。可是没过几天，一位名叫filip piekniewski的朋友在他的个人博客上写道：“这种微不足道的进步也值得这样赞美……”这位计算机视觉工程师用52行代码就做出了和论文同样的结果，让我们看看他是如何剖析coordconv的吧。以下是论智的编译。
简介
关于深度学习的论文，我读的很多，经常一个星期读好几篇的样子，所以目前为止可能读了几千份论文。机器学习或深度学习有一个基本的问题，即这些论文总是处在科学和工程之间的“无人之境”上，我将它成为“学术工程（academic engineering）”，具体解释如下：
我个人认为，一篇科学论文应该传递一种观点，使其有能力解释某种东西。例如一篇证明一个数学定理的论文或者表示某些物理现象的模型。另外，科学论文应该以实验为基础，实验的结果能告诉我们有关显示的基本情况。虽然如此，科学论文的中心仍是对自然事实的普遍性和观察进行总结。
一篇工程类论文应该展示解决某一特殊问题的方法。在不同的应用上，问题的类型也不相同，有时可能很无聊，但是对某些人是很有价值的。对一篇工程论文来说，重点和科学论文有所不同：解决方案的普遍性也许不是最重要的，重要的是这一方案能够实际运用。也就是说，给定可用条件，该解决方案比之前的方法更便宜、更高效。所以说工程类论文的重点是应用，其余的部分都是用于支撑该方法能解决问题的观点。
而机器学习介于两者之间，这一领域既有科学类论文（例如介绍反向传播的那篇），也有明显的工程类论文，其中描述了很实用的解决方法。但是大部分论文都更偏向工程一点，为了显示优越性，其中取消了特别的技巧，经过一些不重要的数据测试之后就宣布这种方法的成功。
除此之外还有第四种论文，它们的确包含某种观点，这种想法可能是有用的，但却是不值一提的。为了掩盖这令人尴尬的事实，作者们美名其曰这是“学术工程”，从而让论文看上去“高大上”了许多。
好巧不巧，uber最近就发表了这样一篇论文——an intriguing failing of convolutional neural networks and coordconv solution，下面我就要好好剖（shou）析（si）这一成果。
解剖开始
让我们直接进入正题
现在我们知道，这篇论文的中心是，研究者发现卷积神经网络在需要坐标的任务中表现得不是很好，详细地说，即输出标签或多或少的是输入元素坐标的正函数，并不表示输入的其他属性。
卷积网络确实在此类问题上表现的不好，因为特征映射的结构，从福岛邦彦提出新认知机（neocognitron）后，在设计时就忽略了这些坐标的位置。所以uber ai的作者提出了一种解决方法：在卷积层中加入坐标，将其当做额外的输入映射。
听起来这个方法很好，但是作者实际上提出的方法，也是很多从业者经常会想当然的方法——他们添加的特征更适合对想要的输出进行解码。任何从事计算机视觉的专家都不会对加入特征感到陌生，虽然这只是深度学习圈子里一个小话题。现如今，深度学习中的研究者们已然脱离了实际应用，声称我们应该只使用学到的特征，因为“这种方法更好”。这么说深度学习圈里的人们也开始认同特征工程了啊……
训练
不管怎样，这篇论文加入了一个特征，明确表示出了坐标的值。接着作者在一个名为“not-so-clevr”的数据集上进行测试（这个数据集的名字很皮），那么他们的试验是不是真的聪明呢？让我们进一步分析。
其中一个任务是基于坐标生成独热图像，或者从独热图像中生成坐标。他们表示在卷积网络中加入坐标的确可以大大提高性能。
等等，冷静一下，如果他们不直接上手tensorflow，而是直接创建一个神经网络来解决独热编码到坐标的变换问题的话……就不用任何训练啊。对于这个问题我会进行三种操作：卷积、非线性激励和求和。好在这些都是卷积神经网络的基础组成部分：
import scipy.signal as sp
import numpy as np
# fix some image dimensions
i_width = 100
i_height = 70
# generate input image
a=np.zeros((i_height,i_width))
# generate random test position
pos_x = np.random.randint(0, i_width-1)
pos_y = np.random.randint(0, i_height-1)
# put a pixel in a random test position
a[pos_y, pos_x]=1
# create what will be the coordinate features
x=np.zeros_like(a)
y=np.zeros_like(a)
# fill the x-coordinate value
for x in range(i_width):
x[:,x] = x
# fill the y-coordinate value
for y in range(i_height):
y[y,:] = y
# define the convolutional operators
op1 = np.array([[0, 0, 0],
[0, -1, 0],
[0, 0, 0]])
opx = np.array([[0, 0, 0],
[0, i_width, 0],
[0, 0, 0]])
opy = np.array([[0, 0, 0],
[0, i_height, 0],
[0, 0, 0]])
# convolve to get the first feature map dy
ca0 = sp.convolve2d(a, opy, mode='same')
cy0 = sp.convolve2d(y, op1, mode='same')
dy=ca0+cy0
# convolve to get the second feature map dx
ca1 = sp.convolve2d(a, opx, mode='same')
cx0 = sp.convolve2d(x, op1, mode='same')
dx=ca1+cx0
# apply half rectifying nonlinearity
dx[np.where(dx<0)]=0
dy[np.where(dy<0)]=0
# subtract from a constant (extra layer with a bias unit)
result_y=i_height-dy.sum()
result_x=i_width-dx.sum()
# check the result
assert(pos_x == int(result_x))
assert(pos_y == int(result_y))
print result_x
print result_y
一个热点位图进行坐标转换、一个卷积层、一个非线性激励、一个求和以及最后从一个减法，无需学习，50多行python代码，搞定。
接下来让我们试试在gan上进行合成生成任务，其中一个还有坐标特征，另一个没有。在论文的附录中有这么一个表格：
他们尝试在imagenet上将坐标特征添加到resnet-50网络的第一个图层上。我猜作者希望在这里看到较大的提升，因为imagenet的类别读数并不是位置的函数（如果这里存在偏差，那么训练时的数据增强过程就应该完全清除）。
所以他们用100个gpu进行了测试（100个啊！），但是直到小数点后第三位，结果才有些许提升。100个gpu就提高了这么一点儿，要不然让谷歌或者facebook的人用10000个gpu试试，说不定能在小数点后第二位就看到变化了呢（逃）。
总结
这篇论文的确吸引人，它在当下“一切向计算力看齐”的大背景下还能揭露深度学习的缺陷实属不易。但为什么是uber提出这个问题？如果是一些学生做出这样的成绩也就罢了，但是uber ai不是搞自动驾驶的吗？
更有意思的是这篇论文在推特上受到很多人，甚至深度学习专家的表扬。他们太过于看重gpu的表现力了，殊不知这明明只需要几行python就能解决……
提供显著跳频(FH)优势的下一代软件定义无线电收发器
因为武汉的疫情LCD今年要全面涨价了吗
一起看看怎么选择PCBA厂家
声、光双控延时开关电路原理图讲解
可变磁阻和涡流速度传感器真正的区别
深度学习上演“皇帝的新衣”如何剖析CoordConv?
基于HF0500和MP6907的笔记本电脑和手机45w type c适配器应用方案
华为p50pocket功能介绍
台湾力成将量产HBM芯片封测业务，预计今年年底客户验证完成
比克如何应对补贴政策调整
冷却液温度传感器的工作原理及作用解析
佳能6D Mark II最新消息：提前至七月发布 新增WiFi无线连接功能
华为Mate10什么时候上市？华为Mate10最新消息：华为Mate10提前爆出全面屏稳了，华为Mate9降价支持
英飞凌拟收购ST半导体,英飞凌一跃成为欧洲半导体巨头
外设SPI在SOC设计中的应用
SK海力士亮相2021重庆智博会,引领前沿科技,践行社会价值
最新开发分拣机器人或将代替快递打包员？
车联网，是潜力巨大的销售平台，更是高端服务平台
火电、水电、风电和光伏等发电技术的优缺点
可穿戴设备市场回暖 出货量不断攀升