AI会不会哪天就取代了人类？
编者按：很多科幻作品中，人工智能常与人类反目成仇，有些甚至强大到了能操纵、奴役、毁灭人类的程度。不管是《终结者》系列的天网，还是《西部世界》中反叛的机器人，或者《异形》中的大卫，人们对于机器人的发展，惊奇的同时，不免有很多担忧。但是，我们距离科幻世界中人类的末日还有多远？什么时候机器人会揭竿而起开始反叛呢？本文编译自hackernoon的原题为“the road to killer ai: ml + blockchain + iot + drones == skynet?”的文章。
随着ai的爆发式增长，越来越多的人开始忧心忡忡，他们担心的主要有两点：
1）ai会比人类更聪明
2）ai不再需要人类控制，甚至会反过来把地球接管了。
霍金就曾今在接受bbc采访时说：“人工智能的成熟之日，就是人类的毁灭之时。”马斯克也曾说，他觉得ai是人类面临的“最大的生存威胁”。
目前的ai，玩游戏已经比人类玩得溜了，不管是国际象棋，围棋，还是电子竞技游戏。所以说，无论是计算机时代前后的游戏，ai都赢过人类。
过去几年中，ai的“大跃进” 让不少人在惊叹的同时，也开始冒冷汗：ai会不会哪天就取代了人类？
在电影《终结者》里，天网是人类创造的一个防御网络，但最终获得自我意识并倒戈对抗。
听起来像科幻，但科幻小说里机器获得自我意识，并对抗人类的场景，层出不穷。
我们都知道《终结者》里的天网，挑战人类的 人工智能 超级电脑 ，在产生自我意识后，天网决定毁灭大多数人，剩下一部分当奴隶。
在黑客帝国中，超级智能机器也成为了人类的主宰。
而在有名的《黑客》三部曲中，超级智能机器也接管了世界，但它们没有毁灭人类，只是把人类当发电机：为了使用人脑产生的电，把人放在舱里，沉浸在游戏世界或者虚拟现实（矩阵）中。
而在电影《沙丘》中，一台电脑都没有，人类经过培训，自己做电脑的计算工作。而且，在奥兰治天主教圣经里有一天最重要的诫律：尔不得制造映象人的意识的机器。
为什么？因为在遥远的过去（对于21世纪，算是遥远的未来），人类曾经是超级智能的阶下囚。 巴特兰圣战 中，人类反抗并击败了omnius，一台几乎全知全能、拥有无数分身的机器。一朝被蛇咬，十年怕井绳，才有了这样一条诫律。
这类主题的科幻作品数不胜数，如果不是ai统治世界，就是机器人。美国军事科幻电视剧《星际大争霸》中，人类创造的机器人种族赛隆人，后来反叛并试图毁灭人类。最近描绘人类和机器人之间纠葛的的影视作品也不少，比如《西部世界》和《银翼杀手》。
噩梦是否会成真？
我觉得，目前的ai想要这样一手遮天，把人类当奴隶和蝼蚁，能力水平还有点欠缺。
要完成杀戮和囚禁这样的任务，光是ai和机器学习方面的进步还远远不够，还需要其他计算软件和硬件领域都齐头并进。
另一方面，上述的领域确实也在快速进步，比如我们常听到的区块链、点对点技术、物联网、机器人和无人机。虽说ai统治世界道阻且长，但这些领域的迅猛发展，可以让噩梦成真的速度大大加快。
我们的世界需要具备什么样的条件，才会进入科幻作品中噩梦般的未来呢？这条危险又黑暗的道路，得经过几个里程碑。
杀手ai的关卡
ai想要统治世界，得通过几个关卡。如果技术进步到了一定程度，这些关都过了，我们就真的应该像霍金或者马斯克一样担心了。
以下我列出的并非所有的关卡，技术发展过程中可能还要面对其他难关，但是以下是ai强大路上必须攻克的问题。
以下列出的四个关卡没有先后次序。为了让读者能将这些问题具象化，我决定继续援引电影的例子，并与现有的软件和硬件相比较。
第一关：ai和机器学习的应用不够广泛。
目前大多数ai能实现的任务很单一，很具体。我们的很多活动都有ai可以做：打游戏、开车、预测股市走势、交流、分析影像、做诊断，但是没有哪个ai可以同时完成多项任务。ai的发展有好几个浪潮：现在的ai是第二波，数据驱动机器学习的人工智能，而第一波更倾向于启发式（指依据有限的知识和不完整的信息，在短时间内找到问题解决方案），未来的ai会结合以上两种方法和其他方法，变得更通用，应用更广泛。这个关卡会引发广泛的讨论：我们目前的ai和机器学习能走多远，现有的ai功能会广泛到什么程度。
第二关：ai控制物理世界的难易程度。
我们目前的人工只能还只是服务器上运行的软件，不意味着它能意识到物理世界的存在，也接触不到武器，它不能控制机器人或者无人车，也不像《终结者》中的h-k机器人（天网的机器人士兵）。这个关卡会让我们联想到物联网，机器视觉和ai控制物理世界方面的问题。
第三关：关不掉的ai。
某种程度上，这个关卡是我列出的4个中最重要的。只要人类没有走到关不掉ai的地步，就算ai不听话，开始谋反，我们手上好歹有个“开关”，不管是真的按下按钮关掉，还是需要毁掉有形的微处理器或者虚拟机软件。这个关卡引发的讨论主要在于：目前的ai都依附于某种形式的计算机技术，那区块链和点对点系统会不会就是某个关不掉的“天网”的前身？
第四关：具有自我意识、将保全自身视为首要任务的ai
这个关卡有点难定义。我们需要问自己几个问题：什么叫“有自我意识”？什么叫“将保全自身视为首要任务”?ai还有那些任务和“观念”？ai不一定会有生存的意愿。这个关卡更多讨论的是ai和价值观。
让我们仔细探讨一下以上提到的关卡。
低功耗触摸芯片VKD233DH/HH概述及特点
2021年web开发行业的七大趋势
Dogotix正式发布了两款进入批量生产阶段的第二代四足机器人
受毛利下滑与人民币贬值等影响，舜宇光学科技2018年增收不增利
日本国内的白色家电销售表现强劲
AI会不会哪天就取代了人类？
华为荣耀Magic新机将发布：售价9999元？是概念机？还是未来手机？
空调制热原理简单说明 空调制热开辅热和不开辅热的区别
购买示波器时的技巧之这些探头接口你得懂
从STM32F103到ACM32F403的U盘程序移植工程
乾鸿微电子正式加入深圳市人工智能产业协会！
物联网进入到跨界融合集成创新的新阶段
霍尔速度方向传感器AH710在管状电机智能感应器风速检测中的应用
物联网网关是什么，该怎么选？
元宇宙数字货币龙头
技术专长：两种激光雷达车用方案
2023北京智源大会亮点回顾 | 高性能计算、深度学习和大模型：打造通用人工智能AGI的金三角
明天见！华为亚太合作伙伴大会2023来了
撬动数据中心蓝海，加速AI应用——FPGA繁荣启示
油烟在线监测-智慧化餐饮油烟浓度监测系统
随着ai的爆发式增长，越来越多的人开始忧心忡忡，他们担心的主要有两点：
1）ai会比人类更聪明
2）ai不再需要人类控制，甚至会反过来把地球接管了。
霍金就曾今在接受bbc采访时说：“人工智能的成熟之日，就是人类的毁灭之时。”马斯克也曾说，他觉得ai是人类面临的“最大的生存威胁”。
目前的ai，玩游戏已经比人类玩得溜了，不管是国际象棋，围棋，还是电子竞技游戏。所以说，无论是计算机时代前后的游戏，ai都赢过人类。
过去几年中，ai的“大跃进” 让不少人在惊叹的同时，也开始冒冷汗：ai会不会哪天就取代了人类？
在电影《终结者》里，天网是人类创造的一个防御网络，但最终获得自我意识并倒戈对抗。
听起来像科幻，但科幻小说里机器获得自我意识，并对抗人类的场景，层出不穷。
我们都知道《终结者》里的天网，挑战人类的 人工智能 超级电脑 ，在产生自我意识后，天网决定毁灭大多数人，剩下一部分当奴隶。
在黑客帝国中，超级智能机器也成为了人类的主宰。
而在有名的《黑客》三部曲中，超级智能机器也接管了世界，但它们没有毁灭人类，只是把人类当发电机：为了使用人脑产生的电，把人放在舱里，沉浸在游戏世界或者虚拟现实（矩阵）中。
而在电影《沙丘》中，一台电脑都没有，人类经过培训，自己做电脑的计算工作。而且，在奥兰治天主教圣经里有一天最重要的诫律：尔不得制造映象人的意识的机器。
为什么？因为在遥远的过去（对于21世纪，算是遥远的未来），人类曾经是超级智能的阶下囚。 巴特兰圣战 中，人类反抗并击败了omnius，一台几乎全知全能、拥有无数分身的机器。一朝被蛇咬，十年怕井绳，才有了这样一条诫律。
这类主题的科幻作品数不胜数，如果不是ai统治世界，就是机器人。美国军事科幻电视剧《星际大争霸》中，人类创造的机器人种族赛隆人，后来反叛并试图毁灭人类。最近描绘人类和机器人之间纠葛的的影视作品也不少，比如《西部世界》和《银翼杀手》。
噩梦是否会成真？
我觉得，目前的ai想要这样一手遮天，把人类当奴隶和蝼蚁，能力水平还有点欠缺。
要完成杀戮和囚禁这样的任务，光是ai和机器学习方面的进步还远远不够，还需要其他计算软件和硬件领域都齐头并进。
另一方面，上述的领域确实也在快速进步，比如我们常听到的区块链、点对点技术、物联网、机器人和无人机。虽说ai统治世界道阻且长，但这些领域的迅猛发展，可以让噩梦成真的速度大大加快。
我们的世界需要具备什么样的条件，才会进入科幻作品中噩梦般的未来呢？这条危险又黑暗的道路，得经过几个里程碑。
杀手ai的关卡
ai想要统治世界，得通过几个关卡。如果技术进步到了一定程度，这些关都过了，我们就真的应该像霍金或者马斯克一样担心了。
以下我列出的并非所有的关卡，技术发展过程中可能还要面对其他难关，但是以下是ai强大路上必须攻克的问题。
以下列出的四个关卡没有先后次序。为了让读者能将这些问题具象化，我决定继续援引电影的例子，并与现有的软件和硬件相比较。
第一关：ai和机器学习的应用不够广泛。
目前大多数ai能实现的任务很单一，很具体。我们的很多活动都有ai可以做：打游戏、开车、预测股市走势、交流、分析影像、做诊断，但是没有哪个ai可以同时完成多项任务。ai的发展有好几个浪潮：现在的ai是第二波，数据驱动机器学习的人工智能，而第一波更倾向于启发式（指依据有限的知识和不完整的信息，在短时间内找到问题解决方案），未来的ai会结合以上两种方法和其他方法，变得更通用，应用更广泛。这个关卡会引发广泛的讨论：我们目前的ai和机器学习能走多远，现有的ai功能会广泛到什么程度。
第二关：ai控制物理世界的难易程度。
我们目前的人工只能还只是服务器上运行的软件，不意味着它能意识到物理世界的存在，也接触不到武器，它不能控制机器人或者无人车，也不像《终结者》中的h-k机器人（天网的机器人士兵）。这个关卡会让我们联想到物联网，机器视觉和ai控制物理世界方面的问题。
第三关：关不掉的ai。
某种程度上，这个关卡是我列出的4个中最重要的。只要人类没有走到关不掉ai的地步，就算ai不听话，开始谋反，我们手上好歹有个“开关”，不管是真的按下按钮关掉，还是需要毁掉有形的微处理器或者虚拟机软件。这个关卡引发的讨论主要在于：目前的ai都依附于某种形式的计算机技术，那区块链和点对点系统会不会就是某个关不掉的“天网”的前身？
第四关：具有自我意识、将保全自身视为首要任务的ai
这个关卡有点难定义。我们需要问自己几个问题：什么叫“有自我意识”？什么叫“将保全自身视为首要任务”?ai还有那些任务和“观念”？ai不一定会有生存的意愿。这个关卡更多讨论的是ai和价值观。
让我们仔细探讨一下以上提到的关卡。
低功耗触摸芯片VKD233DH/HH概述及特点
2021年web开发行业的七大趋势
Dogotix正式发布了两款进入批量生产阶段的第二代四足机器人
受毛利下滑与人民币贬值等影响，舜宇光学科技2018年增收不增利
日本国内的白色家电销售表现强劲
AI会不会哪天就取代了人类？
华为荣耀Magic新机将发布：售价9999元？是概念机？还是未来手机？
空调制热原理简单说明 空调制热开辅热和不开辅热的区别
购买示波器时的技巧之这些探头接口你得懂
从STM32F103到ACM32F403的U盘程序移植工程
乾鸿微电子正式加入深圳市人工智能产业协会！
物联网进入到跨界融合集成创新的新阶段
霍尔速度方向传感器AH710在管状电机智能感应器风速检测中的应用
物联网网关是什么，该怎么选？
元宇宙数字货币龙头
技术专长：两种激光雷达车用方案
2023北京智源大会亮点回顾 | 高性能计算、深度学习和大模型：打造通用人工智能AGI的金三角
明天见！华为亚太合作伙伴大会2023来了
撬动数据中心蓝海，加速AI应用——FPGA繁荣启示
油烟在线监测-智慧化餐饮油烟浓度监测系统