DARPA与英特尔合作研发机器学习“免疫系统”
（文章来源：cnbeta）
机器学习系统在面部识别系统到自主车辆等所有领域的普及，伴随着攻击者想方设法欺骗算法的风险。简单的技术已经在测试条件下起了作用，研究人员有兴趣找到减轻这些和其他攻击的方法。国防部高级研究项目局（darpa）已经找来了英特尔和佐治亚理工学院（georgia tech），负责领导旨在防御机器学习算法对抗欺骗攻击的研究。
欺骗攻击在实验室测试之外很少见，但在实操环境下可能会造成重大问题。例如，mcafee早在2月份就曾报道，研究人员通过在限速标志上贴上两英寸的黑色电子胶带，欺骗了特斯拉model s中的速度辅助系统，使其超速行驶50英里/小时。还有其他的例子也不胜枚举，这证明欺骗人工智能并不算困难，几乎谁都能做到。
darpa认识到欺骗攻击可能会对任何使用机器学习的系统构成威胁，并希望主动出击，减轻这种企图。因此，大约一年前，该机构制定了一个名为gard的计划，即garanging ai robustness against deception的缩写。英特尔已经同意成为与乔治亚理工学院合作的四年期gard计划的主要承包商。
英特尔和佐治亚理工学院合作，共同推进生态系统对人工智能和ml漏洞的集体理解和能力，darpa gard计划的首席工程师和研究人员jason martin说。通过对相干技术的创新研究，我们正在合作研究一种方法，以增强对象检测，提高ai和ml应对对抗性攻击的能力。
目前的欺骗缓解的主要问题是基于规则的、静态的设定。如果规则不被打破，欺骗就能成功。由于欺骗人工智能的方式几乎有无数种，仅仅受限于攻击者的想象力，因此需要开发出更好的系统。英特尔公司表示，该计划的初始阶段将着重于利用图像和视频中的空间、时间和语义的一致性来改进物体检测。
darpa信息创新办公室的项目经理hava siegelmann博士设想的系统与人类的免疫系统并无不同，你可以把它称为另一个机器学习系统中的机器学习系统。
我们希望产生的那种基于广泛场景的防御，可以在免疫系统中看到，比如说，免疫系统可以识别攻击，成功拦截后记住本次攻击的方式，以便在未来的交战中创造出更有效的反应。siegelmann博士说。我们必须确保机器学习是安全的，不能被欺骗。
东芝与两家公司达成合作,共同研发量子秘钥分发技术
SAR解决方案出台 助力解决无线射频曝露难题
2019《区块链技术赋能实体经济峰会》在泉州召开，MXC抹茶商学院参与主办
互联网经济快速更迭 传统行业企业面临重重挑战
松下电器6套方案，助力制造行业”现场流程革新”
DARPA与英特尔合作研发机器学习“免疫系统”
变电站自动化系统存在问题的分析探讨
全球第一个5G通用标准有望于明年年中发布
ContrastVR即将推出VR纪录片可以让观众们获得新的知识
中美国是电商物流的两个重要市场 对配送型机器人研发投入也最大
浅析重锤式料位计常见故障及产生的原因
机器人伴侣正在降临人间,2045年人类将有可能与机器人结婚？
如何实现电子密码锁的设计
RFID超高频在服装行业的信息化管理
探究新阶段我国锂电行业对机器人的需求状况
语音模块能给智能家居风扇带来什么？
智能锁领域超低功耗WT2003H B005超声波ToF测距语音模块
浙大分子影像领域国家自然科学基金重点项目启动
智慧城市中应用了哪一些技术
SimpleLink Wi-Fi CC3200物联网解决方案（1）
机器学习系统在面部识别系统到自主车辆等所有领域的普及，伴随着攻击者想方设法欺骗算法的风险。简单的技术已经在测试条件下起了作用，研究人员有兴趣找到减轻这些和其他攻击的方法。国防部高级研究项目局（darpa）已经找来了英特尔和佐治亚理工学院（georgia tech），负责领导旨在防御机器学习算法对抗欺骗攻击的研究。
欺骗攻击在实验室测试之外很少见，但在实操环境下可能会造成重大问题。例如，mcafee早在2月份就曾报道，研究人员通过在限速标志上贴上两英寸的黑色电子胶带，欺骗了特斯拉model s中的速度辅助系统，使其超速行驶50英里/小时。还有其他的例子也不胜枚举，这证明欺骗人工智能并不算困难，几乎谁都能做到。
darpa认识到欺骗攻击可能会对任何使用机器学习的系统构成威胁，并希望主动出击，减轻这种企图。因此，大约一年前，该机构制定了一个名为gard的计划，即garanging ai robustness against deception的缩写。英特尔已经同意成为与乔治亚理工学院合作的四年期gard计划的主要承包商。
英特尔和佐治亚理工学院合作，共同推进生态系统对人工智能和ml漏洞的集体理解和能力，darpa gard计划的首席工程师和研究人员jason martin说。通过对相干技术的创新研究，我们正在合作研究一种方法，以增强对象检测，提高ai和ml应对对抗性攻击的能力。
目前的欺骗缓解的主要问题是基于规则的、静态的设定。如果规则不被打破，欺骗就能成功。由于欺骗人工智能的方式几乎有无数种，仅仅受限于攻击者的想象力，因此需要开发出更好的系统。英特尔公司表示，该计划的初始阶段将着重于利用图像和视频中的空间、时间和语义的一致性来改进物体检测。
darpa信息创新办公室的项目经理hava siegelmann博士设想的系统与人类的免疫系统并无不同，你可以把它称为另一个机器学习系统中的机器学习系统。
我们希望产生的那种基于广泛场景的防御，可以在免疫系统中看到，比如说，免疫系统可以识别攻击，成功拦截后记住本次攻击的方式，以便在未来的交战中创造出更有效的反应。siegelmann博士说。我们必须确保机器学习是安全的，不能被欺骗。
东芝与两家公司达成合作,共同研发量子秘钥分发技术
SAR解决方案出台 助力解决无线射频曝露难题
2019《区块链技术赋能实体经济峰会》在泉州召开，MXC抹茶商学院参与主办
互联网经济快速更迭 传统行业企业面临重重挑战
松下电器6套方案，助力制造行业”现场流程革新”
DARPA与英特尔合作研发机器学习“免疫系统”
变电站自动化系统存在问题的分析探讨
全球第一个5G通用标准有望于明年年中发布
ContrastVR即将推出VR纪录片可以让观众们获得新的知识
中美国是电商物流的两个重要市场 对配送型机器人研发投入也最大
浅析重锤式料位计常见故障及产生的原因
机器人伴侣正在降临人间,2045年人类将有可能与机器人结婚？
如何实现电子密码锁的设计
RFID超高频在服装行业的信息化管理
探究新阶段我国锂电行业对机器人的需求状况
语音模块能给智能家居风扇带来什么？
智能锁领域超低功耗WT2003H B005超声波ToF测距语音模块
浙大分子影像领域国家自然科学基金重点项目启动
智慧城市中应用了哪一些技术
SimpleLink Wi-Fi CC3200物联网解决方案（1）