看看Arm与合作伙伴设计了哪些有大脑的智能手机摄像头

移动仍然是一个充满活力的行业,技术创新为这个行业带来了繁荣,特别是围绕摄像头相关技术。2017 年,使用移动设备拍摄的照片有超过 1.2 万亿(即 1,200,000,000,000)张,智能手机每年的出货量超过 15 亿部,它不仅是驱动技术创新的平台和创造经济收益的主要载体,还是能够触及全球大多数人的平台。arm近期在该领域展开一系列协作,我们一起来看看。
与 facebook 合作优化面向移动设备的机器学习
facebook 利用各种先进技术帮助开发人员打造创新型移动体验,将全世界用户连接在一起,去年在 facebook f8 会议上推出的camera effects platform就是一例。
这些功能采用 facebook 的机器学习技术来增强移动用户摄像头的智能和性能,arm 与 facebook 携手合作,共同优化 arm mali 图形处理单元 (gpu) 的 caffe2 机器学习框架。
2017 年,两家公司共同优化了 arm mali gpu 的关键机器学习神经网络,我们荣幸地宣布这些代码现在可供开发人员免费下载。可从compute library直接获取这些代码,或与caffe2 框架结合使用。
caffe2 是一种轻型可扩展框架,用于机器学习模型的开发和部署。从数据中心到移动设备和嵌入式设备,caffe2 的使用范围非常广泛,模块化和灵活性使其成为机器学习开发人员的理想之选。
多亏 arm 和 facebook 的协作,caffe 2 开发人员现在能够在采用 arm gpu 的移动设备上实现性能改进。这种协作还将通过 compute library 的现有 api 延伸到未来的 arm ml 处理器。
caffe2 框架可兼容新型arm 机器学习平台,还能通过 compute library 的现有 api 以及新发布的arm nn 软件,充分利用当前和未来的arm 机器学习处理器。
此外,arm 致力于打造开放标准,正因如此,我们加入了由 amazon、 facebook 和 microsoft 发起的 onnx 社区项目,努力实现各种人工智能网络模型之间的互操作性 (http://onnx.ai)。
更智能、更高能效的摄像头
多年以来,arm 与arcsoft密切协作,优化了多家移动设备 oem 的摄像头技术。在今年的世界移动大会上,arm演示arcsoft picselfie 技术,该技术即得益于新的google android 神经网络 api。
arcsoft picselfie 技术工作原理
1.拍照时,用户一般会将智能手机摄像头指向拍摄主体:拍摄主体可能是一个人、一群人、一件物体,甚至是风景。
2.arcsoft picselfie 引擎通过智能化方式区分照片的拍摄主体,确定哪些要素构成背景,然后针对每个要素应用不同的处理技术。
3.对于背景,算法将应用 bokeh 效果,让背景变得模糊,从而突出拍摄主体。
4.对于照片的主要拍摄主体,算法将自动应用美化。
所有这些工作实时进行,由软件通过智能化方式动态完成。这种技术适用于单镜头和双镜头设备,但在双镜头设备中,由于深度计算更加精确,因而性能和质量都得以改进。
arcsoft picselfie - 该算法的双镜头版本
这种技术是独一无二的,因为该应用程序使用去年新推出的google android 神经网络 api (nnapi),运行 android 8.1(api 级别 27)或更高版本的设备都能支持。这种技术将适用于搭载了使用 arm neon 加速技术的 arm cortex cpu 的所有设备。但是,通过上文提及的arm nn和compute library,应用程序能够利用 mali gpu 等其他硬件,提高性能和响应能力。
在只有单个摄像头(无深度信息)的设备上,该算法使用传统的分割算法,将拍摄主体与背景隔离开。它使用 mali gpu,通过 google android nnapi 加快分隔阶段,该 api 已经可以充分利用 arm nn 软件。
下图是单摄像头设备的各个处理阶段的概览,其中的分隔算法由使用 arm nn 的 gpu 执行:
arcsoft picselfie - 算法的单镜头版本(框图)
arcsoft picselfie - 算法的双镜头版本(框图)
arcsoft 的初始分析表明,当使用 gpu 来加快机器学习工作负载时,通常可将性能提升 30%,同时将能耗降低 20%。

iPhone和iPad操作系统的隐私将在初春更新
单晶片PLL电路
钢制圆六柱型散热器介绍
华为获GTI Awards 2022奖项 中兴通讯专网即服务助力运营商发展
区块链能否解决流量造假的问题
看看Arm与合作伙伴设计了哪些有大脑的智能手机摄像头
北京索爱普天工厂3月底停产,手机生产将转移至泰国,成本降一半
表贴电容的分类
丰田chr最新消息:丰田CHR在日本美国热卖,年底入中国市场,这车一上市又会掀起SUV市场的血雨腥风!
台湾六大电子代工企业2016年第三季度财报汇总
日本Rapidus决定2024年底引入EUV*** 员工赴ASML学习
人形机器人产业链及相关上市公司梳理
HT48R05A-1输入输出端口
海立与全球知名的汽车零部件供应商马瑞利宣布合资项目达成一致
鸿利智汇发布公告称拟与关联方共同设立产业基金
如何制作ICO图标文件
网络安全的未来在哪里
四维图新MineCIM通过CIM软件测评 瑞萨电子推出可编程智能栅极驱动器
菲亚特克莱斯勒和标致雪铁龙两大汽车制造商合并在即
FX3U系列PLC型号代表什么意思