AI换脸安全风险如何应用？用魔法打败魔法，AI检测模型上线
chatgpt横空出世，人工智能市场迎来快速的增长。数据显示，2022年我国人工智能市场规模达到2680亿元，预计2023年全年将达到3200亿元，同比增长达到33.8%。
如今，ai技术席卷各个行业，“ai歌手”就是其中的一个例子。只不过，若是科技不向善，ai就不是科技行业的“战士”，反而会成为一个“刺客”。在ai换脸技术为娱乐圈、直播圈带来新意时，一些因为ai换脸带来的骗局也是来势凶猛。如何用技术手段解决ai安全问题，成为业内人士需要解决的挑战。
当前，ai换脸技术制作出虚假的视频和图片可以以假乱真，用肉眼难以分辨出来。此前，有网友称接到熟人的视频电话，需要帮助其转账，在放松警惕之后受害人给对方转了132万。发现被骗后，受害人迅速报警追回被骗的132万元。
在ai换脸技术里面，“deepfake”是比较知名的技术之一。deepfake由deep machine learning（深度机器学习）和fake photo（假照片）组合而成。但这些技术也并非找不到破绽。用肉眼难以判断人脸是否真实存在还是由ai机器生成，而ai图像篡改检测模型等模型结构可以很好地进行鉴别。
合合信息智能创新事业部总经理唐琪在公开演讲时分享了以ai机器生成人脸的相关鉴别技术，他提到，由aigc生成的视频，因为视频本身具有连续的特征，所以会在人脸的周围会形成细微伪影。因此合合信息在特征提取器的浅层引入纹理增强模块放大浅层特征中的细微伪影，增强模型对真实人脸和伪造人脸的感知与判断准确度。
ai人脸和真实人脸的对比（图源：合合信息）
“因为不同的aigc模型或者不同aigc生成的形式，会在整个神经网络的不同层次留下不同的特征行为。所以我们引入了注意力机制，让模型可以很好地关注神经网络不同层级的特征和纹理特征，有效融合这些特征，从而增强模型对于不同aigc生成的人脸相关图像的辨别和感知能力，从而提高模型的有效性。”结合自身的研发方向和技术积累，合合信息推出了ai图像安全技术的解决方案。
ai换脸技术在几年前就已经被滥用，并且形成了黑色产业链，例如以前在淘宝、贴吧等平台搜索关键词，就会有相应的店铺或者商家出现在首页上。好消息是，随着人们安全意识的增强，相关平台都加大了审核力度。如今在淘宝上打入“ai换脸”等关键词已经不会出现相关店铺。
只不过店铺的关注并不意味这条产业链已经断裂，特别是随着aigc技术的成熟，不法分子利用ai技术的犯罪手段也越来越“高明”，他们利用伪造人脸进行身份验证、信用卡诈骗、身份冒用、远程会议等犯罪行为。
当这些假借ai的名头进行欺诈的现象大量涌现时，让人们开始质疑ai技术的安全性和可靠性。而ai技术带来的问题，最终仍需依赖于更为成熟、先进的科技手段和方法来逐一解决。现阶段，用ai检测模型已经成为解决ai安全的手段之一。
Senbiosys研发超薄智能戒指准确监测多项生命体征
钙钛矿太阳能电池又获新进展 功率转换效率达18．2％
密封型蓄电池
KVM切换设备在智慧医疗中智慧信息系统集成运营应用
预计AR和VR市场在2025年将达到5714.2亿美元
AI换脸安全风险如何应用？用魔法打败魔法，AI检测模型上线
可光束识别的激光对射探测器的技术特点是什么
3D电视立体成像分析
机械车间生产管理软件系统在加工中有何意义?
行芯荣登“中国集成电路与半导体领域最具成长性新经济企业TOP10”
OPPO Reno 3配置曝光，索尼IMX686传感器+双模5G
电源模块有什么用
详解LIN/CAN/FlexRay/MOST四大汽车总线
5G智慧合杆融入智慧城市，实现城市高质量发展
谷歌与IBM合作 欲主宰“云计算”
IBM 送给 AI 开发者的礼物：呆萌的入门级 Watson 机器人
汽车电子高分辨率雷达合适雷达MCU的匹配方案
集成滤纸的微流控器件用于生物负荷检测
电源管理芯片需求强劲,产能严重紧缺
我国怎么从5G技术标准的领先者，演变为5G网络商用部署时的跟随者呢？
如今，ai技术席卷各个行业，“ai歌手”就是其中的一个例子。只不过，若是科技不向善，ai就不是科技行业的“战士”，反而会成为一个“刺客”。在ai换脸技术为娱乐圈、直播圈带来新意时，一些因为ai换脸带来的骗局也是来势凶猛。如何用技术手段解决ai安全问题，成为业内人士需要解决的挑战。
当前，ai换脸技术制作出虚假的视频和图片可以以假乱真，用肉眼难以分辨出来。此前，有网友称接到熟人的视频电话，需要帮助其转账，在放松警惕之后受害人给对方转了132万。发现被骗后，受害人迅速报警追回被骗的132万元。
在ai换脸技术里面，“deepfake”是比较知名的技术之一。deepfake由deep machine learning（深度机器学习）和fake photo（假照片）组合而成。但这些技术也并非找不到破绽。用肉眼难以判断人脸是否真实存在还是由ai机器生成，而ai图像篡改检测模型等模型结构可以很好地进行鉴别。
合合信息智能创新事业部总经理唐琪在公开演讲时分享了以ai机器生成人脸的相关鉴别技术，他提到，由aigc生成的视频，因为视频本身具有连续的特征，所以会在人脸的周围会形成细微伪影。因此合合信息在特征提取器的浅层引入纹理增强模块放大浅层特征中的细微伪影，增强模型对真实人脸和伪造人脸的感知与判断准确度。
ai人脸和真实人脸的对比（图源：合合信息）
“因为不同的aigc模型或者不同aigc生成的形式，会在整个神经网络的不同层次留下不同的特征行为。所以我们引入了注意力机制，让模型可以很好地关注神经网络不同层级的特征和纹理特征，有效融合这些特征，从而增强模型对于不同aigc生成的人脸相关图像的辨别和感知能力，从而提高模型的有效性。”结合自身的研发方向和技术积累，合合信息推出了ai图像安全技术的解决方案。
ai换脸技术在几年前就已经被滥用，并且形成了黑色产业链，例如以前在淘宝、贴吧等平台搜索关键词，就会有相应的店铺或者商家出现在首页上。好消息是，随着人们安全意识的增强，相关平台都加大了审核力度。如今在淘宝上打入“ai换脸”等关键词已经不会出现相关店铺。
只不过店铺的关注并不意味这条产业链已经断裂，特别是随着aigc技术的成熟，不法分子利用ai技术的犯罪手段也越来越“高明”，他们利用伪造人脸进行身份验证、信用卡诈骗、身份冒用、远程会议等犯罪行为。
当这些假借ai的名头进行欺诈的现象大量涌现时，让人们开始质疑ai技术的安全性和可靠性。而ai技术带来的问题，最终仍需依赖于更为成熟、先进的科技手段和方法来逐一解决。现阶段，用ai检测模型已经成为解决ai安全的手段之一。
Senbiosys研发超薄智能戒指准确监测多项生命体征
钙钛矿太阳能电池又获新进展 功率转换效率达18．2％
密封型蓄电池
KVM切换设备在智慧医疗中智慧信息系统集成运营应用
预计AR和VR市场在2025年将达到5714.2亿美元
AI换脸安全风险如何应用？用魔法打败魔法，AI检测模型上线
可光束识别的激光对射探测器的技术特点是什么
3D电视立体成像分析
机械车间生产管理软件系统在加工中有何意义?
行芯荣登“中国集成电路与半导体领域最具成长性新经济企业TOP10”
OPPO Reno 3配置曝光，索尼IMX686传感器+双模5G
电源模块有什么用
详解LIN/CAN/FlexRay/MOST四大汽车总线
5G智慧合杆融入智慧城市，实现城市高质量发展
谷歌与IBM合作 欲主宰“云计算”
IBM 送给 AI 开发者的礼物：呆萌的入门级 Watson 机器人
汽车电子高分辨率雷达合适雷达MCU的匹配方案
集成滤纸的微流控器件用于生物负荷检测
电源管理芯片需求强劲,产能严重紧缺
我国怎么从5G技术标准的领先者，演变为5G网络商用部署时的跟随者呢？