先考虑AI带来的好处还是带来的忧患

人工智能(ai)是现时每家公司都希望采用的科技,事关通过先进的 ai 技术,将可望减少人手!不过大家先别太高兴,事关人工智能亦会带来了一系列法规上的问题,假如你身处在一个依法治国的地方,便要多加留意啦!
ai 以及机器学习等,由于需要通过收集大量数据以完成机器学习的过程,因此在企业角度来说,稍一不慎便很容易误堕法网,尤其是对于某些行业,例如:医疗保健以及金融业等,便需更加注意;但相对的,当企业欠缺足够的数据进行分析,亦会对 ai 以及大数据分析有明显的影响。
使用 ai 的风险
首先是金融公司。对她们来说,虽然使用 ai 可令投资决策更精准,不过错误使用 ai 例如错误采用不同的算法内容,便有机会令投资者做错决定。
至于医疗保健行业,现时采用 ai 以及机器学习等技术,主要用于进行各种的辨识功能,例如可识别诊断医疗影像中的情况!尽管这些基于 ai 及机器学习的识别会随着时间而变得愈来愈精准,然而由于识别过程之中欠缺将病人的病历以及习惯或患者的其他背景信息一并作考虑,因此与人工智能和机器学习所得出的结果可能很窄且不完整,而单单依赖这些结果而没有医学判断实际上还会导致更差的结果。
另外,ai 亦会犯错!面对此情况,人类和机器的角色和责任又会是什么呢?机器如何做出决定并自主地学习以获得更好的结果?如果你认为人工智能是「工厂」,输出或决策是根据自我学习而制定的,那么人类的角色就是设计部门,通过良好的策略制定而使其产生可接受的结果以及降低错误所造成的损失;而作为人类,我们有责任确保这个学习过程的质量。
然而随着机器能够自己做出决定,我们亦同样需要考虑他们所犯的错误及其后果,以便设计合适的监管方法。
需要考虑的法律问题
除了监管方面,使用人工智能还需考虑法律上的问题,其中主要的问题是:假如机器得出错误的结论而造成可能有害的行动,谁将会为此而负责?是计算机?ai?还是开发者?
例如,出现医疗事故,是医生或医疗中心的问题,还是应用开发者及负责人的问题?又例如,患者明确要求以 ai 系统进行治疗,那又要怎么办?
另外在金融行业之中,如果使用人工智能来帮助收集财务信息,那么我们可能需要有一名主管签名并证明所提供用来分析的信息是准确的,事关不准确的数据源将会导致作出错误的投资决定。
换句话说,即使人工智能作出了任何的决定,都必须经人手再次确认,才可解决法规以及法律上的责任问题,亦即是说 ai 在某些行业之中并不能有效地发挥其作用。
安全 ai 最佳实践
其实我们可以作一些准备以防范与人工智能相关的法律和合规性风险。其中一个最关键的事情,就是彻底掌握机器如何做出决定。这意味着理解立法机构,法院和陪审团可能会对创建和部署系统的人产生不满,亦即是说开发者拥有很大的责任。
公司亦可能需要考虑他们是否可以设计一个系统,以便在满足监管机构和法律门坎的水平上的要求,而监管机构则可以通过责任规则和其他方法来鼓励这种透明度;企业亦应参与制定管理其运营规则的相关监管机构的规则制定,以确保其切实可行。


同茂自研自产自销音圈马达的分类
M1芯片区域在SoC方面进行了优化
区块链技术必将在新一轮的数字经济大潮中发挥着愈来愈重要的作用
复旦微MCU亮相深圳国际电子展,助力“芯”时代
FPGA设计的“三个代表”:Ultrafastdesign methodology
先考虑AI带来的好处还是带来的忧患
世博安防新技术抢先秀:机器人 RFID
LED照明技术、模式双重裂变 产业结构或将改变
数字币交易平台OKEX微信公众号被封 疑因被用户举报
三星携EUV微影技术7nm工艺加入半导体制程大战
电源中的EMI和EMC有什么区别?
一文读懂什么是数字 IC 设计
美国研发由光和磁场驱动的软体水生机器人
安森美发布2021年第2季度业绩报告
米尔科技MYD-Y7Z010/20开发板介绍
NUS开发可永久运行微型视觉处理芯片
解决方案 | 传感器如何助力电动剃须刀实现自动化生产?
谷歌新品发布会提前看 苹果目标股价被上调
vivo发力研发与投资:引领中国手机市场迈向全球高端
Teledyne将以总价值约80亿美元的现金和股票收购FLIR