机器学习和ai继续深入it服务中,并补充软件工程师开发的应用程序。如果it团队想跟上这种步伐,必须提高他们的机器学习技能。
云计算服务支持构建和部署ai及机器学习应用程序的各种功能。在很多方面,ai系统的管理与it专业人员在云端熟悉的其他软件非常相似。但是,仅仅因为某人可以部署应用程序,并不一定意味着他们可以成功部署机器学习模型。
尽管这些共性可能会加快过渡,但仍存在重大差异。除了软件工程技能外,你的it团队成员还需要特定的机器学习和ai知识。除技术专长外,他们还需要了解当前可用于支持其团队计划的云计算工具。
下面让我们探索it专业人员在云端成功利用ai所需的5个机器学习技能,并了解amazon、微软和谷歌为支持这些技能所提供的产品。在这些技能集中,虽然存在一些重叠,但不要期望一个人具备所有技能。通过组建具有这些技能的人员的团队,可使你的企业处于最佳位置,以利用基于云的机器学习。
1.数据工程
如果it专业人员想在云端实现任何类型的ai策略,都需要了解数据工程。数据工程包含一系列技能,这涉及数据整理和工作流开发领域,以及软件架构知识。
it专业知识的这些不同领域可以分解为it专业人员应完成的不同任务。例如,数据整理通常涉及数据源标识、数据提取、数据质量评估、数据集成以及在生产环境中执行这些操作的管道开发。
数据工程师应该习惯使用关系数据库、nosql数据库和对象存储系统。python是一种流行的编程语言,可结合批处理和流处理平台(例如apachebeam)以及分布式计算平台(例如apachespark)使用。即使你不是专业的python程序员,只要具备一定的语言知识,你都可以从针对数据工程和机器学习的各种开源工具中提高技能。
数据工程在所有主要云端都得到很好的支持。aws提供全面的服务来支持数据工程,例如awsglue、amazonmanagedstreamingforapachekafka(msk)和各种amazonkinesis服务。awsglue是数据目录以及提取、转换和加载(etl)服务,其中包括对计划作业的支持。msk是数据工程管道的有用构建块,而kinesis服务对于部署可扩展流处理管道特别有用。
googlecloudplatform则提供clouddataflow,这是一项托管的apachebeam服务,支持批处理和steam处理。对于etl流程,googleclouddatafusion提供基于hadoop的数据集成服务。microsoftazure还提供多种托管数据工具,例如azurecosmosdb、datacatalog和datalakeanalytics等。
2.模型构建
机器学习是发展良好的学科,你可以通过研究和开发机器学习算法来发展自己的职业。
it团队使用工程师提供的数据来构建模型,并创建软件以提出建议、预测价值和对条目进行分类。重要的是要了解机器学习技术的基础知识,即使很多模型构建过程都是在云端自动完成。
作为模型构建者,你需要了解数据和业务目标。你需要构想解决方案来解决问题,并了解如何将其与现有系统集成。
现在市场上提供现成的产品,例如谷歌的cloudautoml,这套服务可以帮助你使用结构化数据以及图像、视频和自然语言来构建自定义模型,而无需对机器学习有太多的了解。而azure在visualstudio中提供ml.net模型构建器,该模型构建器提供界面用于构建、训练和部署模型。
amazonsagemaker是另一项托管服务,用于在云端构建和部署机器学习模型。这些工具可以选择算法,确定数据中哪些特征或属性最有价值,并使用称为超参数调整的过程优化模型。这些服务扩展了机器学习和ai策略的潜在用途。正如你不需要成为机械工程师就能驾驶汽车一样,你也不需要机器学习的研究生学位即可建立有效的模型。
3.公平与偏差检测
算法做出的决策将直接且显着影响个人。例如,金融服务利用ai做出有关信贷的决策,这可能会无意中偏向特定人群。这不仅可能因拒绝信贷来伤害个人,而且还使金融机构面临违反《平等信贷机会法》等法规的风险。
这些看似艰巨的任务对于ai和机器学习模型是不可避免的事情。检测模型中的偏差可能需要精通的统计和机器学习技能,但与模型构建一样,某些繁重的工作可以由机器完成。
fairml是用于审核预测模型的开源工具,可帮助开发人员识别工作中的偏见。检测模型偏差的经验还可以帮助告知数据工程和模型构建过程。googlecloud的公平性工具在市场上领先,其中包括what-iftool、fairnessindicators和explainableai服务。
4.模型性能评估
模型构建过程的一部分是评估机器学习模型的性能。例如,分类分析是根据准确性、精确度和召回率进行评估。而回归模型(例如预测房屋出售价格的模型)通过测量其平均错误率进行评估。
现在表现良好的模型将来可能会表现不佳。这里问题不是,该模型会以某种方式被破坏,而是训练该模型数据会过时,而无法再反映未来世界的情况。即使没有突然的重大事件,也会发生数据漂移。重要的是评估模型并在生产中继续对其进行监视。
amazonsagemaker、azuremachinelearningstudio和googlecloudautoml等服务都包含模型性能评估工具。
5.领域知识
领域知识并不是专门的机器学习技能,而是成功机器学习策略中最重要的部分之一。
每个行业都有自己的知识体系,因此需要对相关行业进行研究,尤其是在构建算法决策工具时。机器学习模型受限于用于训练它们的数据。而具有领域知识的人可以知道在哪里应用ai并评估其有效性。
膜式燃气表检定规程
工业4.0时代,增强现实技术如何变革制造业
ACEINNA发布新款传感器模块MTLT305D
人事再调整、静待5G机会 魅族能否崛起?
地平线正式开源Sparse4D算法
IT团队提升机器学习的五个技能分享
大数据是如何保护传输文件安全
开发者如何在iOS 14.5新规下正确部署解决方案
三星16GB LPDDR5内存开始量产,内存速率有5500Mps
什么是耦合?收音机放大电路中的耦合是什么意思?
家电业新网红赵勇切出国货自信
OPPO稳坐第一,华为不惧,小米很苦逼!
了解配对遥控器无法使用的原因——让自己也能做维修
Samsung 宣佈开始量产 10nm DRAM
智慧养老解决方案
思歌锁业科技A012-AC/SN/SG门锁介绍
IT6722(A)可编程直流电源的“刹车系统”——OVP&OCP功能
李彦宏:年轻人应到大城市 百度无人车将亮相互联网大会
玩和平精英用哪个蓝牙耳机好?和平精英吃鸡耳机排行榜
什么是物联网云平台,上云助手介绍