estimator提供了大量用于在 tensorflow 中处理线性模型的工具(以及其他工具)。本文简要介绍了这些工具,并阐述了以下内容:
什么是线性模型
为何要使用线性模型
estimator 如何使您能够轻松地在 tensorflow 中构建线性模型
如何使用 estimator 将线性模型与深度学习相结合,从而汲取二者的优势
您可以阅读这篇概述文章,判断 estimator 的线性模型工具是否对您有用。然后,阅读estimator 宽度学习和深度学习教程(https://github.com/tensorflow/models/tree/master/official/wide_deep),并放手一试。这篇概述文章使用了此教程中的代码示例,但此教程更详细地介绍了代码。
对基本的机器学习概念以及estimator有一定了解将有助于理解这篇概述文章。
什么是线性模型?
线性模型使用特征的单个加权和进行预测。举例来说,如果您有关于人口年龄、受教育年数和每周工作时长的数据,那么模型可以学习每个数值的权重,并通过加权和估算某个人的薪水。您还可以使用线性模型进行分类。
一些线性模型会将加权和转换为一种更便利的形式。例如,逻辑回归将加权和代入逻辑函数,以将输出转换为介于 0 和 1 之间的值。不过,每个输入特征仍然只有一个权重。
为何要使用线性模型?
近期研究已证实具有多层的更复杂神经网络具有强大的功能,为何还要使用如此简单的模型?
线性模型:
与深度神经网络相比,训练速度快
可以在非常大的特征集上取得很好的效果
可以使用无需反复调整学习速率等因素的算法进行训练
可以比神经网络更轻松地进行解读和调试。您可以检查分配给每个特征的权重,确定哪些特征对预测结果的影响最大
为理解机器学习提供了一个很好的起点
有广泛的行业应用
estimator 如何帮助您构建线性模型?
您可以在 tensorflow 中从头开始构建线性模型,而无需借助于特殊的 api。不过,estimator 提供了一些工具,使您可以更轻松地构建有效的大型线性模型。
特征列和转换
设计线性模型的主要操作包括将原始数据转换为合适的输入特征。tensorflow 使用featurecolumn抽象类来实现此类转换。
featurecolumn表示数据中的单个特征。featurecolumn可能表示 “height” 等数量,也可能表示 “eye_color” 等类别(值来自一组离散概率,如 {'blue','brown','green'})。
对于 “height” 等连续特征和 “eye_color” 等类别特征,数据中的单个值可能先转换为数字序列,然后再输入到模型中。尽管如此,您还是可以通过featurecolumn抽象类将该特征视为单个语义单元进行操作。您可以指定转换并选择要包括的特征,而无需处理馈送到模型的张量中的特定索引。
稀疏列
线性模型中的类别特征通常被转换为稀疏向量,其中每个可能的值都具有对应的索引或 id。例如,如果只有 3 种可能的眼睛颜色,您可以将 “eye_color” 表示为长度为 3 的向量:“brown” 为 [1, 0, 0],“blue” 为 [0, 1, 0],而 “green” 为 [0, 0, 1]。这些向量称为 “稀疏” 向量,因为当可能值的集合非常大(例如包含所有英文单词的集合)时,它们可能很长,且包含很多零。
虽然您不需要通过类别列来使用 estimator 提供的线性模型工具,但是线性模型的优势之一是它们能够处理大型稀疏向量。稀疏特征是 estimator 提供的线性模型工具的主要用例。
编码稀疏列:featurecolumn自动将类别值转换为向量,具体代码如下所示:
eye_color = tf.feature_column.categorical_column_with_vocabulary_list( eye_color, vocabulary_list=[blue, brown, green])
其中eye_color是源数据中的一列的名称。
您还可以为类别特征(您不知道此类特征的所有可能值)生成featurecolumn。对于这种情况,您将使用categorical_column_with_hash_bucket(),它使用哈希函数为特征值分配索引。
education = tf.feature_column.categorical_column_with_hash_bucket( education, hash_bucket_size=1000)
特征组合:由于线性模型为不同的特征分配独立权重,因此它们无法了解特定特征值组合的相对重要性。如果您有 “favorite_sport” 和 “home_city” 这两个特征,并且您尝试预测某人是否喜欢穿红色,此时线性模型将无法判断来自圣路易斯的棒球迷是否特别喜欢穿红色。
您可以通过创建新特征 “favorite_sport_x_home_city” 突破这个限制。对于给定用户,此特征的值只是两个源特征的值相连:例如 “baseball_x_stlouis”。这种组合特征称为特征组合。
使用crossed_column()方法可轻松设置特征组合:
sport_x_city = tf.feature_column.crossed_column( [sport, city], hash_bucket_size=int(1e4))
连续列
您可以如下所示地指定连续特征:
age = tf.feature_column.numeric_column(age)
虽然作为单个实数的连续特征通常可以直接输入到模型中,但是 tensorflow 也为此类列提供了有用的转换。
分桶:分桶可将连续列转换为类别列。此转换使您能够在特征组合中使用连续特征,或学习特定值范围特别重要的情况。
分桶将可能的值范围划分为子范围(称为分桶):
age_buckets = tf.feature_column.bucketized_column( age, boundaries=[18, 25, 30, 35, 40, 45, 50, 55, 60, 65])
值所在的分桶便是该值的类别标签。
输入函数
featurecolumn为模型提供输入数据规范,指示如何表示和转换数据。但它们本身不提供数据。您需要通过输入函数提供数据。
输入函数必须返回一个张量字典。每个键对应一个featurecolumn的名称。每个键的值都是一个张量,其中包含该特征针对所有数据实例的值。请参阅预创建的 estimator,详细了解输入函数;另请参阅宽度学习和深度学习教程中的input_fn,查看输入函数的示例实现。
输入函数会传递给train()和evaluate()调用(用于启动训练和测试操作),如下一部分中所述。
线性 estimator
tensorflow estimator 类为回归模型和分类模型提供统一的训练和评估工具。它们负责训练和评估循环的细节部分,使用户可以专注于模型输入和架构。
要构建线性 estimator,您可以使用tf.estimator.linearclassifierestimator 或tf.estimator.linearregressorestimator
(分别用于分类和回归)。
与所有 tensorflow estimator 一样,要运行 estimator,只需执行以下操作即可:
实例化 estimator 类。对于两个线性 estimator 类,将featurecolumn列表传递给构造函数
调用 estimator 的train()方法以对其进行训练
调用 estimator 的evaluate()方法以查看其效果
例如:
e = tf.estimator.linearclassifier( feature_columns=[ native_country, education, occupation, workclass, marital_status, race, age_buckets, education_x_occupation, age_buckets_x_race_x_occupation], model_dir=your_model_directory)e.train(input_fn=input_fn_train, steps=200)# evaluate for one step (one pass through the test data).results = e.evaluate(input_fn=input_fn_test)# print the stats for the evaluation.for key in sorted(results): print(%s: %s % (key, results[key]))
宽度学习和深度学习
tf.estimator模块还提供一个 estimator 类,使您能够一同训练线性模型和深度神经网络。这种新方法结合了线性模型 “记忆” 关键特征的能力以及神经网络的泛化能力。请使用tf.estimator.dnnlinearcombinedclassifier创建这种 “宽度学习和深度学习” 模型:
e = tf.estimator.dnnlinearcombinedclassifier( model_dir=your_model_dir, linear_feature_columns=wide_columns, dnn_feature_columns=deep_columns, dnn_hidden_units=[100, 50])
中芯国际换帅,高永岗因工作调整辞任
在柔性印制电路板(FPC)上贴装SMD的工艺要求
《磁性元件与电源》杂志华中华东行业探访行
伟创AC80矢量变频器真空泵控制方案
中国人工智能企业数全球第二 业界盼AI早日飞入寻常百姓家
Estimator如何使您能够轻松地在TensorFlow中构建线性模型
采用CTC6048与88E1340芯片实现三层全千兆路由交换机的设计
双路电流模式DC/DC转换器LT3501的性能特点及适用范围
京东携手新时达解决城市配送“最后一公里”的难题
小米新机打造一亿像素,高像素是否已成手机新门槛?
Linux 5.0内核系列已达使用期限
滤波电抗器是否会出现瞬间高压
“世纪诉讼”重新翻案,苹果三星再次开战!
魅族Flyme曝出全面屏模式, 不虚小米和三星!
指针式万用表有什么特点
京东方是如何做到收入从0.6亿到900亿的?
消息称苹果电动汽车将使用自动化方式充电
一体式气象传感器功能是什么?
揭晓关于5G的五个误解
如何在2V-10V范围内以精确的增量控制变容二极管电压