从数据中心基础设施的视角来看 Facebook 机器学习的应用
时间:2019-01-09
作者:
来源:
据国外媒体报道，Facebook 的 20 亿用户中，绝大多数人不清楚 Facebook 有多少服务在多大程度上依靠人工智能来运作。更没多少人知道，在庞大的 Facebook 帝国，机器学习占有多大的分量。
据国外媒体报道，Facebook 的 20 亿用户中，绝大多数人不清楚 Facebook 有多少服务在多大程度上依靠数据中心基础设施的角度，来窥视在 Facebook 内部的机器学习应用的情况。希望这篇文章能够起到管中窥豹、抛砖引玉的作用。
是现代公司能够拥有的最有价值的资产之一。</p>
<p>正如我们上个月看到的文章 Continuum:a platform for cost-aware low-latency continual learning(《Continuum：成本感知低延迟持续学习的平台》)所讲的那样，将最新数据纳入到模型中的延迟也非常重要。在这篇文章中有一段写得很好，作者研究了在一段时间内失去训练模型的能力以及必须满足陈旧模型的请求的影响。例如，社区诚信团队依靠经过频繁训练的模型来跟上对手，寻找试图绕过 Facebook 保护并向用户展示令人反感的内容的不断变化的方式。在这里，训练迭代需要几天的时间。更依赖于将最近的数据合并到模型中的是消息来源(News Feed)排名。“陈旧的消息来源模型对质量有可衡量的影响。” 如果我们看一看业务最核心的部分：广告排名模型，“我们就会了解到，利用陈旧的机器学习模型的影响，是以小时为单位来衡量的。换言之，对于这个模型来说，使用一天比使用一个小时要槽糕得多。” 该文章这段的结论之一是，训练工作负载的灾难恢复和高可用性非常重要。(另一个练习混沌工程的地方。)</p>
<p>为了有助于理解这种普遍影响，只需看看 Facebook 上使用的一些机器学习的例子即可。</p>
<p><strong>在 Facebook 使用机器学习的例子</strong></p>
<p>消息来源中的故事排名是通过机器学习模型完成的。</p>
<p>通过机器学习模型确定向给定用户显示哪些广告：“广告模型经过训练，以了解用户特征、用户背景、先前的交互和广告属性如何最能预测单击广告、访问网站和 / 或购买产品的可能性。”</p>
<p>各种各样的搜索引擎 (例如视频、照片、人物、事件等等) 都是由机器学习模型驱动的，而一个整体的分类器模型位于所有这些引擎之上，以决定对于任何给定的请求应该搜索哪些垂直领域。</p>
<p>Facebook 的一般分类和异常检测框架 Sigma 用于许多内部应用程序，包括网站完整性、垃圾邮件检测、支付、注册、未授权员工访问、广告事件建议。Sigma“每天都有数百种不同的模型在生产中运行”。</p>
<p>Lumos 从图像中提取属性和嵌入。(我不确定 Lumos 和 Rosetta 的关系)</p>
<p>Facer 是 Facebook 的人脸检测和识别框架。</p>
<p>超过 45 种源语言和目标语言之间的翻译，由每种语言对特有的模型提供支持，目前支持大约 2000 种翻译方向。每天大约有 45 亿份翻译后的帖子。</p>
<p>语音识别模型将音频流转换成文本，为视频提供自动字幕。</p>
<p>而这些只是亮点……</p>
<p>除了上面提到的主要产品之外，更多的长尾服务还以各种形式利用机器学习。产品和服务的长尾达数百个。</p>
<p>AI 前线注：“长尾”(long-tail)这一概念是由 Chris Anderson 在 2004 年发表的《The Long Tail》一文中最早提出的，他通过对 Amazon、iTunes 等电子商务零售商的销售数据进行研究，发现了一种符合统计规律中大数定律的现象。这种现象恰如价值、品种而为坐标上的一条需求曲线，向代表 “品种” 的横轴尽头延伸，一直没有坠落至零点。这种曲线在统计学中被称作 “长尾分布”。因为相对头部来讲，它的尾部特别长，就好像拖着一条长长的尾巴。“长尾” 也是因此而得名的。</p>
<p><strong>常用的模型有哪些?</strong></p>
<p>Facebook 使用的主要机器学习算法包括逻辑回归、支持向量机、梯度提升决策树(gradient boosted decision trees)和 DNN。在 DNN 家族中，MLP 用于对结构化数据进行操作(如排序)，CNN 用于空间任务(如图像处理)，RNN/LSTM 用于序列处理(如语言处理)。</p>
<p> </p>
<img alt=)