推荐系统通常由多个阶段组成，比如，有的推荐系统分为Recall、PreRanking、Ranking、ReRanking等四个阶段。在爱奇艺，我们的推荐系统在非常多的场景中都有应用，推荐的内容也不尽相同(如长视频、短视频、主题、影人等)。但是万变不离其宗，在这些场景中，推荐系统的核心工作方式有一定的共性。为节约开发成本，同时也要保障不同场景下推荐系统的稳定性，我们将不同推荐场景排序模型中相似的部分成体系地提炼出来，并加以标准化、组件化，进而针对推荐场景排序问题提供了通用化的解决方案。这也是我们提出爱奇艺通用排序框架的初衷。目前这一框架已经在爱奇艺多端多个场景落地——长视频推荐：主APP首页猜你喜欢、TV端首页猜你想看，短视频推荐：主APP短视频播放器，长短视频混合推荐：主APP频道页瀑布流、TV端首页Feed等。正所谓，推荐的复杂性如黑夜迷雾，希望能破晓见黎明。

下面我们分3节来介绍通用排序框架：第1节对框架的环节进行了概述；第2节主要介绍框架详细的构造环节以及对应特性；第3节对框架的特性进行总结和展望。鉴于我们主要考虑的是视频播放场景，下文中我们以视频来指代推荐系统中的item。

01概述

近些年来，推荐系统中的排序模型有比较快速的发展：浅层模型如XGBoost+FM，深度模型如DeepFM、DCN、DIN、DSSM、MMoE等，在不同推荐场景中都取得了亮眼的效果。然而，这些模型有一些共同点：它们最终都服务于线上的打分预测；它们都要根据场景特性来筛选和制作特征、构造训练样本、训练模型、部署Ranking服务——这样一个完整的流程。通用排序框架正是对这一流程的一种归纳总结。对于不同的推荐场景，模型的特征制作和模型服务化过程是一致的，他们主要在构造样本，以及训练模型上有较多区别。

通用排序框架总共由4个环节组成，每个环节都是模块化的，有可执行的标准流程和完善的监控机制。这4个环节分别是：

1、特征制作与灌库；

2、特征回放；

3、Training；

4、Ranking。

如下图所示。其中环节1、3为独立于线上服务的过程；环节2、4为线上服务的一部分。

图1 排序框架结构

02 详细结构

2.1 特征制作与灌库

特征是推荐的基石，它决定了模型的上限。数据与特征描述了用户对视频的喜好，以及视频本身的质量。

从数据来源的角度来分类，我们可以把特征划分为： 属性特征、统计特征。前者一般是用户或视频的相对静态的属性；后者往往与用户行为有关。

从特征生产的角度来分类，我们又可以把特征划分为：离线特征、实时特征。前者一般产出频率为天级，后者一般为秒级。受限于实时计算的复杂度与性能考量，实时特征一般涵盖范围较离线特征小，更专注于用户行为的实时变化，以及用于捕捉用户短期偏好；相对比的是，离线特征大而全面，它更能描述用户长期偏好。

在框架中，离线、实时特征的制作过程有相应的固定流程，即流水线作业。我们对该制作哪些特征、以及如何制作，都进行了规范化。这里不赘述特征制作方面的工作，主要介绍一下特征产出后被线上服务使用的过程。

1）离线特征灌库：灌库，指的是将离线产出的特征数据，以特定的格式写入高性能KV库（如Couchbase、Redis等），供线上服务读取使用。离线特征产出后，一般存储在HDFS等文件系统中，线上无法直接使用，需要经过灌库才能被线上服务使用。灌库的数据格式由框架的组件——Feature_Online——自动生成。

图2 离线特征灌库流程示意图

Feature_Online的目的是通过配置化的方式自动生成固定格式的灌库表。在推荐工程化过程中有一个经典的困扰，就是算法工程师需要花费一定的精力来梳理特征的使用，这部分工作重复度很高且易出错。其采用自动化生成SQL的方式，杜绝了人工操作带来的BUG，具有配置化、严格依赖管理、特征上下线灵活等优势。Feature_Online有几个特性：输入自定义、操作配置化、输出格式统一。

2）实时特征服务：实时特征具有即产出即使用的特性，框架采用DUBBO RPC的方式提供统一的实时特征取数服务，简化了不同推荐场景的接入，响应时间在毫秒级。

实时特征通常专注于行为类来源的特征，例如：用户的实时观影列表、视频的实时统计特征等等。数据来源于线上用户行为日志——展示、点击、观影，经过一个统一的Flink任务进行消费处理，数据被聚合后处理为对应的实时特征，接下来类似于离线特征一样，也是写入高性能KV库中，供线上服务读取使用。数据聚合、灌库的过程都集成在Flink任务当中。

2.2 特征回放

特征回放是将线上服务用于打分排序的特征，通过落日志的方式“回放”下来：就像拍摄视频一样，对每一次请求时所有的特征都进行了记录，并标记了该次请求的事件ID。这样，当我们获取了用户的展示、点击、观影等行为日志之后，通过join事件ID，我们就可以知道在请求那一瞬间的所有特征，这就是“回放”。

特征回放是常用的一种基础的技术手段，在工业界被大量的应用。早期的模型训练方式，一般是使用这一步产出的Features与标注得到的Label进行拼接从而得到训练数据。其存在两个缺陷：

1）离线特征从产出到被线上使用的时间是不确定的，难以确定线上被使用的版本，因而训练数据无法模拟真实的线上环境；

2）缺少实时特征。特征回放解决了这两个缺陷。

如下图所示，当推荐引擎收到调用请求时，会拉取用户和视频的特征，先用这些特征对视频进行打分排序，再将这些特征进行回放。

图3 特征回放示意图

特征回放遵循推荐引擎的漏斗模式，参与回放的视频个数等于推荐引擎最终返回的视频个数。

特征回放有2个重要的优势：

1）实时特征参与训练：实时特征一般被认为在推荐中具有重要的意义，是推荐引擎捕捉用户实时兴趣的基础。传统的模型训练样本组织工作，无法获取实时特征：样本组织工作分为构造标注数据、特征数据两部分。特征数据则需要算法工程师自行拼接，未曾记录事件发生时的实时特征，自然也就无法还原在事件发生时用户的实时行为、视频的实时统计指标。特征回放解决了这个问题，将事件ID发生时的实时特征完全记录下来，落在日志中，样本处理只需通过事件ID拼接标注数据即可。

2）线上线下特征一致性：特征一致性一直是制约推荐引擎效果的一个重要问题，如果线上预测使用的特征与线下训练使用的特征不一致，那么推荐的准确性也无从谈起。在特征回放机制下，训练与预测使用同一份特征。预测使用的特征来自于线上服务日志，而线上服务日志来自于请求时引擎获取的特征，两者份属同源，自然一致。

特征回放极大地解放了算法工程师在训练样本组织工作中的精力，使其能够更专注于模型本身的迭代优化，而不是将精力都浪费在清洗、拼接特征和标注数据上面。

下图是目前框架采用的特征回放流程示意图。

图4 特征回放流程示意图

框架深度结合特征回放机制，这1环节有2大特性：

1）回放服务模板化，接入迅速：在上1小节“2.1 特征制作与灌库”的工作准备完毕后，只需要更改少量的代码，即可部署，极大地减少了这一部分的接入工作量。

2）回放覆盖率监控：数据与特征决定了模型的上限。那么，算法工程师除了需要关心特征的质量，还需要关心特征的覆盖率。框架集成了通用化的监控组件，对特征回放落地的日志中所有特征的覆盖率有详细的监控数据，做到一目 了然。

特征回放产出了可供训练模型使用的特征集，即Features。

2.3 Training

我们把模型训练抽象为训练数据制作和模型训练（模型训练依托一个配置化的训练框架）这2个部分。

1）训练数据制作：

• Label&Upsampling：Label，即标注数据。除了常规的标注正负样本之外，我们还考虑到对正样本进行Upsampling的问题。正样本Upsampling的本质，是在学习当前目标的基础上，希望对特定的目标进行进一步地学习。例如：在CTR预估中，对时长高的正样本进行Upsampling。在主APP首页猜你喜欢场景中，我们通过Upsampling的方式大幅提升了用户首次播放视频的总次数。
• 特征算子：若当前的推荐场景中有100个特征，经分析其中85个特征能起到更好的作用，因此采用2种不同的特征算子配置，配置1采用全部100个特征，配置2采用85个特征，分别训练2个不同的模型，那么线上就可以使用这2个模型进行AB实验，进而验证业务效果的优劣。
• Label与Features的自由组合：1、相同的Label下比较不同的Features；2、相同的Features下比较不同的Labels。框架可以灵活地支持Label与Features的自由组合，并进行了版本管理。

图5 模型训练流程示意图

2）配置化的训练框架：提供了推荐常用模型的训练方案，目前已经支持：DNN、DeepFM、DCN、DIN、DSSM、MMoE等多种模型。只需修改配置文件，无需额外开发模型，即可开始训练。这极大地节省了算法工程师自行开发模型和调参的工作精力。保存的模型为固定格式，无缝衔接地对接线上的TF-Serving服务，更好更快地服务于业务效果的优化迭代。

• Make TFRecords：将训练数据转换为TFRecords文件形式来进行训练，格式固定，包含3种数据：Label，离散特征，连续特征。
• Choose Model：在已经已经支持的模型内选择需要训练的模型结构；一般来讲，一份数据可以训练多种结构的模型用以AB测试。可以通过编写少量的代码自定义新的模型结构。
• Define Config：通过配置的形式来指定模型训练使用的超参数、数据集、特征定义、网络结构参数、网络顶层输出方式等关键性的参数，模型调参十分便捷。

图6 配置化训练框架示意图

2.4 Ranking

Ranking在框架中分为2个环节： 1）推理服务；2）排序服务

1）推理服务，即依托于TensorFlow Saved Model的TF-Serving。

2）排序服务是承接推荐引擎与推理服务的桥梁，如图7所示。

图7 Rank服务架构图

Rank服务通过优化提供了快速部署和高性能的预测能力，主要包括：

• 用户特征前置，有两点好处：

1）引擎获取设备特征可以配置较长的超时时间，提升获取用户特征的成功率；

2）如果引擎获取成功，排序服务不需要再取用户特征，如果请求告知引擎获取用户特征失败，排序服务尝试取用户特征，进一步提升用户特征参与模型预测的成功率；

• 高性能Local Cache及BytesBuf

目前主流模型特征维度都比较高，一次排序少则需要预测几百个Item，多则预测上千个视频，比较主流的做法是将热门内容cache的本地进行处理。但是会存在一个问题， 通常来说特征内容有以下特点。

1）单个视频或者设备的特征很多，

2）每个特征基本可以简化为<特征名，特征值>形式，

这两个特点会造成内存中存储和管理的是大量的小对象，可以假设性的计算下，一个视频5000个原始<特征名，特征值>特征。

100W个视频则有100亿（50002100W）个内存小对象。这只是静态的内存内容数据，排序服务需要做的一个重要的工作是特征组装。如果基于这些小对象进行进一步的对设备、实时、视频、交叉等特征加工、组装处理， 这个过程产生的小对象量将是惊人的，这势必会给内存存储管理带来巨大的性能压力，这也可能是为什么排序服务看似并不复杂的处理逻辑，但却需要很多资源；因此，我们通过设计高校的缓存池和自定义序列化存储方式来避免海量的小对象可以极大的提升服务性能。

• 优化特征处理流程

为了提高性能，排序服务支持分批并发的访问推理服务，通过将设备特征预处理、视频特征缓存原始特征处理后的结果可以避免重复计算，提升性能。

• 快速部署能力

通过代码的工程模板化，并基于配置和文件中心，对于已经存在的现有的模型和特征类型可以快速的部署供线上服务。

• 自动化监控

基于prometheus进行监控，模板化打点所有指标，服务启动后自动创建prometheus的job拉取监控数据，可以监控访问特征、推荐服务等的耗时、成功率指标，并配置grafana大盘，非常方便的查看监控数据。

03 总结与展望

通用排序框架具有以下特性：特征制作模板化，Feature_Online提供配置化、严格依赖管理、灵活特征增删的离线特征灌库解决方案，实时特征服务化，特征回放工程模板化、覆盖率监控自动化，训练数据产出灵活，模型训练依托于配置化训练框架快捷便利、快速训练+调参，排序服务工程模板化、监控自动化。

通用排序框架目前已经被大规模应用于爱奇艺多个端的多个推荐场景中，在推荐效果上取得了较好的成果：在主APP短视频播放器场景，人均播放时长指标提升超过20%；同时在首页瀑布流也得到了不错的受益，提升用户首次播放视频的总次数超过1倍，未来还将应用到更多的业务场景。目前框架还在不断地进步和完善，增加支持更多模型、细化监控，为爱奇艺的推荐业务保驾护航。