百度AI快车道年末“发车”，开启推荐排序系统工业级部署实战

原标题：百度AI快车道年末“发车”，开启推荐排序系统工业级部署实战

　　 “《庆余年》更新了吗？”最近，当“追剧大军”把热情和目光投向了“小范大人”和“小言公子”后，这句话似乎成了各位“同道中人”每天关心的焦点。在乐此不疲的追剧同时，各大视频平台也越来越贴心——“猜你在追”几乎成了首页标配。而事实上，这些“个性化”的推荐内容背后是一套非常复杂的系统在运转，这之中将耗费的精力和成本不言而喻。

　　ElasticCTR是百度飞桨为了更好实现企业低开发成本、快速集成需求而推出的端到端开发套件之一，这些面向应用任务的产业级开发套件，可专用于实现不同应用任务的全流程开发、训练和部署。12月21日，百度AI快车道企业深度学习实战营针对ElasticCTR推荐排序系统解决方案，在北京开启实践专场活动。百度多位资深工程师领衔，与开发者们深度解析飞桨推荐系统解决方案ElasticCTR及其应用实战分享。

(ElasticCTR整体架构)

　　据讲师介绍，ElasticCTR源于产业实践，融合了百度在推荐排序业务方面成熟的经验，具备较多工业级的属性。目前其使用的流式并行训练设计模式已经在百度内部的信息流产品、搜索产品、原生广告中得以验证应用。讲师随后与现场开发者分享了利用飞桨分布式训练设计模式的优势。由于企业在开发过程中需要处理大量的数据，如何节省时间和成本，毫无疑问是企业关注的重点。深度学习模型的效果迭代对训练速度非常敏感，能够带来高性能并行训练的深度学习框架也符合企业开发和应用的需求。飞桨目前开源的Parameter Server分布式训练架构在此体现了显著特性，可支持千亿级别特征规模的训练，低成本即可扩展CPU节点，提高数据下载、上传并发能力，同时还可以保障模型收敛效果，并提供同步训练、半异步训练、全异步训练、 GEO异步训练四种训练模式，开发者可根据特定需求选择最优模式，达到降本增效的目的。

　　除此之外，在推荐场景下ElasticCTR可采用飞桨高性能分布式训练Fleet引擎，作为一个分布式 High-level API，Fleet可以通过十行代码完成单机到多机的转换，Fleet的全异步并行训练设计，可以在保证模型效果的情况下大幅度提升训练吞吐，节省大量机器资源。

(ElasticCTR 开源软件栈)

　　紧接着，讲师与大家分享了ElasticCTR的其他优势。ElasticCTR提供完全开源的软件栈，保证企业开发人员能够快速二次开发和部署。飞桨还提供了远程预估服务Paddle Serving，其基于Baidu-RPC的高性能预测服务部署框架，来源于内部大规模业务线，通过开源面向企业用户，具备完整的在线服务能力，并提供易用的client API。此外ElasticCTR采用Kubenetes社区下的Volcano进行任务排版、资源调度，兼容Hadoop生态的文件系统HDFS，训练过程中的指标可视化集成了MLFlow。无论帮助大厂适配部署自己研发的推荐系统，还是为中小型企业减少“基层”研发时间提供通用的模型，ElasticCTR都在尽最大努力解决企业从开发到部署过程中遇到的问题。

(ElasticCTR配置训练)