百度搜索技术创新挑战赛 —— 赛道二 题目简介

百度搜索技术创新挑战赛（简称 STI）是由百度搜索发起，联合四大区域高校、学会共同举办的一项全国性科技竞赛。本次大赛以“新智能·新搜索”为主题，围绕人工智能、检索技术，为参赛团队提供海量百度搜索脱敏业务数据进行训练及测试。本次大赛面向全国企业、高校、科研机构、项目团队及个人广发英雄帖，旨在挖掘和培育搜索 AI 人才，促进业内交流、产教融合，推动算法和技术应用创新。

赛道 2：搜索模型推理优化

近年来基于 Transformer 模型结构的预训练语言模型技术快速发展，并在 NLP 领域取得了巨大成功。百度搜索引擎依托与深厚的 AI 技术积累，搭建了超大规模的模型推理异构加速集群，通过落地 Ernie 文心模型，为用户带来了显著的搜索体验提升。而在百度搜索 Ernie 模型的工业化部署实践中，针对复杂 Ernie 模型结构的高性能推理对于保障亿万用户流畅的搜索体验、控制算力成本开销至关重要。

在业界针对 GPU 进行复杂模型的异构推理加速也是一个火热的研究话题，多种优秀的技术方案不断涌现。其中既有百度推出灵活易用的 PaddlePaddle 深度学习全流程工具，也有 NVIDIA 推出的针对深度学习模型推理极致优化的 TensorRT 框架。

本任务提供一个典型的搜索场景的 Ernie 模型，希望参赛者通过各种优化技术，挑战最优的模型推理性能。

大赛更多信息：https://sti.baidu.com/