本文主要介绍了在TVMCon 2023 上发布的 BlazerML 加速强化学习推理的方案，并分享 CPU 上高性能卷积算子的优化等技术细节，相关功能已经基于“开悟”落地腾讯太极机器学习平台。

腾讯推出的高性能网络星脉，具备业界最高的3.2T通信带宽，为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC，可支持10万卡GPU的超大计算规模。

腾讯混元AI大模型采用腾讯太极机器学习平台自研的训练框架AngelPTM，相比业届主流的解决方案，节省45%训练资源，并提升1倍训练速度！腾讯发布的混元AI大模型登顶权威中文测评基准CLUE榜，并超越人类水平。

HCC高性能集群针对大模型场景，集成了腾讯太极机器学习平台AngelPTM等自研框架，其加速引擎对网络协议、通信策略、AI框架、模型编译进行大量系统级优化，大幅节约训练成本。相比上一代，服务器带宽从1.6T提升到3.2T，算力性能提升3倍。

AI大模型和广告大模型两大模型的落地，践行了腾讯广告 “技术提效” 理念。未来，腾讯广告将继续强调技术落地的重要性，从技术的角度理解业务，从业务的角度审视技术，让技术演进推动业务增长，为广告主创造更多的价值。

虽然目前市场上已经有一些图生视频大模型，但一般的生成方法不仅需要用户在提示词中描述运动区域，还需要提供运动指令的详细描述，过程较为复杂，而且，从生成的效果来看，现有的图像生成视频技术在移动图像的指定部分上缺乏控制，生成的视频往往需要移动整个场景，而不是图像上的某一个区域，精准度和灵活性上有所欠缺。为了解决这些问题，腾讯混元大模型团队、清华和港科大的联合项目组提出了更实用和可控的图像到视频生成模型F

鉴于最近大模型的火热趋势，腾讯云决定将腾讯太极机器学习平台自研的AngelPTM训练框架推广给广大公有云用户，该框架经腾讯内部业务的反复打磨，低成本高性能支撑万亿大模型的训练落地，帮助业务降本增效。

基于微信表情包和搜索场景积累的Imagen生成技术和大规模脱敏图文数据，太极推出了面向通用场景的文生图大模型，且在中国风景、中文诗句、中国元素、游戏风格等方面做到了业界先进水平，并协同腾讯混元AI大模型团队持续打造更强大的文生图大模型。

HCC高性能集群针对大模型场景，集成了腾讯太极机器学习平台AngelPTM等自研框架，其加速引擎对网络协议、通信策略、AI框架、模型编译进行大量系统级优化，大幅节约训练成本。相比上一代，服务器带宽从1.6T提升到3.2T，算力性能提升3倍。

本文主要介绍了在TVMCon 2023 上发布的 BlazerML 加速强化学习推理的方案，并分享 CPU 上高性能卷积算子的优化等技术细节，相关功能已经基于“开悟”落地腾讯太极机器学习平台。