本文代码级脚踏实地讲解了DeepSeek大模型、MMoE推荐模型中的MoE（Mixture-of-Experts）技术，该技术的主要思想是通过门控（gate）或路由（router）网络，对多个专家进行加权平均或筛选，将一个DNN网络裂变为多个DNN网络后，投票决定预测结果，相较于单一的DNN网络，具有更强的容错性、泛化性与准确性，同时可以提高推理速度，节省推理资源。

本文详细介绍了MMoE多任务模型的算法原理、算法优势，并以小红书业务场景为例，构建网络结构并使用pytorch代码实现对应的网络结构、训练流程。相比于MoE，MMoE可以更好的学习不同Task任务的相关性和差异性。是深度学习推荐系统中多目标或多场景类问题中必须掌握的根基模型。

本文对transformers之pipeline的文本分类（text-classification）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的2行代码极简的使用NLP中的文本分类（text-classification）模型。