引出背景：基础模型发展得很迅速，但是由于不同的法律法规，收集基础模型的训练数据还是具有一定的难度和挑战性通过联邦学习，可以在各个客户端协作训练神经网络，而不需要集中本地数据。来减轻客户端的计算负担和通信开销新出现的问题：以往的研究大多集中在单一模态上，而忽略了跨客户端的数据异构性的存在，为了解决这个新出现的问题，这篇论文提出了一个新的框架——联邦双适配器教师双适配器教师DAT通过正则化客户端本地更

Foundation Models的发展对很多行业已经产生了很多影响，Foundation Models包括大语言模型 Large Language Model多通道模型Multimodal models在预训练阶段，Foundation Models对于大容量数据的需求是很大的相比一般的Foundation Models，特定领域的Foundation Models需要专有的数据，但是由于隐私问