据了解，联盟聚合了包括华为、阿里巴巴、联想、腾讯、摩尔线程、MiniMax、清华大学等监管机构、科研院所、大模型伙伴、算力与基础设施伙伴及安全伙伴等多元力量，旨在打造资源共享、共创共赢的大模型安全生态集群，共同推动大模型安全标准的制定、安全技术的创新和安全能力的提升，打造大模型安全发展的新范式。其中，为了助力企业AI能力落地，推出了360智能文档云3.0，一款专为企业打造的智能知识管理与应用平台，

11月27日，在2024新型智慧城市发展创新大会海洋大数据和海洋人工智能专题会议上，山东省数据局、青岛市大数据发展局、360数字安全集团等七家单位代表共同启动了全国首个海洋可信数据空间建设，这一举措为我国海洋数据基础设施发展注入了强劲动力，标志着海洋数据安全与流通迈入了全新发展阶段。作为该项目的核心推动力量，360数字安全集团凭借其在数据安全领域的卓越技术实力和创新引领能力，将在海洋数据可信空间建

本文主要讲了两个工作，关于大模型数据工程，在大规模数据集上进行监督微调（SFT）时数据选择的方法，发现随机选择几乎总是优于现有的数据选择技术。一个是关于RAG进展， FunnelRAG：从粗糙到精细的渐进检索范式，实际上，这个其实有偏置，如果涉及到动态更新，聚类的数量，性能这些都会带来其他影响。为了实现有效的检索，需要手工调整一些超参数，如最大聚类大小和每个阶段的候选项数量。这增加了系统的复杂性，

大模型数据工程进展-大模型的数据合成与扩充综述，A Survey on Data Synthesis and Augmentation for Large Language Models ，详细介绍了数据生成的两个主要方法：数据扩充和合成 ：https://arxiv.org/pdf/2410.12896。这个工作不错，探讨了大模型在训练和评估过程中对大量、多样化和高质量数据的需求，并分析了当前数

此外，随着大型模型的出现，还出现了其他专门为LLMs提出的推理框架，如bitsandbytes、ctransformers、MLC-LLM、DeepSpeed-MII、vLLM、LMDeploy、LightLLM、QServe、llama.cpp、llama2.c、inferflow、ScaleLLM、SGLang、gpt-fast、FastChat2、OpenLLM等等。图1展示了大型语言模型（

作为国内唯一兼具数字安全和人工智能能力的公司，360数字安全集团基于“以模制模”、“用AI对抗AI”的理念，遵循“安全、向善、可信、可控”原则，打造安全大模型，保障大模型全方位服务的安全运行，防止不法分子利用相关漏洞对系统进行攻击，从而保护用户隐私和服务稳定性，持续助力政府、企业以及科研机构能够高效应对在大模型训练和应用过程中的多重挑战，推动国内大模型生态持续健康发展。伴随人工智能的加速发展，以大

基于大模型与多模态风险内容识别能力，360智盾打造了全流程、多种类、多模态、场景化的内容安全体系，能够全面把控大模型内容安全，支持100多类风险内容的识别过滤，支持文本、音频、图片、视频等多种模态的风险防护，并通过平台定制化场景风控策略，满足不同场景的风控需求。大模型安全联盟汇聚了多元力量，旨在打造资源共享、共创共赢的大模型安全生态集群，共同推动大模型安全标准的制定、安全技术的创新和安全能力的提升

尤其是包括其他国家的网军、黑产、灰产的组织者甚至犯罪分子等也可以利用大模型，提升找漏洞、写攻击代码的能力，因此未来网络安全可能会从人与人的对抗，变成机器与人的对抗，再发展为机器与机器的对抗。大模型内容安全护栏“360智盾”；据了解，作为兼具数字安全和AI双重能力的科技企业，360很早开始关注大模型安全风险，并推出一系列有针对性的创新技术，包括开发了国内首个安全大模型，通过“以模制模”理念，利用AI

https://arxiv.org/abs/2407.01449，https://huggingface.co/blog/manu/Fcolpali，其利用视觉语言模型（VLMs）来理解文档，直接从文档页面的图像中生成上下文嵌入向量。例如，最近，具有强大推理能力的大模型（LLMs）与视觉变换器（ViTs）结合，创建了视觉语言模型（VLMs），其中来自对比训练的ViT模型的图像块向量被用作语言模型的

至于动手环节，目前已经有一些可以实践的项目，如https://github.com/kyryl-opens-ml/vision-retrieval、Byaldi(https://github.com/AnswerDotAI/byaldi)、colpali(https://github.com/illuin-tech/colpali)(将文档切分为页面图像，不再细分，然后根据页面图像级别进行检索，类