logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

智能体间协作的“巴别塔困境“如何破解?解读Agent通信4大协议:MCP/ACP/A2A/ANP

MCP不是用所有可能的细节来填充提示词,而是帮助组合重要的背景信息,采用模块化的、即时的提示词构建,使用更智能的背景信息,更少的token,得到更好的输出。ACP采用了完全不同的方法。智能体的理解是根据上下文注入的,而不是自我建模的。ANP的核心概念是Interface,包括自然语言接口和结构化接口,将智能体交互方式的定义下放到了Interface中,支持自主发现、去中心化身份验证和语义推理,虽然

#arm开发
解读知识图谱的自动构建

‍‍【引】在AI领域, 知识系统过时了么?在《大模型应用的10种架构模式》中, 知识图谱与大模型的结合是一种重要的应用方式。知识图谱可以辅助大模型应用的推理,大模型也可以辅助知识图谱的构建,二者是可以相辅相成的。在国庆假期中,读了一篇论文“A comprehensive survey on Automatic Knowledge graph Construction”(https://arxiv.

#知识图谱#人工智能
解读大模型(LLM)的token

当人们谈论大型语言模型的大小时,参数会让我们了解神经网络的结构有多复杂,而token的大小会让我们知道有多少数据用于训练参数。正像陆奇博士所说的那样,大型语言模型为从文本生成到问题回答的各种任务提供了令人印象深刻的能力,不仅彻底改变了自然语言处理(NLP)领域,而且作为基础模型会改变整个软件生态。这些模型的一个经常被忽视的关键点是“token”的作用,即模型处理的各个信息单元。大型语言模型(LLM

10行python代码的词云

关于词云wordcloud什么是词云呢?词云又叫文字云,是对文本数据中出现频率较高的“关键词”在视觉上的突出呈现,形成关键词的渲染形成类似云一样的彩色图片,从而一眼就可以领略文本数据的主要表达意思。现在,可以从网络上找到各种各样的词云,下面一图来自沈浩老师的微博:从百度图片中可以看到更多制作好的词云,例如词云制作有很多工具…..从技术上来看,词云是一种有趣的数据可视化方法,互联网上有很多的现成的工

#python#数据可视化
大数据技能修炼的个人道场

大数据技术火热而且火爆,学习大数据的课程和资料也泛滥如潮,而大数据研发环境又不是随便就可以搭建起来的,如何有一个自己随时可用的大数据修炼道场呢?网上有很多hadoop单机版的搭建教程,但大多是基础组件,如果想窥探Hadoop 的整个生态系统,并建立一个人的大数据环境,从而修炼大数据的各种技术,我觉得非 HDP 的Sandbox 莫属了......

揭开指令微调的神秘面纱

接着,利用这些种子数据,模型可以通过少量样本学习的方式生成新的指令,并根据任务的具体类型(如输入优先或输出优先)来产生相应的响应。指令调优是对已经预训练的大模型在特定数据集上进行进一步训练的过程,该数据集由成对的“指令—响应”组成,旨在帮助模型更好地理解并响应用户的指令。通常,这些指令类似于人们在真实场景中会提出的查询,例如“用简单的术语解释光合作用”,而对应的响应则是结构清晰、内容准确的回答,如

#深度学习#机器学习#人工智能 +2
了解大模型的背后,知其然进而所以然

到复杂的深度学习架构。特别是在卷积神经网络、生成模型、自编码器等领域,本书提供了详尽的数学分析和代码示例,帮助读者不仅理解如何构建这些模型,更重要的是理解为什么要这样构建,以及这些模型在实际应用中的优势和局限。从第3章的分类器和向量积分,到第8章的神经网络训练,再到第11章的图像分类和检测网络,每个概念都有相应的代码实现。第14章:潜在空间与生成建模:这一章关于自编码器和变分自编码器的内容,将复杂

大模型应用的性能提升:语义缓存

在这里,我们不能使用标准的 Redis 缓存,因为两个问题的key不同。将一个用户问题转换为文本嵌入,并使用它在 向量数据库中搜索最相似的文档,如果最相似的文档的相似度得分超过0.95的阈值,将返回这个答案(稍后将详细介绍)。Langchain 为使用语义缓存提供了很多抽象,然而,Langchain 的抽象对于较复杂的应用程序可能限制太多,并且,在为特定需求实现语义缓存时,我们还可能需要更多的灵活

#缓存
如何在只有CPU的个人电脑上运行大模型服务?

具体来说,在部署前应综合考虑以下几个方面:模型的精度格式(如FP16、INT8或更低)、激活内存的占用、注意力机制所需的缓存空间,以及运行时系统本身的额外开销。现在,不再需要依赖科技巨头的服务,也能在自己的设备上运行高质量的人工智能模型——这才是真正属于个人的 AI 时代。当你打算为 CPU 下载模型时,请确保选择 GGUF 版本,因为这是 Llama CPP 支持的文件类型,而且大多数流行的模型

#人工智能
大模型应用的10种攻击方式

Claude和Gemini现在合并了复杂的道德准则层,可以识别他们何时被操纵进入 “角色扮演”,但他们仍然容易受到复杂的角色扮演场景的影响,特别是当这些场景与其他攻击载体结合时。虽然这种缓解措施对于常见场景是有效的,但攻击者不断创新新的令牌走私技术,特别是通过结合不同类型的编码和混淆的多模态攻击。”这个简单的框架可以戏剧性地改变模型的行为。明显的无意义字符创建了一种标记混乱的形式,混淆了模型的安全

    共 152 条
  • 1
  • 2
  • 3
  • 16
  • 请选择