logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

从零学习大模型(1)——Transformer架构:原理、演进与AI领域的颠覆性影响

摘要:2017年谷歌提出的Transformer架构彻底革新了自然语言处理领域。其核心创新在于完全基于注意力机制,解决了传统RNN的并行计算缺陷和长距离依赖问题,通过多头自注意力和编解码器结构实现高效语义建模。Transformer的并行处理能力使训练速度提升10-100倍,且能精准捕捉长文本关联。该架构催生了BERT、GPT等里程碑模型,推动AI进入预训练时代。尽管存在计算成本高、可解释性弱等局

文章图片
#人工智能#学习#transformer
ACE框架万字深度解析:重塑LLM自我改进的上下文工程范式

为实现策略手册的动态演进,ACE框架设计了三大核心组件——生成器(Generator)、反思器(Reflector)、整合器(Curator),分别对应人类“动手实践-分析总结-知识沉淀”的学习流程。ACE论文强调,这种模块化分工不仅解耦了复杂任务,还提升了每个环节的专业性:“让每个组件专注于自己的职责,比让单一LLM承担所有任务更高效,也更符合人类的学习逻辑。生成器(Generator)是LLM

#java#前端#数据库
零成本——用Dify打造超级搜索引擎

环境:dify 14.2 docker版本;模型:glm-4-flash;工具:bing,http,jina;

文章图片
#搜索引擎#python
取代Jina,打造稳定好用的网页助理

环境:dify 14.2 docker 版本;工具:craw4ai模型:glm-4-flash。

文章图片
#jina#python#爬虫
零成本——用Dify实现一句话生成PPT

用户仅需输入一个标题,随后通过搜索引擎查找与之相关的素材。接着,利用大模型对标题和素材进行深入分析与整理,并以 Marp 格式进行输出。通过自定义接口服务 md_pdf,将 Marp 格式的内容保存为 Markdown 文件。在该接口中调用 marp-cli 工具,将 Markdown 文件转换为 PPT 格式进行展示,同时返回预览链接和下载链接,大功告成!

文章图片
#python#flask
从拍脑袋到算出来:开源量化神器 FactorHub 深度分析

摘要:因子投资从华尔街专业工具发展为大众可及的量化方法,其核心是将投资逻辑转化为可验证的数学因子。开源平台FactorHub通过整合数据获取、因子计算、回测分析等全流程,大幅降低了量化投资门槛。该平台采用模块化设计和并行计算技术,提供200多个预置因子和可视化分析工具,支持个人投资者和机构快速验证投资策略。FactorHub的兴起反映了量化投资民主化趋势,通过开源生态推动投资决策的科学化,使专业级

#人工智能#学习#transformer +2
取代Jina,打造稳定好用的网页助理

环境:dify 14.2 docker 版本;工具:craw4ai模型:glm-4-flash。

文章图片
#jina#python#爬虫
从零学习大模型(1)——Transformer架构:原理、演进与AI领域的颠覆性影响

摘要:2017年谷歌提出的Transformer架构彻底革新了自然语言处理领域。其核心创新在于完全基于注意力机制,解决了传统RNN的并行计算缺陷和长距离依赖问题,通过多头自注意力和编解码器结构实现高效语义建模。Transformer的并行处理能力使训练速度提升10-100倍,且能精准捕捉长文本关联。该架构催生了BERT、GPT等里程碑模型,推动AI进入预训练时代。尽管存在计算成本高、可解释性弱等局

文章图片
#人工智能#学习#transformer
到底了