logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【论文阅读】谷歌Infini-Transformer,一种长上下文的注意力机制

谷歌最新论文《Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention》,提出了一种新的方法来扩展基于Transformer的大型语言模型(LLMs),使其能够高效处理无限长的输入序列,同时保持内存和计算资源的有界性

文章图片
#论文阅读#人工智能#transformer
【论文阅读】 WebDancer: Towards Autonomous Information Seeking Agency

当大模型只会“被动答题”已不够,阿里通义实验室最新论文《WebDancer》给出一条“从数据到算法”的端到端配方,让开源模型也能像OpenAI Deep Research一样,自主规划、翻网页、多跳推理,完成复杂信息检索任务。

文章图片
#论文阅读
【AI学习】关于大模型发展的一些话语

信息论角度探讨语言模型的本质,指出预测next token的过程实际是对语言信息的高效压缩。压缩程度反映预测准确性,条件概率越精准,信息压缩越接近极限。因此,语言模型通过预测token实现了对语义空间的建模,其预测能力与信息压缩效率直接相关。

文章图片
#人工智能#学习#机器学习
【论文阅读】VTP:Towards Scalable Pre-training of Visual Tokenizers for Generation

图像生成模型,包括两部分,先通过VAE,将原始图像变换到隐空间,然后在隐空间进行图像的生成,最后再通过VAE的解码变换到图像域。但是传统的方式,对于VAE部分,也就是论文说的Pre-training of Visual Tokenizers部分,无法scaling——而且,token部分的scaling还与下游的模型生成出现相反的效果。论文分析,这里的原因,在于,传统的的token部分,主要是进行

文章图片
#论文阅读#图像处理
【AI技术调研】春节期间大模型厂商的重要进展

2026年春节,国产大模型迎来密集发布潮,DeepSeek、字节跳动、智谱AI等厂商纷纷推出新一代模型,技术竞争从参数规模转向工程化落地。DeepSeek-OCR 2实现百万级长文本处理,字节Seedance 2.0视频生成模型引发关注,智谱GLM-5参数达7450亿。行业呈现超长上下文、多模态融合、Agent工程化等趋势,API进入"厘时代"。与此同时,OpenAI发布GPT

文章图片
#人工智能
【AI工具】在 VSCode中安装使用Excalidraw

VSCode中就可以安装,点击两下,非常容易就完成了安装

文章图片
#vscode#ide#编辑器 +1
【论文阅读】REACT: SYNERGIZING REASONING AND ACTING IN LANGUAGE MODELS

ReAct 通过交错推理与行动,首次在统一框架中实现了 LLM 的“边想边做”,在知识推理与交互决策任务中均取得显著性能与可解释性提升,为构建更智能、可控、可扩展的语言智能体开辟了新路径。

文章图片
#论文阅读#语言模型
【AI学习】谷歌:AI智能体入门白皮书

用最通俗的话来说,AI智能体可以定义为模型、工具、编排层和运行时服务的组合体——它通过让大语言模型(LM)在循环中持续工作,最终实现既定目标。这四个要素共同构成了任何自主系统的核心架构:模型(“大脑”):作为智能体核心推理引擎的大语言模型或基础模型,负责处理信息、评估选项并做出决策。模型的类型(通用型、微调型或多模态型)决定了智能体的“认知能力”水平。一个Agentic AI系统,本质上是大语言模

文章图片
#人工智能#学习
【AI工具】网页变成干净 Markdown 的免费神器

摘要: markdown.new是一款免费网页转Markdown工具,可自动去除广告和冗余样式,保留核心内容,使网页体积减少80%。支持三种使用方式:浏览器地址前加markdown.new/、API调用或开源部署。采用三层转换机制确保稳定性,每日限500次请求。测试案例显示其成功将技术文章转换为结构化Markdown,保留了标题、列表和链接等要素。该工具特别适合需要处理网页内容的AI应用,能有效降

文章图片
#人工智能
【AI学习】李宏毅新课《DeepSeek-R1 这类大语言模型是如何进行「深度思考」(Reasoning)的?》的部分纪要

李宏毅新课《DeepSeek-R1 这类大语言模型是如何进行「深度思考」(Reasoning)的?》的部分纪要

文章图片
#人工智能#学习#语言模型
    共 90 条
  • 1
  • 2
  • 3
  • 9
  • 请选择