logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型部署技术演进史:从Flash Attention到AF分离的深度解析!

大模型部署技术经历了从Static Batching到Continuous Batching、Chunked Prefill,再到PD分离和AF分离的演进过程。Flash Attention作为基石解决了Attention计算瓶颈,PagedAttention缓解了内存碎片问题。PD分离优化了不同计算阶段的资源分配,AF分离则进一步针对MoE模型特点进行资源调配。整个演进过程体现了软硬件协同优化和

文章图片
#transformer#知识图谱#神经网络 +1
把 Agent 黑话翻译成人话:Model、Tool、Skill、Harness 到底指什么

模型在推理过程中,可以决定「这一步我需要调用某个工具」,把参数发过去,拿到结果,继续推理。每年这两个月,各家大厂都会集中释放大量岗位:既有补录名额,也有核心业务扩招,对应届生来说是冲刺上岸的最后窗口,对在职的朋友而言,同样是全年最值得把握的跳槽时机。少任何一个,都不是一个能持续干活的 Agent。更难得的是,这条赛道对年龄也宽容得多——对深陷“35 岁焦虑”的程序员来说,这几乎是目前为数不多的高薪

#AI Agent
斯坦福李飞飞最新巨著《AI Agent综述》_aiagent综述 中文版

这篇80页的论文由李飞飞等14位专家联合撰写,探讨了多模态AI系统的前沿发展。研究内容涵盖AI代理与基础模型的应用、环境嵌入和多模态感知能力等关键方向,重点分析了如何通过外部知识、多感官输入和人类反馈来优化具身代理系统。论文还涉及NLP领域的机器翻译、语音识别等技术应用,以及应对假新闻等挑战的解决方案。研究展望了Agent AI的发展前景,包括在物理世界和虚拟环境中的智能交互可能。论文提供了AI领

文章图片
#人工智能#自然语言处理
不愧是大模型神书,我要推荐一万次!-复旦张奇教授团队开源免费书《大规模语言模型:理论与实践》

《大规模语言模型:从理论到实践》详细介绍了构建大语言模型的四个主要阶段:预训练、有监督微调、奖励建模和强化学习。每个阶段都有算法、代码、数据、难点及实践经验的详细讨论。以大语言模型的基础理论开篇,探讨了大语言模型预训练数据的构建方法,以及大语言模型如何理解并服从人类指令,介绍了大语言模型的应用和评估方法,为读者提供了更全面的视野。旨在为对大语言模型感兴趣的读者提供入门指南,也可作为高年级本科生和研

文章图片
#语言模型#人工智能#自然语言处理
重磅!首本大模型中文新书发布,复旦最新《大规模语言模型·从理论到实践》,理论+代码_大语言模型,从理论到实践的代码

《大规模语言模型·从理论到实践》由复旦大学NLP实验室团队历时8个月编写完成,系统介绍大语言模型的核心技术与实践方法。全书围绕预训练、微调、奖励建模和强化学习四大阶段展开,涵盖Transformer架构、分布式训练、SFT调优、RLHF等关键技术,并提供代码实现细节。本书适合作为高年级本科生和研究生的补充教材,要求读者具备深度学习、NLP及分布式计算基础。内容兼顾理论深度与实践指导,是目前大模型领

文章图片
#语言模型#人工智能#自然语言处理 +1
大模型面试题合集,大模型面试八股文

以下是针对大模型(如GPT、LLaMA、PaLM等)技术面试的八股大纲,涵盖核心概念、原理、训练技巧、应用及优化方向等内容,帮助系统化准备面试:

文章图片
#面试#职场和发展#自然语言处理 +1
字节AI产品面经|反反复复,无非这100个问题

1、AI相关的应用、技术和落地相关的准备不是很充分,很容易被问倒。2、不知道大模型构建流程是怎么样的,每个节点产出物是什么,以及上下游关系;3、不了解 AI 技术的边界,也不懂基本的算法技术AI产品面试尊的不难,他们的提问无非就是这些类型的问题我把一些问的最多的问题整理了一下,快🐎住!花了几年时间精心整理出来的,希望大家都能找到心仪的工作🦆!

文章图片
#人工智能#产品经理
渗透测试知识点总结(非常详细),从零基础入门到精通,看完这一篇就够了_渗透测试学习

渗透测试知识点总结(非常详细),从零基础入门到精通,看完这一篇就够了_渗透测试学习

文章图片
#学习#web安全#安全 +2
怎样自学黑客技术_黑客/网络安全入门资料

很多新手朋友想要学习黑客技术,但苦于找不到合适的教程,百度到的教程不是零散的没有体系就是晦涩难懂让人看不下去,给想要自学的朋友带来很大的障碍,今天我就把我自学时候收集的教程分享给大家,算是抛砖引玉,希望大家的黑客之路能顺遂一点

文章图片
#web安全#安全#网络安全 +1
【网络安全】Duomicms的变量覆盖漏洞从白盒测试到实战

本次白盒代码测试的cms是DuomiCms,这次使用Seay工具进行代码审查,下载DuomiCms源码,然后工具加载。先全局搜索危险函数,依次排查;在函数定位后,在文件中依次寻找有通用性的文件后缀内容,如下所示;发现符合条件的文件为/duomiphp/common.php.进一步定位其中的危险函数如下,可以通过该方式来通过传参来造出变量!(当然造传参的时候注意规避上面的几个if条件,不要跳进去),

文章图片
#web安全#网络#安全 +3
    共 617 条
  • 1
  • 2
  • 3
  • 62
  • 请选择