logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

万字拆解 LLM 运行机制:Token、上下文与采样参数

AI 应用开发和 AI Coding 相关的内容目前正在持续更新中:https://javaguide.cn/ai/ 。当你在输入法里打“今天天气真”,它会自动建议“好”——大模型做的事情本质上一样,只不过它看的不是前面几个字,而是前面几千甚至几十万个字,且每次只“补”一个 Token(文本碎片),然后把刚补的内容也加入上下文,再预测下一个,如此循环,直到生成完整回答。这个过程叫做自回归生成(Au

到底了