👉项目开源地址：https://github.com/twy2020/PDF_Highlighter-AI_Translator。AI 提取关键生词，逐句翻译，一件导出生词表，句子表，导出带翻译注释的 pdf 文件！PDF Highlighter-AI Translator 应用发布了！🤗为有经常人工审阅，学习英文文献需求的老师和同学打造的 AI 辅助翻译pdf高亮阅读器！​✨记得给作者 gi

针对maixcam平台的模型转换

经过 embedding -> 加位置编码 -> N 层 EncoderLayer（自注意力 Self-Attention）输入：源句子 src_ids。

复用之前的组件：MultiHeadSelfAttention、PositionwiseFeedForward、PositionalEncoding、TokenEmbedding现在写一个「只有 Self-Attn + FFN」的层："""pad_mask: (B, L) —— 1 表示 PAD"""# 生成因果 mask（不能看未来）) # (L, L)x,pad_mask=pad_mask, #

【代码】第10节——手搓Token Embedding代码。

之前的 encode_text / decode_ids 可以继续用：Chat 模板：给用户一句话，让模型续写“Assistant 的回答”格式化成：然后让模型从这里开始自回归生成。改写一下生成函数"""user_input: 用户输入的中文字符串返回：模型生成的 assistant 回复（字符串）"""# 构造 prompt：模仿训练时的格式user_input: 用户输入的中文字符串返回：模型

Linux 是一种开源的操作系统，基于 Unix 设计，由 Linus Torvalds 于 1991 年首次发布内核。它具有免费、灵活、稳定和安全的特点，是现代服务器、嵌入式设备、超级计算机和开发环境中广泛使用的系统。Linux 提供命令行界面（CLI）和图形用户界面（GUI），可以满足开发者、企业和普通用户的多样化需求。常见的 Linux 发行版包括 Ubuntu、Fedora 和 CentO