低秩自适应 （LoRA） 是参数高效微调中使用最广泛的技术之一。以下讨论基于第六章中给出的垃圾邮件分类微调示例。但是， LoRA 微调也适用于第七章中讨论的监督指令微调。E.1 LoRA简介LoRA 是一种技术，它通过仅调整模型权重参数的一小部分来调整预训练模型以更好地适应特定的、通常较小的数据集。“低秩”方面是指将模型调整限制在总权重参数空间的较小维度子空间的数学概念。这有效地捕获了训练期间权重

Transformer 通过其捕捉上下文和理解语言的能力，彻底改变了自然语言处理（NLP）领域。通过注意力机制、编码器-解码器架构和多头注意力，它们使得诸如机器翻译和情感分析等任务得以在前所未有的规模上实现。随着我们继续探索诸如 BERT 和 GPT 等模型，很明显，Transformer 处于语言理解和生成的前沿。它们对 NLP 的影响深远，而与 Transformer 一起的发现之旅将揭示出该

坚持到了这儿，恭喜你，表示你有做AI大模型工程师的潜力。其实我想说的上面的内容只是冰山一角，刚开始大家不需要多么精通了解这些内容。主要是不断练习，让自己跳出「舒适区」，进入「学习区」，但是又不进入「恐慌区」，不断给自己「喂招」。记住，学习是一个持续的过程。大模型技术日新月异，每天都有新的研究成果和技术突破。要保持对知识的渴望，不断学习最新的技术和算法。同时，实践是检验学习成果的最佳方式。通过实际项

我们熟知，ChatGPT能聊天画图，能编程啃论文，那么，这个聊天机器人到底是怎么学会与人类交流的呢？经过这段时间的琢磨+方神倾情板书输出讲解+回头翻阅各种资料，也终于明白了个大概，在这尽量给大家用我拙劣的语言说得明白些。先说说ChatGPT的核心部分：GPT（全称是Generative Pre-trained Transformer，里面的P和T我们一会儿会讲到），这是一个由OpenAI开发的大语

很多零基础转行、在校同学准备渗透测试面试，最大痛点：不知道面试官会问哪些题，网上资料杂乱，答案要么太深看不懂，要么过于简短，面试时说不出完整逻辑。本文整理 100 道真实面试高频题，覆盖计算机网络基础、Web 漏洞、内网渗透、工具、报告、法律法规、应急响应，全部给出面试可用的标准化答案。岗位适用：校招安全工程师、安全服务、渗透测试、护网 HVV 驻场、等保测评相关岗位。面试答题小技巧：不要只背一句

文件上传功能几乎随处可见：头像上传、图片附件上传、文档提交、后台素材上传。网站业务需要接收用户文件，后端接收文件后保存到服务器。正常逻辑：只允许上传 jpg、png、pdf 这类静态文件，并且严格限制文件存放路径、执行权限。漏洞产生的原因服务端对上传文件的文件名、后缀、文件内容、文件路径校验不严，攻击者可以上传可执行脚本文件（php、asp、aspx、jsp 等）。当文件被服务器解析执行，攻击者就

安全基线，是服务器操作系统最小安全标准，统一的配置规范，消除默认配置带来的大量安全漏洞。基线核查也是等保测评、攻防演练、日常运维巡检的必做项。很多企业服务器上线后直接使用系统默认配置：弱口令、多余账号、开放无用端口、审计未开启，极易被攻击者拿下。身份鉴别、访问控制、安全审计、入侵防范、恶意代码防范、资源最小化，分为 Linux、Windows 两套清单，每一项包含检查内容、核查命令 / 操作、加固

hashcat号称世界上最快的密码破解，世界上第一个和唯一的基于GPU的规则引擎，免费多GPU（高达128个GPU），多哈希，多操作系统（Linux和Windows本地二进制文件），多平台（OpenCL和CUDA支持），多算法，资源利用率低，基于字典攻击，支持分布式破解等等，hashcat目前支持各类公开算法高达247类，市面上面公开的密码加密算法基本都支持！在渗透测试中我们往往会得到很多hash

工匠需要相应的技能和工具才能工作，并创造出杰作。虽然工具是工作的过程中的重要推动因素，但也需要工匠具有相关的经验和专业知识。渗透测试人员的工具箱非常像工匠的工具箱，可根据业务目标使用各种各样的工具。在这里，我们将分析一些可用于渗透测试的最佳免费工具。要注意，这些工具之间没有直接的比较。这些工具的使用取决于渗透测试者的评估类型。这些工具不是相互竞争关系，而是可以互相补充，并帮助渗透测试人员进行全面的

大家好，我是一名老程序员了，大模型出来后我算是一直在尝试各种AI工具，尤其是AI辅助研发的方向（可能有点焦虑？），包括上个月的AI程序员Devin发布我也在关注，大模型的能力发展太快了，我还是想努力跟上。我个人一直支持国产大模型，也算文心一言的老用户啦，去年3月刚内测的时候就在用了，那时候特振奋，想着国内终于有一款大模型了，刚开始用的时候很坎坷啊，用起来一直达不到预期。不过文心一言的模型能力还是在