一、开篇　　上篇文章【大话设计模式】——简单工厂模式告诉了我们一个网吧收费工厂对象如何创建收费形式（白天收费、夜间收费）的实例。简单工厂代码中有很多 case分支语句,如果我们还想填加收费的形式（比如会员收费啊，通宵收费啊），就需要改动工厂代码，每次维护和扩展都要花费很多时间，另外改动很容易造成纰漏（比如之前的白天收费形式，很可能因为改动从多收钱或者少收钱），所以简单工厂模式很不安全。所以我...

以下会介绍利用Kafka自带的性能测试脚本及KafkaManager测试Kafka的性能，以及如何使用Kafka Manager监控Kafka的工作状态。Kafka性能测试脚本　　$KAFKA_HOME/bin/kafka-producer-perf-test.sh 该脚本被设计用于测试Kafka Producer的性能，主要输出4项指标，总共发送消息量（以MB为单位），每秒发送消息...

业务需求　　用户中心有三个图标：手机、邮箱、银行卡绑定。如果完成了相应的绑定工作，图标就显示深色，未完成图标就是浅色，气泡中提示相应的文字和链接。示意图如下，主要要实现气泡弹出功能。实现思路　　１．鼠标移到图片上，隐藏的div弹层属性改成：显示，弹层背景是一个类似qq会话的图片，如上图所示。　　２．鼠标离开图片，关闭div弹层 。　　...

业务需求　　用户中心有三个图标：手机、邮箱、银行卡绑定。如果完成了相应的绑定工作，图标就显示深色，未完成图标就是浅色，气泡中提示相应的文字和链接。示意图如下，主要要实现气泡弹出功能。实现思路　　１．鼠标移到图片上，隐藏的div弹层属性改成：显示，弹层背景是一个类似qq会话的图片，如上图所示。　　２．鼠标离开图片，关闭div弹层 。　　...

摘要：大模型开发流程包括确定目标、数据准备、模型设计与训练、部署应用等步骤。未来AI将向AI Agent和具身智能发展，前者需具备决策、记忆和工具使用能力，后者指能自主决策行动的机器人。关键技术涉及token、prompt和embedding等概念。这种演进将推动AI实现更复杂的任务自动化和自主决策能力。

本文摘要了文本、图像和图文数据的预处理方法。文本预处理包括通用和专用数据的收集过滤，以及基于指令数据的构造方法（人工标注、结构化数据转换、self-instruct和翻译）。处理手段涉及特征提取、大小写转换、分词等。图像预处理包括去噪、重采样和增强。图文数据需关注比例筛选、格式压缩、敏感信息过滤等。最后介绍了数据集划分、过滤映射等通用处理方法。

Transformer 学这一章的时候，感觉有些迷糊，然后咨询了 deepseek ，它的比喻是 如果大模型是跑车，那么 transformer 就相当于跑车的发动机引擎，GPT、BERT、LLaMA就是不同品牌的跑车。而 Transformer 通过自注意力机制，可以瞬间建立起“它”与“手机”之间的强关联，同时也能微弱地关联到“苹果公司”，从而准确地理解“它”指代的是“手机”。RNN 模型可能会

预训练 通过整合大量从低成本渠道获取的训练数据，并将这些数据传递给模型，由模型对这些数据的共性知识进行学习，从而形成一种通用的理解能力。比如车辆监控，从一大堆车辆行驶图片里面，规定特点形状的为车车，图片左边的座位为副驾驶，副驾驶如果有人有一个斜斜角度的带子默认绑定安全带，这样就可以把这些特性用于检查副驾驶有没有系安全带咯，虽然安全带可能有跟衣服颜色相似，不容易辨认，大部分的应该可以辨识出来吧，一部

微调（fine-tuning）是大模型开发后训练阶段的关键技术，利用大量预训练知识和少量领域数据提升特定任务性能。它可复用预训练模型参数和结构，但依赖充足标注数据。参数高效微调技术（PEFT）如LoRA通过减少微调参数来优化性能。文章还反思了数学基础的重要性，提到高数知识在理解微调技术中的关键作用。（121字）

实现模型并行的关键在于将模型的不同子网放置在不同的 GPU 设备，并编写前向传播函数，确保设备的输入输出能够正确协调。超大模型需要极高的算力和存储需求，通过数据并行解决单一设备性能有限的问题， 提升大模型的计算速度。方法一： 参数初始化时，使用相同的随机种子和相同的顺序来初始化各个进程的模型参数。方式一：训练迭代开始前，讲数据集以并行进程数进行切分，每个进程读取切分后的数据。参数规模增长到单 GP