
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
运行工具(软件):1、LM Studio:最推荐新手。2、Ollama:开发者。3、llama.cpp:底层引擎,性能天花板、可深度调优。4、vLLM:高并发/生产环境,企业级高性能推理服务。大模型的格式,GGUF = Generic Graph Update Format:.gguf,目前通用标准,取代旧格式,Ollama、llama.cpp、vLLM、所有本地部署首选。.ggml,老版本格式,
Python中,None是NoneType类型的唯一全局实例,整个Python程序中只有一个None对象。它是Python官方定义的标准空值,表示 "不存在、未设置、无结果"。is判断的是内存地址是否相同,因为None是单例,所以x is None永远准确。==判断的是值是否相等,如果自定义类重写了 __eq__ 方法,可能会返回错误的结果。None,NoneType,空值、不存在,False。"
安装的程序和目录位置:C:\Users\{用户名}\AppData\Local\Programs\Ollama\,C:\Users\{用户名}\.ollama\models\,C:\Users\{用户名}\AppData\Local\Ollama。
JDK 17 配置好环境变量、Maven 3.6+ 配置阿里云镜像、Node.js 16~18 版本(不要太高)、MySQL 8.0+、RedisHBuilderX(用来跑移动端 UniApp)。
【代码】手工搭建PC端:pnpm + Vite + Vue3 + Element Plus + Electron。
定义大模型的基础神经网络骨架,搭建Transformer Decoder神经网络架构,编写注意力机制、位置编码、全连接层、残差连接等核心网络代码;搭建模型训练的基础运行环境,编写优化器、损失函数、学习率调度、模型初始化等相关代码,保障训练流程可正常推进;针对大模型海量数据与大规模算力需求,编写多 GPU集群通信、张量并行、数据并行、显存优化、断点续训等代码,实现算力高效调度与分布式训练,满足大模型
安装的程序和目录位置:C:\Users\{用户名}\AppData\Local\Programs\Ollama\,C:\Users\{用户名}\.ollama\models\,C:\Users\{用户名}\AppData\Local\Ollama。
运行工具(软件):1、LM Studio:最推荐新手。2、Ollama:开发者。3、llama.cpp:底层引擎,性能天花板、可深度调优。4、vLLM:高并发/生产环境,企业级高性能推理服务。大模型的格式,GGUF = Generic Graph Update Format:.gguf,目前通用标准,取代旧格式,Ollama、llama.cpp、vLLM、所有本地部署首选。.ggml,老版本格式,
【代码】Langchain动态切换模型、异步调用大模型、结构化输出和消息提示。







