logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【零基础入门 LLM 开发 · Day 5】流式输出——打字机效果

前几天的写法有个体验问题:AI 生成 500 字,你就得,屏幕一片空白。ChatGPT 那种"字一个一个蹦出来"的效果,就是:服务边生成边推送,你边收边显示。总耗时没变,但,体验完全不同。

#java#人工智能
nacos1.4.1集群搭建(各种问题汇总)

https://blog.csdn.net/qq_40230848/article/details/116237259

springcloud.nacos1.4.1版本配置

官网下载nacos1.4.1版本包,解压文件1.单机版运行nacos 进入下列目录2.cmd 当前目录进行 startup.cmd -m standalone 命令输入3.登录成功!2.集群式配置1.首先数据库一定要大于5.6版本!!!本人电脑版本为5.5.6,配置失败,原因排查为:(版本不同时间戳的格式不同,导致nacos创建表结构出现问题)把老版本进行删除,然后再安装新版本!!千万不要新得包进

Git 每次都要输入密码/Git Enter passphrase for key ‘/c/Users/***/.ssh/id_rsa‘ 解决方法

这里是引用重点!!!你ssh-keygen -t rsa -C "邮箱"生成的时候,添加了密码!!这导致你每次拉取代码的时候本地私钥都要到公钥那里去验证密码!!设置密钥的时候除了选择yes/no ,其他都不要选,直接空格!!ssh-keygen -t rsa -C "zhangyk@fitech.com.cn"Generating public/private rsa key pair.Enter

#ssh#git#github
scanner console = new Scanner(System.in)啥意思啊?

在百度上查,发现答案参差不齐,但是都在用不同的角度在解释。System.in是标准输入设备。 Scanner是JAVA流里面的一个输入类。Scanner 是常用的输入流的语句,而scanner xxx(自己随便定义变量)= new Scanner(System.in)则是输入流的入口,也就是有了这一句在像控制台送出了一个信号:我就要输入内容了,你给我挪出位置,听我的命令。之后不管是xxx.n...

#java#后端
Intellij IDEA eclispe版本 最全实用快捷键整理

正文前: 1. IDEA内存优化(秒开的快感!!)因机器本身的配置而配置:\IntelliJ IDEA8\bin\idea.exe.vmoptions// (根据你的配置变大!!)-----------------------------------------  -Xms2048m     -Xmx2048m  ...

#java#开发工具#eclipse
利用键盘选定文本的快捷键

Shift +↑ 向上选定一行Shift +↓ 向下选定一行Shift + ← 向左选定1个字符Shift + → 向右选定1个字符Shift + Ctrl +↑ 选定内容扩展至段落首Shift + Crtl +↓ 选定内容扩展至段落尾Shift + Crtl + ← 选定内容扩展至单词首Shift + Crtl + → 选定内容扩展至单词尾Shift + Home 选定内容扩展至...

力扣热题100 11. 盛最多水的容器

前提提要:看懂题目很重要,看懂题目之后就很简单了,用简单的写法先写一遍,超时了然后换思路,如果不会赶紧看题解。有 n 条垂线,第 i 条线的两个端点是 (i, 0) 和 (i, height[i])。解释:图中垂直线代表输入数组 [1,8,6,2,5,4,8,3,7]。宽是一直变的,那就控制高,如果高是足够高的,那面积是一定是比低的大。木桶效应,取决于最低的木头,所以挪矮的,让它变高。找出其中的两

#leetcode#算法#职场和发展
triton backend 模式docker 部署 pytorch gpu模型 镜像选择

因为本次安装的是基于 pytorch pth模型,同时需要pytorch 进行数据处理成张量。所以选择pyt-python-py3。虽然镜像说是提供了pytorch 但是依旧需要下载torch 包,可能是我选择的版本问题吧…确定镜像的版本,否则镜像是不能支持对应的版本的。nvidia的官网 不同版本对应的环境。可以看出py3 < pyt < llmPy3。我是分开执行,各位可以直接一把启动哈。查看

#docker#pytorch
Docker 镜像打的包有1.3个G 多阶段构建缩小镜像体积(不算成功)

实际的场景:harbor 主备双战,每次拉取的时候拉到备战导致镜像拉取失败,最终排查是因为镜像包太大了,主站在往备战同步的时候失败或者太慢,导致K8s 拉不到镜像。运维建议缩减镜像的大小。: .venv 中的 Lib (准确说是 site-packages )是混合体,但核心涉及系统兼容性的部分是“动态链接库”。Docker 构建时,会按顺序执行每个 FROM 开始的“独立小世界”,最后只保留最后

#docker#容器#运维
    共 32 条
  • 1
  • 2
  • 3
  • 4
  • 请选择