目录导读tfserving镜像下载模型准备部署模型http接口请求原数据请求http inferencegrpc请求参考文献导读在工业界，模型的部署绝大部分的企业都会选择tfserving工具。本篇文章分享一下如何使用容器进行模型部署并使用部署好的模型。tfserving镜像下载使用docker下载tfserving镜像，关于docker的使用可参考，tfserving包含的版本可在此查看。doc

安装anaconda小记

anaconda管理python版本手册anaconda安装安装查看conda常用的命令。创建python虚拟环境激活虚拟环境python依赖安装关闭虚拟环境移除虚拟环境最近在研究tensorflow2.x的版本，但是公司内部业务使用的是tensorflow1.x，为了保证环境的隔离，打算采用anada来管理不同的python环境。anaconda安装上官网下载anaconda， 安装方式有两种，

hivesql中很多常用的功能，过段时间没有使用就容易忘记，需要去网上搜索，这里总结一下，省的以后还去去搜，供自己以后参考。

spark加载jar并使用示例

最近在跑多模态的推荐算法啊，在安装环境的时候发现，其算法都跑在比较老旧torch版本上，因为依赖的包很多，而这些包有时候没有很好的做到向下兼容，导致安装出来的环境无法正常运行。因为特写这个文章记录一下。本文主要是githu上MMRec的环境安装为例说明。

大模型后训练的框架不多，如llama-factory，open-r1，ms-swift，verl，u-sloth，原生transformer + trl等。llama-factory聚焦于sft，目前不支持grpo等强化微调的方法。ms-swift在使用上几乎与llama-factory一样，不过现在在全力支持强化学习的训练，前两周我还提过一个pr，解决ms-swift使用grpo算法微调deep

有时候我们需要将github的项目fork到自己名下，然后修改并提交pull request，这里将常用的操作做个笔记，方便需要时查看。git merge upstream/master# 其他分支只需要将master改成其他的分支名即可。

在pyspark操作过程中，有时会忘记多表join重名字段去用问题，需要网上查，所以这次记录一下基本操作，便于以后自己查询使用。

配置镜像源， 启动docker-desktop，在设置中找到docker Engine， 添加对应的配置，默认的配置中只有builder和experimental两个值，咱们可以自行添加registry-mirrors。hub.docker.com在2024年5月之后，国内已经无法访问了，所以使用默认的配置就会默认访问hub.docker.com，因为无法访问，所以自然拉取不到对应的镜像。