logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

多模态大模型初探索:通过ollama部署多模态大模型

今天和同事聊天,聊到多模态大模型,感觉可以作为2025年的一个新的探索方向。希望和大家一起学习,一起进步。今天也是尝试了我能想到的最基本最快速地本地部署多模态大模型的方式,那便是使用ollama。ollama之前咱安装过,然后现在也是直接使用就好。

文章图片
#人工智能
dockers网络连接指令:docker network connect

是 Docker 提供的一个命令,用于将现有的容器连接到一个指定的网络中。通过这个命令,用户可以让容器加入到不同的网络环境中,从而实现容器间的通信或者与外部网络的交互。一旦容器被连接到某个网络,它就能够与其他同处该网络中的容器进行直接通信,而无需依赖于主机的 IP 地址或端口映射。

文章图片
#docker#容器
docker: Error response from daemon: could not select device driver ““ with capabilities: [[gpu]].

这个错误表明Docker无法识别或加载支持GPU所需的设备驱动程序。以加载内核模块(常见于Ubuntu)。),手动安装后重启服务。

#docker#容器#运维
一个你可能永远不会遇到的报错:/docker-entrypoint.sh: 47: exec: .: Permission denied

产生的原因是,在docker run时,不小心在命令最后加了个.为什么会错得这么离谱呢?—— 一个字符的偏差可能引发连锁故障。Docker 的命令行参数覆盖机制对新手不友好,多一个字符可能导致完全不同的行为。若开发环境中存在同名文件或目录(如当前目录下恰好有可执行文件。),错误可能被掩盖;命令包含特定字符),避免低级错误进入生产环境。可能被误解析为路径参数,导致脚本逻辑混乱。build的时候有点,

#docker#容器#运维
GraphRAG实践:docker部署neo4j

随着图数据库(Graph Database)的流行,越来越多的应用场景开始采用图数据库来处理复杂的关系数据。Neo4j作为领先的图数据库之一,提供了强大的图形查询语言Cypher、高效的存储结构和丰富的生态系统,使得它成为开发人员构建关联性数据分析应用的理想选择。本文将指导您如何使用Docker容器化技术快速部署Neo4j,并通过GraphRAG(Graph Retrieval and Gener

文章图片
#docker#neo4j#容器
在vs code中运行python程序时,将解释器设置为uv虚拟环境构建的解释器。

在VS Code中运行Python程序时,正确配置虚拟环境解释器是项目依赖管理的重要环节。以下是如何使用。

文章图片
#python#uv#开发语言
windows下docker运行ollama

我们之前说过,在dify里配置ollama时,由于dify是在docker里,而ollama是在宿主机上,所以二者的网络需要一些技巧来打通。其中有一个办法,就是把ollama的IP暴露出来。这其实看似不安全,实则还挺危险的。当时,就一直想着,如果能用docker部署ollama就好了。

文章图片
#docker#容器#运维
什么是python uv,如何在windows上安装uv,基础的用法有哪些?

UV集成了虚拟环境管理、Python版本控制、依赖解析等功能,目标是成为类似Rust Cargo的全能工具,简化Python开发流程。UV是由Astral公司(Rust工具Ruff的开发者)推出的高性能Python包管理工具,基于Rust编写,旨在替代传统的。:若通过包管理器(如Chocolatey)安装,可能版本较旧,建议优先使用。:Python 3.3+原生支持,无需安装额外工具。❌ 依赖解析

文章图片
#python#uv#windows
悬案:windows,在docker里运行ollama,一直没成功(一直是CPU跑,调不起来GPU),现在又突然好了。

这些报错,可以在logs这里看到(我这个展示的是没报错的情况,只是告诉大家,可以检查一下这个位置是不是跟我下面的图一样,还是说包含了上面的这个错误,如果是后者,就要当心了。因为最开始,我的ollama总是无法调起GPU,只能用CPU来跑。比较恐怖的是,这个错误,不仅会影响ollama的运行,任何跟pytorch有关的都会报错。也在网上找了很久的解决方案,中文的英文的,都找遍了,也没解决。重装后,问

文章图片
#windows#docker#容器
Electron实现“仅首次运行时创建SQLite数据库”

在桌面应用中,SQLite因其轻量、嵌入式特性成为本地存储的热门选择。但若重复初始化数据库,会导致数据覆盖或冗余。:通过检测数据库文件是否存在,决定是否执行建表操作。,后续启动直接连接现有库。

#数据库#electron#sqlite
    共 37 条
  • 1
  • 2
  • 3
  • 4
  • 请选择