logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【人工智能】使用 vLLM 高效部署大语言模型:以 secGpt14b 为例

本文介绍如何利用vLLM推理引擎在多GPU环境下高效部署secGpt14b大语言模型。从tmux会话管理、GPU指定到关键参数解析,详细说明了--tensor-parallel-size、--max-model-len、--gpu-memory-utilization等参数的优化设置,并提供了REST API调用示例。文章还包含性能调优建议和常见问题解答,帮助开发者快速构建高性能的大模型推理服务。

文章图片
#人工智能#语言模型#自然语言处理
【Docker】使用Docker快速部署n8n和unclecode/crawl4ai

通过Docker部署n8n和crawl4ai可以快速搭建自动化工作流环境。本文详细介绍了部署步骤和注意事项,希望对大家有所帮助。后续可以根据实际需求进行更多的自定义配置和优化。

文章图片
#docker#容器#运维
【Docker】Docker环境下快速部署Ollama与Open-WebUI:详细指南

本文详细介绍了如何在Docker环境中快速部署Ollama和Open-WebUI,并提供了解决常见问题的指南。首先,通过Docker命令启动Ollama,确保其具备GPU加速功能,并持久化数据存储。接着,部署Open-WebUI,配置端口映射和自动重启功能。文章还展示了如何在Ollama容器中调用模型,并针对忘记密码和模型版本不兼容等常见问题提供了解决方案。最后,建议保持镜像更新、使用持久化数据卷

文章图片
#docker#eureka#java
【Flutter】如何生成和修改 Flutter 应用图标

在开发 Flutter 应用时,自定义应用图标是不可或缺的一部分。本文将详细介绍如何生成和替换 Flutter 应用的图标。

文章图片
#flutter
【每日推荐】使用 Ollama 平台上的 Llama 3.2-vision 模型进行视频目标检测

通过这篇文章和视频演示,您将学会如何使用 Llama 3.2-vision 多模态模型进行视频目标检测,同时掌握如何利用 Python 和 FastAPI 框架快速实现此功能。这项技术不仅能应用于视频分析,还能为实际生活中的目标识别提供帮助,特别是在寻找丢失宠物等场景中具有很大潜力。

文章图片
#目标检测#人工智能
【深度学习】使用 LSTM 网络预测水位数据

在本文中,我们将介绍如何使用 LSTM(长短期记忆)神经网络来预测水位数据。我们将使用 Python 中的一些流行库,如 NumPy、Pandas 和 Keras。首先,我们将加载数据,然后预处理它以进行适当的训练。接着,我们将构建 LSTM 模型,并对其进行训练。最后,我们将使用训练好的模型进行预测,并将结果可视化。

文章图片
#深度学习#lstm#人工智能
【Android】解决 ADB 中 SELinux 设置与 `Failed transaction (2147483646)` 错误

将 SELinux 设置为 Permissive 模式会降低设备的安全性,因此请在确保安全的环境下进行操作。在使用 ADB 进行开发和调试时,经常会遇到由于 Android 系统安全策略(SELinux)引起的权限问题,尤其是在执行某些操作时,可能会遇到类似。在 SELinux 设置为 Permissive 模式后,再次执行出现问题的命令,查看问题是否得到解决。但需要注意的是,这样的操作应仅限于调

文章图片
#android#adb
【人工智能】人工智能中的Agent:法律虚拟助手简单示例

随着人工智能技术的发展,Agent(代理)的概念在这个领域中变得愈发重要。在人工智能的应用中,Agent可以是一个系统、软件或机器人,能够执行特定的任务,理解上下文,并做出相应的决策。一个引人注目的例子是面向法律领域的虚拟助手。让我们深入了解一下,通过一个简单示例展示法律虚拟助手的工作原理。

文章图片
#人工智能#服务器
【人工智能】推荐开源企业级OCR大模型InternVL3

文章参考来源:InternVL3,这是一个高级多模态大型语言模型 (MLLM) 系列,展示了卓越的整体性能。与 InternVL 2.5 相比,InternVL3 表现出卓越的多模态感知和推理能力,同时进一步扩展了其多模态功能,包括工具使用、GUI 代理、工业图像分析、3D 视觉感知等。此外,我们将 InternVL3 与 Qwen2.5 Chat 模型进行了比较,其相应的预训练基础模型被用作 I

文章图片
#人工智能
【Docker】使用Docker快速部署n8n和unclecode/crawl4ai

通过Docker部署n8n和crawl4ai可以快速搭建自动化工作流环境。本文详细介绍了部署步骤和注意事项,希望对大家有所帮助。后续可以根据实际需求进行更多的自定义配置和优化。

文章图片
#docker#容器#运维
    共 25 条
  • 1
  • 2
  • 3
  • 请选择