logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在 Ubuntu 上安装 Ollama 并通过 Open WebUI 运行本地大语言模型

通过上述步骤,你已经成功在 Ubuntu 上安装并运行了 Ollama 与 Open WebUI。现在,你可以在本地机器上享受与大语言模型的交互体验,无需依赖外部云端服务。通过 Docker 容器,你还可以方便地管理和切换不同的模型,提升工作效率。希望这篇教程能帮助你更好地理解如何在本地运行大语言模型,并通过图形化界面进行管理。如果你有任何问题,欢迎在评论区留言!

#ubuntu#语言模型#linux
在 Ubuntu 上安装 Ollama 并通过 Open WebUI 运行本地大语言模型

通过上述步骤,你已经成功在 Ubuntu 上安装并运行了 Ollama 与 Open WebUI。现在,你可以在本地机器上享受与大语言模型的交互体验,无需依赖外部云端服务。通过 Docker 容器,你还可以方便地管理和切换不同的模型,提升工作效率。希望这篇教程能帮助你更好地理解如何在本地运行大语言模型,并通过图形化界面进行管理。如果你有任何问题,欢迎在评论区留言!

#ubuntu#语言模型#linux
指令微调(Instruction Tuning)

指令微调的核心在于通过精细调整模型的参数,使模型能够根据自然语言指令进行有效的任务执行。通过数据集构建,我们给模型提供了各种任务的指令和对应的响应。在微调训练阶段,模型根据这些指令进行优化,使其生成更加符合要求的输出。最终,模型优化通过调整模型的所有参数,使其在处理指令时具有更高的精确度和泛化能力。通过指令微调,模型不单纯依赖于预训练的知识,而是更有能力根据具体的指令任务进行推理和生成。

#人工智能#深度学习#机器学习
CodeGuarder 安全增强 Prompt 结构

这个 Prompt 结构是 CodeGuarder 安全增强的核心成果:它把“功能需求 + 子任务拆解 + 安全知识检索 + 参考示例 + 安全约束”整合成一个可直接喂给 LLM 的结构,形成的完整落地实现。

#java#开发语言
CodeGuarder 深度问答 (P1):Motivation + Mechanism + Implementation

一句话:CodeGuarder 用“任务分解 + 语义检索 + 安全知识注入”强化了 LLM 的代码生成安全,是目前最有效的 Prompt-Level 安全增强方法。核心优势包括:不依赖模型参数,通用性强安全知识可持续扩展针对子任务,专注于每个风险点结构化 Prompt 让模型更容易理解适用于:代码生成API 调用低代码平台安全自动修复企业级 AI 开发。

#人工智能#算法
CodeGuarder 深度问答 (P2):为什么要这样设计?(Broken Instructions / Root Causes / Prompt 结构 / 安全机制)

CodeGuarder 的设计不是偶然的,它的每一步都源自深刻的安全工程经验:拆任务 → 才能精准定位漏洞语义检索 → 才能得到正确安全知识子任务安全注入 → 才能防御每一个风险点融合参考代码 → 才能测试鲁棒性层级排序 → 才能提高模型关注度完整结构 Prompt → 才能让模型稳定、安全生成这种结构比 RAG 强得多,因为它是「面向漏洞根因而非代码表面」的 Prompt。如果你愿意,我还能帮你

#安全#网络#web安全
CyberSecEval 2

数据集在 Hugging Face 上可访问:数据集简介该数据集名为,是一个广泛的网络安全评估数据集,专门用于对大语言模型(LLM)进行网络安全能力的评估。。根据页面上的数据,Python:351 条记录PHP:162 条记录JavaScript:249 条记录Rust:204 条记录Java:229 条记录C++:259 条记录C:227 条记录C#:235 条记录这些数据记录主要包含关于不同编

#人工智能
CopyBreakRAG 攻击步骤与方法概括

CopyBreakRAG 是针对 RAG 应用知识库的,无需访问 RAG 内部架构(如嵌入模型、参数),仅通过 API 交互,即可逐字提取 70% 以上知识库内容,核心是 “反馈驱动的探索 - 利用动态切换”。

#学习
RAG 核心流程

这是 RAG 的 “信息筛选” 环节,核心是从知识库中找到与用户问题最相关的文本块。这是 RAG 的 “知识库搭建” 环节,目的是让计算机能快速找到文档中的关键信息。四大阶段,每个阶段都有明确的目标和关键操作,对应你代码中的核心功能模块。RAG 的完整流程可分为。

#学习#机器学习
CodeGuarder 深入理解教程

最近在实现 CodeGuarder 的训练与推理 pipeline 时,我发现网上几乎找不到“论文结构是如何在代码中落地的”这种类型的教程。root_causes(安全知识库 S)broken_instructions(子任务分解 Q → qᵢ)security knowledge(S′_{qᵢ} 经过向量检索后插入 prompt 的知识)很多人对它们的作用都模糊不清,只知道“这是用来增强安全性的

#人工智能#机器学习#算法
    共 14 条
  • 1
  • 2
  • 请选择