logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

警惕!大模型“开盒”能泄露什么信息

注入攻击在网络安全领域由来已久,而随着大语言模型的应用,提示注入攻击成为新的威胁。这种攻击通过伪装恶意输入欺骗大语言模型,导致非预期输出,危害包括泄露敏感数据、传播错误信息等。常见的提示注入攻击手段有任务挟持、提示泄露和越狱攻击。任务挟持通过嵌入有害文本篡改任务指令;提示泄露诱使模型泄露任务提示,损害知识产权;越狱攻击则绕开安全审查机制,如通过角色伪装、设定虚拟场景等方式诱导模型输出敏感或非法内容

文章图片
智能体开发:大模型的任务规划

大语言模型在复杂问题任务规划上的推理能力展现出了惊人的表现。它能够根据问题的具体内容和难易程度,智能地生成合理的任务分解方案。借助这些方案,我们可以系统地规划出解决问题的具体步骤,从而调用适当的工具逐个解决子问题。并且在解决问题的过程中,它还能够根据实际情况灵活调整既定方案,最后汇总所有子问题的答案,得出最终结论。这种问题分解与规划能力,正是目标导向型问题解决策略的核心精髓所在。任务规划的方法有很

文章图片
#人工智能
智能体开发:利用大模型做应用效果评估

摘要:文章聚焦利用大语言模型进行文本质量评估。先介绍其核心原理,接着阐述 4 种评估方法:一致性评估,判断生成答案与标准答案的一致性,但依赖人工标注;关键点覆盖评估,查看答案是否覆盖给定关键点;答案对比评估,对比不同版本答案判断优劣;多维度打分评估,从准确性等多维度全面评估。指出该方式虽提升效率、降低成本,但在准确性和质量上能否超越人类存疑,受主观性与模型偏好影响。最后推荐《AI 原生应用开发:提

文章图片
大模型提示注入攻击是什么

注入攻击在网络安全领域由来已久,而随着大语言模型的应用,提示注入攻击成为新的威胁。这种攻击通过伪装恶意输入欺骗大语言模型,导致非预期输出,危害包括泄露敏感数据、传播错误信息等。常见的提示注入攻击手段有任务挟持、提示泄露和越狱攻击。任务挟持通过嵌入有害文本篡改任务指令;提示泄露诱使模型泄露任务提示,损害知识产权;越狱攻击则绕开安全审查机制,如通过角色伪装、设定虚拟场景等方式诱导模型输出敏感或非法内容

文章图片
大厂总结-提示工程《第4章 内容创作提示》

本章聚焦于利用大语言模型进行高质量内容创作,深入剖析了影响创作质量的因素,并提出了相应的创作提示技巧。作者指出,大语言模型在生成文本时存在缺乏创意、文风单调和内容深度不足等问题,在将其引入专业写作领域,尤其是创意写作时面临较大挑战。

文章图片
#人工智能
大模型应用开发书籍推荐(半价推广)

深入探讨AI原生应用的挑战与机遇,揭示大语言模型与实际应用间的鸿沟,强调提示工程在弥合这一差距中的关键作用。

文章图片
智能体开发:大模型的任务规划

大语言模型在复杂问题任务规划上的推理能力展现出了惊人的表现。它能够根据问题的具体内容和难易程度,智能地生成合理的任务分解方案。借助这些方案,我们可以系统地规划出解决问题的具体步骤,从而调用适当的工具逐个解决子问题。并且在解决问题的过程中,它还能够根据实际情况灵活调整既定方案,最后汇总所有子问题的答案,得出最终结论。这种问题分解与规划能力,正是目标导向型问题解决策略的核心精髓所在。任务规划的方法有很

文章图片
#人工智能
大模型应用开发书籍推荐(半价推广)

深入探讨AI原生应用的挑战与机遇,揭示大语言模型与实际应用间的鸿沟,强调提示工程在弥合这一差距中的关键作用。

文章图片
别再被碎片化误导!开发人员提示工程进阶指南

以第一章 “提示工程概述” 为例,它深入剖析了 AI 原生应用面临的机遇与挑战,清晰揭示了大语言模型与实际应用之间的鸿沟,让开发人员深刻理解提示工程在其中的关键桥梁作用。第四章 “内容创作提示” 提供了系统化的解决方法,从基础创作提示的撰写、改写、润色,到影响创作质量的核心要素,如内容创意、受众定位、创作目的等,再到长文本创作策略,都给出了实用的指导。开发人员应抓住这个机会,系统学习提示工程知识,

文章图片
#人工智能
2025大模型应用开发面试必备

大语言模型的进化如同为AI应用装上了“火箭引擎”,但若缺乏提示工程的方向盘和刹车系统,应用落地终将陷入“乱流”。最后一公里的本质是让技术能力精准适配人类需求,而这正是提示工程不可替代的价值所在。它不仅是技术手段,更是人机协同的“元语言”。未来,AI原生应用的竞争或许将始于算力,但真正决定胜负的将是提示设计的智慧与深度。通过不断探索和创新提示工程技术,我们将能够推动AI应用更加稳健、高效地走向实际场

文章图片
#人工智能
    共 23 条
  • 1
  • 2
  • 3
  • 请选择