logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在Kubernetes上部署DeepSeek-R1进行高效AI推理

通过本教程,大家可以高效地在Amazon EKS上部署DeepSeek R1模型,利用其灵活的扩展选项和精细化计算资源控制,在优化成本的同时保持高性能。该方案充分利用了Kubernetes的原生功能,结合Amazon EKS的Auto Mode特性,提供了一种高度自定义的部署方式,可以根据具体的运营需求和预算进行精确调整。如果大家希望进一步探索其他部署模式(如使用Neuron或开源Karpente

文章图片
#aws#云计算#人工智能 +3
在亚马逊云科技大模型平台Bedrock上部署DeepSeek-R1蒸馏模型

通过上述步骤,大家可以在Amazon Bedrock上高效部署DeepSeek R1 Distill Llama模型,并借助Bedrock的无服务器基础设施和统一API,实现可扩展、高效的模型推理。

文章图片
#科技#aws#云计算 +3
如何评估云原生GenAI应用开发中的安全风险(下)

以上就是如何评估云原生GenAI应用开发中的安全风险系列中的上篇内容,在本篇中我们介绍了在云原生AI应用开发中不同层级的风险,并了解了如何定义AI系统的风险。在本系列下篇中我们会继续探索我们为我们的云原生AI应用评估风险的背景和意义,并且介绍具体的AI应用风险评估的技术手段和解决方案。

文章图片
#安全#科技#人工智能 +2
在亚马逊云科技上云原生部署DeepSeek-R1模型(下)

完成部署后,我们可以使用SageMaker SDK提供的API,通过代码调用模型,并将其集成到大家的应用程序中。在接下来的下篇中小李哥将继续介绍,如何利用亚马逊的AI模型训练平台SageMaker AI中的,Amazon Sagemaker JumpStart通过脚本轻松一键式部署DeepSeek预训练模型。我们可以在部署后实时监控模型运行情况,并根据我们的业务需求调整这些算力设置。在部署模型之前

文章图片
#人工智能#aws#云计算 +1
在亚马逊云科技上云原生部署DeepSeek-R1模型(上)

DeepSeek-R1在开源版本发布的第二天就登陆了亚马逊云科技AWS云平台,这个速度另小李哥十分震惊。这又让我想起了在亚马逊云科技全球云计算大会re:Invent2025里,亚马逊CEO Andy Jassy说过的:随着目前生成式AI应用规模的扩大,云计算的成本变得至关重要,大家都在寻求具有高性价比的AI模型。其次开发一个真正优质生成式AI应用真的不容易,当我们自由选择 AI 模型开发应用时,最

文章图片
#人工智能#aws#语言模型 +1
使用AI Agents集成外部API开发智能客服解决方案(下)

小李哥在本系列上篇中为大家介绍了,基于亚马逊云科技的汽车零售行业的客服解决方案以及整个工作流程。本系列下篇中,我们将手把手开发构建这个智能客服。

文章图片
#人工智能#aws#语言模型 +1
AI安全最佳实践:AI云原生开发安全评估矩阵(下)

明确企业的数据管理要求,并确保与法律和采购部门密切合作,以评估这些要求如何适用于 Scope 1 或 Scope 2 的应用程序。上篇小李哥带大家一起了解了什么是AI应用云原生开发安全评估矩阵,并且介绍了利用该矩阵如何确定我们云上AI应用的安全评估范围,接下来我们将继续本系列的下篇,基于该安全评估矩阵设计和实施我们系统应具备的安全控制。模型在发布后是静态的,不会存储新的数据,也无法直接调整推理结果

文章图片
#科技#aws#人工智能 +2
生成式AI安全最佳实践 - 抵御OWASP Top 10攻击 (上)

今天小李哥将开启全新的技术分享系列,为大家介绍生成式AI的安全解决方案设计方法和最佳实践。近年来,生成式 AI 安全市场正迅速发展。据 IDC 预测,到 2025 年全球 AI 安全解决方案市场规模将突破 200 亿美元,年复合增长率超过 30%,而 Gartner 则预估到 2025 年约 30% 的网络攻击将利用生成式 AI 技术。

文章图片
#科技#aws#语言模型 +2
在亚马逊云科技上用Stable Diffusion 3.5 Large生成赛博朋克风图片(上)

在2024年的亚马逊云科技re:Invent大会上提前预告的Stable Diffusion 3.5 Large,现在已经在Amazon Bedrock上线了!各位开发者们现在可以使用该模型,根据文本提示词文生图生成高质量的图片,并且支持多种图片风格生成,助力媒体、游戏、广告和零售等行业的开发者们加速概念艺术、视觉特效以及精修产品宣传图的生成创作。

文章图片
#科技#人工智能#aws +1
在亚马逊云科技上用AI提示词优化功能写出漂亮提示词(下)

提示工程(Prompt Engineering)对各位小伙伴们来说是再熟悉不过了,提示词工程技术是通过编写指令词,指导开发者们调用AI基础模型(FMs)获得期望的响应。但是经常写提示词的朋友们会知道,为了获取理想的输出,我们可能需要花费数月时间不断进行实验和调整才能得到最优的提示词,同时不同基础模型的提示词最佳实践也不尽相同,这意味着我们要设计兼容不同模型类别的提示词。此外提示词通常是与特定模型和

文章图片
#人工智能#aws#云计算 +2
    共 51 条
  • 1
  • 2
  • 3
  • 6
  • 请选择