logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型测试方法

随着这几年大模型的发展,笔者旁边越来越多的AI从业者承认(笔者从很久前就承认了) 做好大模型只属于极少数 大脑算力超标的人。对于更多的人,最重要的是关注如何把大模型用好。而用好大模型的一个前提是,。本文会侧重于记录业界主流的 对于大模型推理服务的 测试方法。

#人工智能
华为昇腾系列——入门学习

昇腾(Ascend)是华为推出的人工智能处理器品牌,其系列产品包括昇腾910和昇腾310芯片等。

文章图片
#华为#昇腾
华为昇腾系列——入门学习

昇腾(Ascend)是华为推出的人工智能处理器品牌,其系列产品包括昇腾910和昇腾310芯片等。

文章图片
#华为#昇腾
华为昇腾系列——入门学习

昇腾(Ascend)是华为推出的人工智能处理器品牌,其系列产品包括昇腾910和昇腾310芯片等。

文章图片
#华为#昇腾
华为昇腾系列——使用vllm

华为昇腾有推出自己的推理引擎——MindIE(Mind Inference Engine)。同时也在持续维护“vllm-ascend”项目,用于在昇腾NPU上运行vllm。本文主要记录对“vllm-ascend”的一个入门使用。以便后续启动推理时,选择一张空闲的卡。

文章图片
华为昇腾系列——使用vllm

华为昇腾有推出自己的推理引擎——MindIE(Mind Inference Engine)。同时也在持续维护“vllm-ascend”项目,用于在昇腾NPU上运行vllm。本文主要记录对“vllm-ascend”的一个入门使用。以便后续启动推理时,选择一张空闲的卡。

文章图片
人工智能讲义(基本概念讲解)

什么是人工智能目前业界对人工智能虽无统一定义,但对 “基于学习、认知构成的对人的替代”取得高度共识什么是机器学习机器学习是一种能够赋予机器学习的能力以此让它完成直接编程无法完成的功能的方法。但从实践的意义 上来说,机器学习是一种通过利用数据,训练出模型,然后使用模型预测的一种方法。机器学习一直以来 都是人工智能的研究核心领域。机器学习:问题类型常见机器学习解决的问题类型有分类和回归,此外还有“聚类

#人工智能#机器学习#深度学习
主流图数据库对比

背景:前段时间笔者做一个图计算项目的时候,需要选用一种图数据库。于是在网上查了许多的材料,自己也做了实际的调研测评。别人家的测评全面的对比这个不知道谁做的对比,从30多个指标全面比较了Neo4j、HugeGraph、JanusGraph详见:​​​​​​一文看尽图数据库选型,30多个指标全面比较Neo4j、HugeGraph、JanusGraph_独行侠梦的博客-CSDN博客详细的性能对比由腾讯云

#数据库#database
人工智能分类体系

前言: 刚上大学的时候,每每学习一个新的课程,总觉得学习“概论”、“分类”这种东西很无聊。后来发现,学习具体的实现细节才是最无聊的……因为永远 记 不 住。 所以 开始告诉自己建立系统的知识框架才是重要的:强人工智能 & 弱人工智能:>> 强人工智能:指能制造出真正地推理和解决问题的智能机器。比如日本动漫里的“阿童木”、钢铁侠的AI管家“贾维斯”就可以说是一个强人...

#人工智能
Alphafold3本地部署

是 DeepMind 与 Isomorphic Labs 于2024 年 5 月发布的 AI 模型,是 AlphaFold 2 的全面升级,可原子精度预测蛋白质、DNA、RNA、小分子、离子及其复合物的三维结构。AlphaFlod3 提供了在线试用的路径——AlphaFlod3 也支持本地部署——

文章图片
#python#docker
    共 29 条
  • 1
  • 2
  • 3
  • 请选择