logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

如何将pytorch模型部署到安卓

如何将pytorch模型部署到安卓上这篇文章演示如何将训练好的pytorch模型部署到安卓设备上。我也是刚开始学安卓,代码写的简单。环境:pytorch版本:1.10.0模型转化pytorch_android支持的模型是.pt模型,我们训练出来的模型是.pth。所以需要转化才可以用。先看官网上给的转化方式:import torchimport torchvisionfrom torch.utils

#pytorch#android#深度学习
【大模型部署实战】VLLM+OpenWebUI实现DeepSeek模型部署

vLLM(Very Large Language Model Serving)是由加州大学伯克利分校团队开发的高性能、低延迟大语言模型(LLM)推理和服务框架。其核心创新在于,通过将注意力键值(KV)缓存分页管理,显著提升显存利用率并降低碎片化问题,使吞吐量比传统框架(如Hugging Face Transformers)提升24倍。该框架支持和,能够高效处理8k+长上下文请求,并兼容OpenAI

文章图片
#python#目标检测#人工智能 +1
模型量化方法:PTQ、QAT、INT8、INT4、FP8 与大模型部署(分层式精讲)

数值格式-> 校准/训练方法-> 量化粒度-> 敏感层策略-> 推理引擎-> 硬件 kernel-> 真实任务评估你的模型瓶颈是权重、激活、KV cache 还是算力?你的目标硬件支持什么低精度 kernel?你的任务能容忍多少质量回退?你的评估集是否覆盖真实长尾输入?量化后是否真的降低 p95 延迟和单位请求成本?一句话收束:好的量化不是把模型压到最低比特,而是在目标硬件上用最小质量代价换到可验

文章图片
#android#kotlin#开发语言
360CityArena:用于具身智能体的逼真虚拟城市导航基准

我们提出了 360CityArena,这是一个用于评估具身智能体在由 360° 视频构建的逼真环境中的城市探索能力的基准。现有的室外基准要么缺乏足够的逼真度,要么缺乏复杂性,导致与真实的城市环境存在巨大差距。360CityArena 建立在日本东京秋叶原地区的逼真重建之上,使用了 602 个 360° 视频片段,覆盖 85 条街道,并包含 175 个精心人工设计的任务。

文章图片
#计算机视觉
KIMI K2:开放式的智能体(Agentic)人工智能

We introduce Kimi K2, a Mixture-of-Experts (MoE) large language model with 32 billion activated parameters and 1 trillion total parameters. We propose the MuonClip optimizer, which improves upon Muon

文章图片
#人工智能
Labelme格式转yolo格式

【代码】Labelme格式转yolo格式。

大型语言模型的门控注意力:非线性、稀疏性与无注意力沉没

门控机制已被广泛应用,从早期的LSTM(Hochreiter & Schmidhuber, 1997)和Highway Networks(Srivastava et al., 2015)到近期的状态空间模型(Gu & Dao, 2023)、线性注意力(Hua et al., 2022)以及softmax注意力(Lin et al., 2025)。然而,现有文献很少探讨门控的具体效果。在本研究中,我

文章图片
#语言模型#人工智能#自然语言处理
【Aioredis实战总结】Aioredis简介

• 管道(Pipeline)、事务(Multi/Exec)、发布订阅(Pub/Sub)等高级功能。基于asyncio的非阻塞I/O模型,支持数万级并发请求。• 支持字符串、哈希、列表、集合等数据结构操作。• 连接池管理、哨兵模式、ACL权限控制等。• 提供完善的错误处理机制(如。:所有Redis命令需配合。:返回值默认是字节类型(如。调用,避免阻塞事件循环。高度一致,学习成本低。

文章图片
#bootstrap#mybatis#前端
redis的一些操作

Windows环境下使用命令行进行redis缓存清理。

文章图片
#缓存#redis#数据库
    共 639 条
  • 1
  • 2
  • 3
  • 64
  • 请选择