logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Spree Commerce:开源无头电商平台,B2B 和跨境都能用

Spree Commerce是一款开源的现代化无头电商平台(后端与前端分离),采用BSD 3-Clause许可协议。它提供完整的REST API后端,支持与任意前端框架集成,并自带基于Next.js的店铺模板。核心特性包括:跨境电商多国家管理、B2B批发定价体系、多店铺运营、供应商市场支持,以及Stripe/Adyen等支付集成。开发者可通过一条命令快速部署全栈环境(需Node.js 22+和Do

#其他
Uvicorn:Python 异步 Web 服务器

Uvicorn是一个基于ASGI协议的Python异步Web服务器,解决了传统WSGI同步处理的局限性,支持高并发连接和WebSocket。它安装简单(pip install uvicorn[standard]),性能优越,与FastAPI等框架集成良好。相比其他ASGI服务器,Uvicorn社区活跃、配置简单,是Python异步Web开发的主流选择。开发时支持热重载,生产环境可与Gunicorn

#python#前端#服务器 +1
SGLang:每天处理万亿 token 的 LLM 推理引擎

跑过大模型的人都知道,同样的模型用不同推理框架跑,吞吐量能差好几倍。NVIDIA 的 GB200、H100、A100,AMD 的 MI300,Intel 的 Xeon CPU,Google 的 TPU,华为的昇腾 NPU,主流的加速硬件基本都覆盖了。不管你是用单卡跑小模型,还是用大规模集群跑千亿参数模型,都能用。模型方面,Llama、Qwen、DeepSeek、GLM、Gemma、Mistral

#sglang#其他
llama-cpp-python:llama.cpp 的 Python 绑定库

llama-cpp-python是一个为llama.cpp提供Python绑定的开源项目,旨在降低本地大语言模型的使用门槛。该项目通过封装底层C/C++接口,提供高级Python API,支持加载GGUF格式模型,具备文本补全、聊天对话、多模态输入等功能,并兼容OpenAI API规范。项目支持多种硬件加速后端(CUDA、Metal等),提供预编译wheel简化安装。API设计分为底层ctypes

#python#开发语言#其他
SGLang:每天处理万亿 token 的 LLM 推理引擎

跑过大模型的人都知道,同样的模型用不同推理框架跑,吞吐量能差好几倍。NVIDIA 的 GB200、H100、A100,AMD 的 MI300,Intel 的 Xeon CPU,Google 的 TPU,华为的昇腾 NPU,主流的加速硬件基本都覆盖了。不管你是用单卡跑小模型,还是用大规模集群跑千亿参数模型,都能用。模型方面,Llama、Qwen、DeepSeek、GLM、Gemma、Mistral

#sglang#其他
SGLang:每天处理万亿 token 的 LLM 推理引擎

跑过大模型的人都知道,同样的模型用不同推理框架跑,吞吐量能差好几倍。NVIDIA 的 GB200、H100、A100,AMD 的 MI300,Intel 的 Xeon CPU,Google 的 TPU,华为的昇腾 NPU,主流的加速硬件基本都覆盖了。不管你是用单卡跑小模型,还是用大规模集群跑千亿参数模型,都能用。模型方面,Llama、Qwen、DeepSeek、GLM、Gemma、Mistral

#sglang#其他
SGLang:每天处理万亿 token 的 LLM 推理引擎

跑过大模型的人都知道,同样的模型用不同推理框架跑,吞吐量能差好几倍。NVIDIA 的 GB200、H100、A100,AMD 的 MI300,Intel 的 Xeon CPU,Google 的 TPU,华为的昇腾 NPU,主流的加速硬件基本都覆盖了。不管你是用单卡跑小模型,还是用大规模集群跑千亿参数模型,都能用。模型方面,Llama、Qwen、DeepSeek、GLM、Gemma、Mistral

#sglang#其他
SGLang:每天处理万亿 token 的 LLM 推理引擎

跑过大模型的人都知道,同样的模型用不同推理框架跑,吞吐量能差好几倍。NVIDIA 的 GB200、H100、A100,AMD 的 MI300,Intel 的 Xeon CPU,Google 的 TPU,华为的昇腾 NPU,主流的加速硬件基本都覆盖了。不管你是用单卡跑小模型,还是用大规模集群跑千亿参数模型,都能用。模型方面,Llama、Qwen、DeepSeek、GLM、Gemma、Mistral

#sglang#其他
2.4万Star的Cookiecutter,用模板一键生成项目骨架

摘要: Cookiecutter是一款2.4万Star的GitHub开源工具,用于通过模板一键生成项目骨架,解决重复初始化流程的痛点。其核心机制基于模板目录和变量文件(cookiecutter.json),支持跨语言框架(如Python、Rust等),社区积累了大量现成模板。提供三种调用方式:命令行引用GitHub仓库、本地路径或代码集成,并支持生成前后通过hooks自动执行脚本(如git初始化、

#其他
K Framework:用形式化语义定义编程语言

K Framework是一个用于形式化定义编程语言语义的开源工具链,由Runtime Verification公司维护。它通过可执行的K语言规范,将编程语言的语法和语义统一描述,并自动生成解释器、模型检查器和验证器等工具,避免传统自然语言规范带来的歧义性问题。该项目采用Nix或源码构建,支持主流操作系统,在区块链智能合约验证等需要严格正确性的领域有广泛应用。虽然学习门槛较高,但K Framewor

#其他
    共 14 条
  • 1
  • 2
  • 请选择