如果以大模型为Kernel, 形成一个新的操作系统，那么：1. byzer-llm 是这个大模型操作系统的编程接口，有点类似Linux操作系统的C ABI。2. byzer-retrieval 也被集成进 byzer- llm 接口里，算是大模型操作系统的文件系统，应用可以通过python API 使用这个文件系统。3. byzer-agent 算是应用开发框架，并且支持分布式，跨多机。3. a.

前言你以为 Byzer-LLM 只能部署大语言模型？Naive！今天我们来看看，如何使用 Byzer-LLM 部署多模特模型。今天闪亮登场的案例是：QWen-VL-ChatStableDiffusionByzer-LLM基本可以像完全和大语言模型一样和这些模型进行交互。QWen-VL-Chat该模型能够阅读图片，给出文字解释。首先看看如何使用Python API 部署：import rayfr..

如果以大模型为Kernel, 形成一个新的操作系统，那么：1. byzer-llm 是这个大模型操作系统的编程接口，有点类似Linux操作系统的C ABI。2. byzer-retrieval 也被集成进 byzer- llm 接口里，算是大模型操作系统的文件系统，应用可以通过python API 使用这个文件系统。3. byzer-agent 算是应用开发框架，并且支持分布式，跨多机。3. a.

背景我现在有两类内容，一个是大量的 auto-coder 示例配置，每次我用的时候都需要去找示例，然后复制黏贴。第二类是各种启动模型的脚本：需要关闭或者开启一个模型，都需要查找然后复制黏贴，比较麻烦。这个时候，我就在想如何把这些内容构建成知识库，让问答小助手帮到自己，甚至小助手还可以直接帮我执行一些脚本。于是有了 AutoCoder 的文档功能。安装conda create --name auto

快速过下背景：1. nlp2sql去年大模型一出来，大家就开始搞了，但是目前准确率普遍上不去，导致很难普及。这个技术主要是改变交互，从人讲自然语言需求写SQL改成大模型来理解自然语言，写SQL。2. SQL内置大模型函数支持实现对传统数据分析能力的突破，这个去年应该是我们和 Databricks 搞的比较早，我们可能略早（纯瞎猜），而且底层技术方案可能也完全不一样。这个技术就是补上了SQL 对非.

大家都在积极的开发基于大模型的应用， 尽管大模型在前端，传统web，APP ，小程序等开发上展现了其高超的能力，但是如果我们是在开发基于大模型的应用的时候，我们还都使用基于传统，一点都不智能的方式（比如使用workflow 亦或者基于langchain/llama_index各种库在手写代码），这里，如何根据功能需求手写Prompt，以及prompt的工程化以及管理，同时涉及到底层向量数据存储等的

快速过下背景：1. nlp2sql去年大模型一出来，大家就开始搞了，但是目前准确率普遍上不去，导致很难普及。这个技术主要是改变交互，从人讲自然语言需求写SQL改成大模型来理解自然语言，写SQL。2. SQL内置大模型函数支持实现对传统数据分析能力的突破，这个去年应该是我们和 Databricks 搞的比较早，我们可能略早（纯瞎猜），而且底层技术方案可能也完全不一样。这个技术就是补上了SQL 对非.

上次我们开源了一款完全使用 auto-coder.chat 开发的微信小程序 第一款已上线的纯AI开发的微信小程序开源了昨天晚上我正在开发 byzerllm 的一个功能，但是每次自己要通过如下方式启停一个模型还是挺麻烦的：关停一个模型：byzerllm undeploy --model deepseek_chat启动一个模型：byzerllm deploy --pretrained_model_t

这篇文章主要来自于上周和一个朋友三小时的聊天中非AI辅助编程的内容的一个回顾。本文主要内容包含三部分：工业化的Scaling Law：超越参数与数据数据红利：合成数据的潜力终极目标：Token工厂与Token GDPScaling Law 本质是工业化思维不过我觉得很多人对Scaling Law 还缺乏理解，单纯的还是在想“效果和参数规模等比上升”，现在应该遇到瓶颈是在数据。但实际上这么思考是不够

快速过下背景：1. nlp2sql去年大模型一出来，大家就开始搞了，但是目前准确率普遍上不去，导致很难普及。这个技术主要是改变交互，从人讲自然语言需求写SQL改成大模型来理解自然语言，写SQL。2. SQL内置大模型函数支持实现对传统数据分析能力的突破，这个去年应该是我们和 Databricks 搞的比较早，我们可能略早（纯瞎猜），而且底层技术方案可能也完全不一样。这个技术就是补上了SQL 对非.