先说明下,我的开发电脑是windows我相信很多开发者用的都是windows系统不是所有用户都能把ollma的命令记的很清楚,那么lm studio也是是不错的选择,有非常友好的UI界面很直观的管理自己的模型和接口。

首先当然是下载安装lm studio,两个选择1去官网下载[服务器在国外下载比较慢的可以在网盘下载]

1.官方地址 :LM Studio - Local AI on your computerhttps://lmstudio.ai/

2.网盘地址:https://pan.quark.cn/s/4d07b96852b9

安装很简单就和普通的软件一样下一步就行

安装完成了现在进入配置修改语言成中文简体

配置模型路径

以前的模型文件可以直接配置lm studio

也可以用lm studio 直接下载模型

运行大模型

新建对话测试我们的大模型

LMstudio 如何开启API,可视化自己的api接口

LM studio 如何配置Agent 提示词

至此Lm studio 安装配置完成下面我们来看看API接口该如何使用 

    def _rewrite_with_openai(
        api_key: str,
        api_url: str,
        model: str,
        system_prompt: str,
        title: str,
        content: str,
        temperature: float,
        max_tokens: int,
    ) -> Optional[str]:
        """
        使用OpenAI API重写文章
        
        该方法通过OpenAI的聊天API对给定文章进行重写,保持核心内容不变,
        使用不同的表达方式并提升可读性,最终返回重写后的文章内容。
        
        参数:
            api_key: str - OpenAI API密钥,用于身份验证和API调用
            api_url: str - OpenAI API基础URL,若不提供则使用默认URL
            model: str - 使用的AI模型名称,如"gpt-4", "gpt-3.5-turbo"等
            system_prompt: str - 系统提示词,用于指导AI的重写风格和要求
            title: str - 原文章的标题
            content: str - 原文章的正文内容
            temperature: float - 生成文本的随机性参数,范围0-2,值越高内容越多样
            max_tokens: int - API响应的最大令牌数,控制生成内容的长度
        
        返回:
            Optional[str] - 重写后的文章内容字符串,若失败则抛出异常
        
        异常:
            Exception - 当API调用失败、参数错误或其他异常发生时抛出
        """
        try:
            # 配置OpenAI客户端
            client = openai.OpenAI(
                api_key=api_key, base_url=api_url if api_url else None
            )

            # 构建用户提示词,包含原文章标题和内容
            prompt = f"""
            标题: {title}
            正文:
            {content}
            请根据系统提示词重写这篇文章,保持核心内容不变,但使用不同的表达方式,提升可读性。
            """

            # 调用OpenAI聊天API进行文章重写
            response = client.chat.completions.create(
                model=model,
                messages=[
                    {"role": "system", "content": system_prompt},
                    {"role": "user", "content": prompt},
                ],
                temperature=temperature,
                max_tokens=max_tokens,
            )

            # 提取并返回重写后的内容,去除首尾空白
            return response.choices[0].message.content.strip()

        except Exception as e:
            logger.error(f"OpenAI重写失败: {str(e)}")
            raise

好了我想你已经对于lmstudio 已经能很清晰的使用了 。说明下我把LM studio 和python的脚本都放在网盘里面了 。你可以自己去下载

https://pan.quark.cn/s/4d07b96852b9https://pan.quark.cn/s/4d07b96852b9

Logo

免费领 100 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐