ChatGLM-6B在IntelliJ IDEA中的开发插件：为Java开发者打造智能编程助手

作为一名在AI和工程领域摸爬滚打了十多年的老码农，我见过太多“看起来很酷”但用起来很“骨感”的技术。最近，大语言模型（LLM）在代码生成和辅助编程方面展现出了惊人的潜力，但如何让它无缝融入我们日常的开发工具，而不是在浏览器和IDE之间来回切换，这是个实际问题。

今天，我想分享一个非常实用的方案：将开源的ChatGLM-6B模型集成到我们Java开发者最熟悉的IntelliJ IDEA中，打造一个专属的、离线的智能编程插件。这个插件能做什么呢？简单来说，就是让你在写代码时，能随时向一个“懂行”的AI助手提问，比如“这段代码怎么优化？”、“帮我审查一下这个方法的潜在风险”，或者“用Java 8的Stream API重写这个循环”。整个过程都在你的本地或内网环境完成，既保护了代码隐私，又获得了即时的智能辅助。

1. 为什么要在IDEA里集成ChatGLM-6B？

在深入技术细节之前，我们先聊聊“为什么”。市面上已经有一些基于云端大模型的编程助手，它们功能强大，但存在几个痛点：

• 代码隐私顾虑：将公司或项目的核心代码发送到第三方云服务，存在潜在的数据安全风险。
• 网络依赖：没有网络或者网络不稳定时，工具就失效了。
• 定制化弱：通用的模型可能对特定技术栈、项目规范或业务领域的理解不够深入。

而基于ChatGLM-6B在本地部署的方案，正好能解决这些问题：

• 数据本地化：所有计算和对话都在你的掌控之中，代码不出内网。
• 离线可用：部署好后，断网也能照常使用。
• 可定制微调：如果有需要，你可以用自己的代码库对ChatGLM-6B进行微调，让它更懂你的项目。

对于Java团队来说，将这样一个助手直接嵌入到IDEA里，意味着无需改变工作流，在编码、调试、审查的当下就能获得AI的洞察，这才是真正的“提效”。

2. 核心架构：插件如何与模型对话

整个插件的核心思路并不复杂，可以把它想象成一个“桥梁”。桥梁的一端是IDEA的图形界面（你的操作），另一端是运行在后台的ChatGLM-6B模型服务。插件负责把你在IDEA里的请求（比如选中的代码和问题）打包发送给模型，再把模型返回的回答解析并展示给你。

下面是这个“桥梁”的简易架构图：

+-------------------+       HTTP / WebSocket       +----------------------+
|                   | <-------------------------> |                      |
|  IntelliJ IDEA    |                              |  ChatGLM-6B          |
|   你的插件        |      发送：代码 + 提示        |  模型API服务         |
|   (UI + 逻辑)     |      接收：自然语言回答       |  (FastAPI/Streamlit) |
|                   |                              |                      |
+-------------------+                              +----------------------+
          ^                                                  ^
          |                                                  |
          | 用户操作 (右键菜单、工具窗口)                     | 模型推理 (GPU/CPU)
          |                                                  |
    +-----+-----+                                      +-----+-----+
    | 你的代码   |                                      | 本地/服务器 |
    | 项目上下文 |                                      | 部署的模型  |
    +-----------+                                      +-----------+

关键组件解析：

1. IDEA插件端 (Java)：

   • 用户界面：在IDEA中新增一个工具窗口（Tool Window），用于显示对话历史；在编辑器右键菜单中添加“向AI助手提问”等选项。
   • 请求构造器：当你选中一段代码并提问时，插件会智能地组合上下文。例如，它不仅发送选中的代码片段，还可以附带该方法所在的类名、文件路径，甚至是你预先设置好的项目技术栈说明（如“本项目使用Spring Boot 2.7和MyBatis”），让模型的回答更精准。
   • HTTP客户端：负责与后端的模型API服务通信，发送请求并接收JSON格式的响应。

2. 模型服务端 (Python)：

   • API服务：使用像FastAPI或Flask这样的轻量级框架，快速搭建一个HTTP服务器。它提供一个简单的/chat或/generate接口。
   • 模型加载与调用：服务启动时，加载ChatGLM-6B模型（可以是量化后的版本以减少资源占用）。收到请求后，调用模型的chat方法，将插件端构造的提示（Prompt）和历史对话传入，得到生成的回答。
   • 历史管理：为了支持多轮对话（比如针对同一段代码连续追问），服务端需要维护一个简单的会话历史记录，通常可以用一个内存中的字典来关联会话ID和历史消息列表。

3. 手把手搭建：从模型部署到插件开发

理论说完了，我们来看看具体怎么做。整个过程可以分为两大步：先让模型服务跑起来，再开发IDEA插件去连接它。

3.1 第一步：部署ChatGLM-6B的API服务

首先，我们需要一个能让插件调用的模型后端。这里以使用FastAPI搭建一个最简服务为例。

环境准备： 确保你的机器（可以是本地开发机，也可以是内网服务器）有Python环境，以及足够的资源。如果使用GPU，体验会快很多；纯CPU也能运行，只是响应慢一些。

# 1. 克隆ChatGLM-6B的官方仓库
git clone https://github.com/THUDM/ChatGLM-6B.git
cd ChatGLM-6B

# 2. 安装依赖 (建议使用虚拟环境)
pip install -r requirements.txt
# 额外安装FastAPI和Web服务器
pip install fastapi uvicorn

# 3. 下载模型（如果网络慢，可以从ModelScope等镜像站下载）
# 这里以INT4量化模型为例，对显存/内存要求更低
# 你需要从Hugging Face或镜像站获取模型文件，并放置到指定目录，例如 ./model/

创建API服务文件 (api_service.py)：

from fastapi import FastAPI, Request
from transformers import AutoTokenizer, AutoModel
import uvicorn
import torch
import json
from typing import List, Optional

app = FastAPI()

# 全局变量，存储模型和分词器
tokenizer = None
model = None

@app.on_event("startup")
async def load_model():
    """服务启动时加载模型"""
    global tokenizer, model
    model_path = "./model"  # 修改为你的模型实际路径
    print(f"正在从 {model_path} 加载模型...")
    
    # 加载INT4量化模型，大幅减少资源占用
    tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
    model = AutoModel.from_pretrained(model_path, trust_remote_code=True).float()  # CPU用.float(), GPU可用.half().cuda()
    
    model = model.eval()
    print("模型加载完毕！")

@app.post("/v1/chat/completions")
async def chat_completion(request: Request):
    """接收聊天请求，模仿OpenAI API格式"""
    try:
        data = await request.json()
        prompt = data.get("prompt", "")
        history = data.get("history", [])
        max_length = data.get("max_length", 2048)
        
        # 调用ChatGLM-6B的chat方法
        response, updated_history = model.chat(
            tokenizer,
            prompt,
            history=history,
            max_length=max_length,
            temperature=0.7  # 控制创造性，代码生成建议调低
        )
        
        # 构造兼容性的返回格式
        return {
            "id": "chatglm-" + str(hash(prompt)),
            "object": "chat.completion",
            "created": int(torch.randint(100000, 999999, (1,)).item()),
            "choices": [{
                "index": 0,
                "message": {
                    "role": "assistant",
                    "content": response
                },
                "finish_reason": "stop"
            }],
            "usage": {
                "prompt_tokens": len(tokenizer.encode(prompt)),
                "completion_tokens": len(tokenizer.encode(response)),
                "total_tokens": len(tokenizer.encode(prompt)) + len(tokenizer.encode(response))
            }
        }
    except Exception as e:
        return {"error": str(e)}

if __name__ == "__main__":
    # 启动服务，监听本地8000端口
    uvicorn.run(app, host="0.0.0.0", port=8000)

启动服务：

python api_service.py

看到“模型加载完毕！”和Uvicorn启动日志后，你的模型API服务就在http://localhost:8000上运行了。可以用curl或Postman测试一下：

curl -X POST "http://localhost:8000/v1/chat/completions" \
-H "Content-Type: application/json" \
-d '{"prompt": "用Java写一个快速排序算法", "history": []}'

3.2 第二步：开发IntelliJ IDEA插件

现在，我们来打造插件的本体。使用IntelliJ IDEA自带的插件开发功能（基于Gradle）可以很方便地开始。

1. 创建插件项目： 在IDEA里选择 File -> New -> Project...，选择 Gradle，勾选 IntelliJ Platform Plugin 和 Java。给项目起个名字，比如 ChatGLM-IntelliJ-Assistant。

2. 设计插件的主要功能点：

• 工具窗口：提供一个侧边栏，显示与AI的对话历史。
• 编辑器集成：在代码编辑器的右键菜单中添加选项。
• 配置界面：让用户可以设置后端API的地址（比如http://localhost:8000）。

3. 核心代码示例： 这里展示几个关键类的简化版代码，帮助你理解如何连接后端。

ChatGLMToolWindow.java (工具窗口类)：

import com.intellij.openapi.project.Project;
import com.intellij.openapi.wm.ToolWindow;
import com.intellij.openapi.wm.ToolWindowFactory;
import com.intellij.ui.content.Content;
import com.intellij.ui.content.ContentFactory;
import org.jetbrains.annotations.NotNull;

import javax.swing.*;
import java.awt.*;

public class ChatGLMToolWindow implements ToolWindowFactory {
    private JTextArea chatArea;
    private JTextField inputField;
    private JButton sendButton;
    private DefaultListModel<String> historyModel;
    private JList<String> historyList;

    @Override
    public void createToolWindowContent(@NotNull Project project, @NotNull ToolWindow toolWindow) {
        JPanel mainPanel = new JPanel(new BorderLayout());
        
        // 聊天历史显示区域
        chatArea = new JTextArea();
        chatArea.setEditable(false);
        chatArea.setLineWrap(true);
        JScrollPane scrollPane = new JScrollPane(chatArea);
        mainPanel.add(scrollPane, BorderLayout.CENTER);
        
        // 底部输入面板
        JPanel inputPanel = new JPanel(new BorderLayout());
        inputField = new JTextField();
        sendButton = new JButton("发送");
        
        sendButton.addActionListener(e -> {
            String question = inputField.getText();
            if (!question.trim().isEmpty()) {
                appendMessage("你", question);
                // 这里触发向后端发送请求
                new Thread(() -> callChatGLMAPI(project, question)).start();
                inputField.setText("");
            }
        });
        
        inputPanel.add(inputField, BorderLayout.CENTER);
        inputPanel.add(sendButton, BorderLayout.EAST);
        mainPanel.add(inputPanel, BorderLayout.SOUTH);
        
        // 将面板添加到工具窗口
        ContentFactory contentFactory = ContentFactory.SERVICE.getInstance();
        Content content = contentFactory.createContent(mainPanel, "", false);
        toolWindow.getContentManager().addContent(content);
    }
    
    private void appendMessage(String sender, String message) {
        chatArea.append(sender + ": " + message + "\n\n");
        chatArea.setCaretPosition(chatArea.getDocument().getLength());
    }
    
    private void callChatGLMAPI(Project project, String question) {
        // 获取用户选中的代码作为上下文
        String selectedCode = getSelectedCodeFromEditor(project);
        String fullPrompt = constructPrompt(selectedCode, question);
        
        // 调用我们部署的API服务
        String response = HttpUtil.postJson(
            "http://localhost:8000/v1/chat/completions",
            Map.of("prompt", fullPrompt, "history", List.of())
        );
        // 解析JSON响应，提取AI回复
        String aiReply = parseAIResponse(response);
        
        SwingUtilities.invokeLater(() -> appendMessage("AI助手", aiReply));
    }
    
    // 其他辅助方法：getSelectedCodeFromEditor, constructPrompt, parseAIResponse...
}

ChatGLMAction.java (编辑器右键菜单动作)：

import com.intellij.openapi.actionSystem.AnAction;
import com.intellij.openapi.actionSystem.AnActionEvent;
import com.intellij.openapi.actionSystem.CommonDataKeys;
import com.intellij.openapi.editor.Editor;
import com.intellij.openapi.project.Project;
import com.intellij.openapi.ui.Messages;
import org.jetbrains.annotations.NotNull;

public class ChatGLMAction extends AnAction {
    @Override
    public void actionPerformed(@NotNull AnActionEvent e) {
        Project project = e.getProject();
        Editor editor = e.getData(CommonDataKeys.EDITOR);
        
        if (editor != null) {
            String selectedText = editor.getSelectionModel().getSelectedText();
            if (selectedText != null && !selectedText.trim().isEmpty()) {
                // 弹出对话框，让用户输入问题
                String userQuestion = Messages.showInputDialog(
                    project,
                    "针对选中的代码，你想问AI助手什么？",
                    "向ChatGLM提问",
                    Messages.getQuestionIcon(),
                    "如何优化这段代码？",
                    null
                );
                if (userQuestion != null) {
                    // 触发API调用，将 selectedText 和 userQuestion 组合发送
                    // 这里可以打开或激活我们之前创建的工具窗口，并显示结果
                }
            } else {
                Messages.showInfoMessage(project, "请先选中一段代码", "提示");
            }
        }
    }
    
    @Override
    public void update(@NotNull AnActionEvent e) {
        // 仅在编辑器中有选中文本时，才显示此菜单项
        Editor editor = e.getData(CommonDataKeys.EDITOR);
        e.getPresentation().setEnabledAndVisible(
            editor != null && editor.getSelectionModel().hasSelection()
        );
    }
}

plugin.xml 注册扩展点：

<idea-plugin>
    <!-- ... 其他插件元信息 ... -->
    <extensions defaultExtensionNs="com.intellij">
        <!-- 注册工具窗口 -->
        <toolWindow id="ChatGLM Assistant"
                    anchor="right"
                    factoryClass="com.yourcompany.ChatGLMToolWindow"/>
    </extensions>
    
    <actions>
        <!-- 注册编辑器右键菜单动作 -->
        <action id="ChatGLM.CodeReview"
                class="com.yourcompany.ChatGLMAction"
                text="向AI助手提问"
                description="使用ChatGLM分析选中的代码">
            <add-to-group group-id="EditorPopupMenu" anchor="first"/>
        </action>
    </actions>
</idea-plugin>

4. 构建与测试： 使用Gradle任务runIde可以启动一个安装了该插件的沙盒IDEA实例，方便你进行测试和调试。

4. 实际应用场景与效果

插件开发完成后，它能在日常Java开发中发挥什么作用呢？我来举几个例子：

• 代码审查助手：在提交代码前，选中一个复杂的方法，右键选择“向AI助手提问”，输入“这段代码有没有潜在的性能问题或线程安全问题？”。ChatGLM-6B可以分析代码逻辑，指出可能存在的同步问题、不必要的对象创建或低效的算法。
• 代码解释与学习：当你接手一段遗留代码，或者看到同事写的一个精妙但难以理解的Lambda表达式时，可以让AI助手“用简单的语言解释这段代码做了什么”。
• 生成样板代码：在工具窗口直接输入“帮我生成一个Spring Boot的RestController，它接收一个用户ID，从数据库查询用户信息并返回”。虽然ChatGLM-6B的代码生成能力不如专用代码模型，但对于常见的模式，它能提供一个不错的起点。
• 错误排查：将异常堆栈信息或日志片段粘贴给AI助手，询问“这个NullPointerException最可能的原因是什么？”。

效果体验： 在实际使用中，由于ChatGLM-6B是60亿参数的中等规模模型，它的优势在于对中文指令理解好、响应速度快（尤其是在GPU上）、资源消耗相对可控。对于代码相关的推理和生成，它可能无法像一些超大规模专用代码模型那样写出极其复杂的程序，但在代码解释、审查、生成简单逻辑和提供优化建议方面，已经能提供非常有价值的参考。它的回答更像一个经验丰富的同事给出的即时建议，而不是一个全能的代码生成器。

5. 总结与展望

将ChatGLM-6B集成到IntelliJ IDEA中，本质上是在打造一个“开箱即用”的私有化智能编程伴侣。这个方案的技术门槛适中，任何有一定Java和Python开发经验的团队都可以尝试实现。它最大的价值在于将AI能力“沉”到开发环境的最底层，在不打扰工作流的前提下提供助力。

当然，这个初始版本还有很多可以完善的地方。比如，可以增加对对话历史的管理，让AI能记住之前的讨论上下文；可以集成项目级的索引，让AI在回答时能参考项目内的其他相关类；或者，如果你有足够的资源，可以对ChatGLM-6B用自己团队的代码库进行微调，让它更擅长你们的技术栈和业务领域。

从我个人的工程实践角度来看，这类工具的成功关键不在于模型的绝对大小，而在于它与工作流的契合度以及可靠性。ChatGLM-6B+IDEA插件的组合，提供了一个非常务实且安全的起点。如果你和你的团队正在寻找一种可控、可定制的AI编程辅助方案，不妨从这个项目开始动手试试。当AI的反馈第一次直接出现在你的IDE侧边栏，并对你的代码提出一个你没想到的优化点时，那种感觉还是挺奇妙的。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。