经实际测试，本地部署模型时，若使用 24G 显存，显卡可选择两张 M40 12g（价格约 500 元左右）。当然你有3090等卡更好。目前还在进一步测试，理论上安卓的so库逆向也可以用这个干，MCP动态调试的教程等有空研究了看看。我用的启动参数如下，依据个人需求改就行，弄不来的用ollama改下上下文也行，部署就不做过多教学了。把提示词丢给mcp客户端，再用ida打开对应的文件，插件中启用mcp，

8卡3090部署Qwen3-235B-A22B教程

本地套接字通信，无网络层面的身份验证和数据加密，若暴露在公网或不安全网络中，可能导致未授权访问、容器被篡改、数据泄露等风险。TLS（Transport Layer Security）配置的核心是通过「证书认证」实现双向身份验证和通信加密。一般情况下也用不到这个，jekins推荐直接将宿主docker挂载最方便。，若输出 Docker 系统信息，说明 TLS 通信正常。这里需要创建一个sh脚本，保存

这里是使用的ubuntu24.02系统版本，为什么会选择使用microk8s，因为这可能是最简单k8s，而且足够轻量化。，当你创建一个 ServiceAccount 时，Kubernetes 会自动创建一个类型为。角色（这是一个超级管理员角色，拥有所有权限），这对于快速设置或测试环境很方便。无论 Jenkins 是部署在集群内部还是外部，最佳实践都是为它创建一个专用的。这里需要注意的是microk

之前所有设备都是pcie 5.0,drr5内存，但是当前的价格如果ddr5 ecc内存如果按照2T的标准来（32*64G），那么含税65万是至少需要的（1.8万一条不含税）。这里我直接上运行的日志图吧，在没有预热的情况下官方权重输出是20t/s,预热完成后可以到40t/s(这个忘记截图了，暂时把设备停了准备去做专门的优化)，编程是够用了，而且这套我还没从源码上优化，只是调了参数,从通讯的数据上看是

踩坑：一开始以为是掉驱动，后来是发现一张卡估计压力测试下质量翻车了，不过同时研究了换驱动的方法，对于需要更换显存，建议自己看情况换版本，能够避免切换版本导致。然后安装one-api,方便API管理，可以选择不开端口访问，使用lucky转发还便于套证书（这里就不写教程了，很简单），但是局域网环境就开放就行。token数是干到125t/s，之前测试过gguf的30ba3b，这模型基本逻辑能力是不用怀疑

踩坑：一开始以为是掉驱动，后来是发现一张卡估计压力测试下质量翻车了，不过同时研究了换驱动的方法，对于需要更换显存，建议自己看情况换版本，能够避免切换版本导致。然后安装one-api,方便API管理，可以选择不开端口访问，使用lucky转发还便于套证书（这里就不写教程了，很简单），但是局域网环境就开放就行。token数是干到125t/s，之前测试过gguf的30ba3b，这模型基本逻辑能力是不用怀疑

没有选用coder是因为这个Qwen3-30B-A3B-Thinking-2507完全够用了，这里使用了量化版本，上下文达256K，速度还是相当靠谱得，解一道apk逆向得题只花了5分半！这个主要是针对离线环境需求，雷电显卡坞带张4090 48G出去不得直接起飞？显存是吃到42G，所以5090就暂时不要考虑了，4090 48G才是正解。MCP这里用的是jadx-mcp-server。