​Opik 是一个用于评估、测试和监控 LLM 应用程序的开源平台。由 Comet 建造。从 RAG 聊天机器人到代码助手，再到复杂的代理管道等等，通过跟踪、评估和仪表板构建运行得更好、更快、更便宜的 LLM 系统。

​garak​检查是否可以以我们不希望的方式使 LLM 失败。 探测幻觉、数据泄漏、及时注射、错误信息、毒性产生、越狱和许多其他弱点。如果您知道 or / Metasploit Framework，garak 的功能与它们有些相似，但适用于 LLM。garaknmapmsf​

​aisuite​使开发人员能够通过标准化接口轻松使用多个 LLM。使用类似于 OpenAI 的界面，可以轻松地与最流行的 LLM 进行交互并比较结果。它是 python 客户端库的精简包装器，允许创建者无缝交换和测试来自不同 LLM 提供程序的响应，而无需更改其代码。如今，该库主要专注于聊天完成。我们将在不久的将来将其扩展到更多使用案例。

Jan 是一款创新性的开源软件解决方案，作为 ChatGPT 的有力替代品，它致力于为用户提供一个安全、私密且完全离线的自然语言处理环境。这款强大的工具可以在用户的个人计算机上独立运行，无论是基于 Windows、Mac 还是 Linux 操作系统，均能实现无缝兼容，充分满足不同用户群体的需求。

AI模型接口管理与分发系统，支持将多种大模型转为OpenAI格式调用、支持Midjourney Proxy、Suno、Rerank，兼容易支付协议，可供个人或者企业内部管理与分发渠道使用，本项目基于One API二次开发。

OpenAI 开源的命令行智能编码助手，旨在通过自然语言交互提升开发效率。它依赖 OpenAI 的 API 服务，仅需配置 OpenAI API Key 即可零门槛上手，支持代码生成、文件操作、版本控制和多模态（截图输入）等功能，适用于个人开发者、团队协作以及 CI/CD 流程。

这是一款开源的 SOTA（State-of-the-Art）视频生成模型，仅用 20 万美元（224 张 GPU）就能训练出商业级 11B 参数的视频生成大模型。它采用 Python 语言和 PyTorch 深度学习框架开发，具有生成速度快、资源消耗低、扩展性强等优势，适合内容创作者、广告制作者和社交媒体运营人群使用。目前，已全面开源模型权重、推理代码及分布式训练全流程。

Magentic-UI 是一个以人为本的界面的研究原型，由多代理系统提供支持，可以在 Web 上浏览和执行作，生成和执行代码，以及生成和分析文件。 Magentic-UI 对于需要在 Web 上执行作（例如，填写表单、自定义食品订单）、在未被搜索引擎索引的网站中进行深度导航（例如，过滤航班、从个人站点查找链接）或需要 Web 导航和代码执行的任务（例如，从在线数据生成图表）的 Web 任务特别有用

LocalAI是免费的开源 OpenAI 替代品。LocalAI 充当与 OpenAI 兼容的直接替代 REST API（Elevenlabs、Anthropic...本地 AI 推理的 API 规范。它允许您使用消费级硬件在本地或本地运行 LLM、生成图像、音频（不仅如此），支持多个型号系列。不需要 GPU。

一个 100% 本地替代 Manus AI 的方案，这款支持语音的 AI 助理能够自主浏览网页、编写代码和规划任务，同时将所有数据保留在您的设备上。专为本地推理模型量身打造，完全在您自己的硬件上运行，确保完全的隐私保护和零云端依赖。