通过精心设计的数据处理和训练策略,该方法不仅显著提升了开源LLM的智能体能力,还有效缓解了幻觉等常见问题。为此,来自中国科学技术大学和上海人工智能实验室的研究团队提出了一种名为Agent-FLAN的创新方法,旨在高效地微调语言模型以适应智能体任务。随着研究的深入和技术的迭代,我们有理由相信,更加智能、高效且可靠的AI助手将不断涌现,为人类社会带来更多便利和价值。: 精心设计和重构训练语料库,使其更

在人工智能和自然语言处理领域，大型语言模型（LLMs）一直是研究和应用的热点。然而，随着模型规模的不断扩大，其计算成本也呈指数级增长，这给模型的训练和部署带来了巨大挑战。近期，一项名为MatMul-Free LLM的创新技术引起了学术界和产业界的广泛关注，它通过消除传统LLMs中最耗费计算资源的矩阵乘法（MatMul）操作，为大型语言模型的发展开辟了一条全新的道路。MatMul-Free LLM代

机器学习工程师是专门从事机器学习系统研究、设计和构建的IT专业人员。他们的主要工作是开发能够自主学习和预测的人工智能算法和系统,以实现预测模型的自动化。研究和设计机器学习算法构建大规模机器学习系统处理和分析海量数据集训练和优化机器学习模型将模型部署到生产环境并进行维护机器学习工程师通常在一个更大的数据科学团队中工作,与数据科学家、数据分析师、软件工程师等密切合作。他们既需要深厚的数学和统计学功底,

KVQuant代表了LLM推理技术的重要突破，通过创新的量化方法，大大扩展了模型的上下文处理能力。无论是研究人员还是实践者，了解和掌握KVQuant都将有助于推动LLM技术的进一步发展和应用。随着KVQuant的不断完善，我们期待看到更多基于超长上下文的LLM应用出现，为自然语言处理领域带来新的可能性。

是一个纯C++实现的大型语言模型(LLM)推理框架,支持在CPU上进行实时对话。该项目基于@ggerganov的ggml库开发,实现了从1B到300B+多种模型的推理能力。基于int4/int8量化的高效CPU推理支持多种Transformer架构模型流式生成与打字机效果长文本对话支持RAG(检索增强生成)实现LoRA微调支持Python/JavaScript/C语言绑定。

garak是一个专门用于检测大语言模型漏洞的扫描工具。它的名字来源于《星际迷航:深空九号》中的角色Elim Garak,这个角色以狡猾和善于欺骗著称。正如这个名字所暗示的,garak的目标是通过各种巧妙的方法来"欺骗"和测试LLM,从而发现它们的弱点。检测模型的幻觉(hallucination)发现数据泄露问题测试提示注入(prompt injection)的脆弱性评估模型生成错误信息的倾向检查有

DeepRec的出现和开源,标志着推荐系统技术进入了一个新的阶段。它不仅是阿里巴巴多年技术积累的结晶,更是推动整个行业向前发展的重要力量。随着越来越多的企业和开发者加入DeepRec生态,我们有理由相信,更加智能、高效、个性化的推荐系统将不断涌现,为用户带来更优质的在线体验。无论您是大型互联网公司还是初创企业,是经验丰富的机器学习工程师还是刚入门的AI爱好者,DeepRec都为您提供了一个强大的工

100-Days-Of-ML-Code项目为机器学习初学者提供了一个结构化的学习路径。通过100天的持续努力,你可以从机器学习的新手成长为具备实战能力的学习者。无论你是计算机科学学生、数据分析师,还是对人工智能感兴趣的专业人士,这个项目都能帮助你系统地学习机器学习知识,为你的职业发展打开新的可能性。现在,是时候开始你的机器学习之旅了。记住,每个专家都曾是初学者,持续学习和实践是成功的关键。让我们一

MediaPipe是由Google开发的开源框架,旨在构建跨平台的机器学习管道,特别适用于处理多媒体数据如视频和图像。它提供了一套库和工具,让开发者能够快速将人工智能(AI)和机器学习(ML)技术应用到自己的应用程序中。无论是在移动设备、网页应用还是嵌入式系统上,MediaPipe都能提供高效的性能表现。: 用于部署解决方案的跨平台API和库: 预训练的、即用型模型: 允许使用自定义数据定制模型:

TTS(Text-to-Speech)是由Coqui.ai开发的一个开源深度学习文本转语音工具包。作为一个功能强大且经过实战检验的项目，TTS为研究人员和开发者提供了先进的语音合成能力。自发布以来，TTS在GitHub上已获得超过33,000颗星，成为该领域最受欢迎的开源项目之一。TTS的目标是为语音合成任务提供高性能的深度学习模型。它不仅包含了多种先进的文本到语音模型，还提供了语音编码器和声码器