一:前言

就在几天前,开源大模型领域迎来了重磅新玩家:谷歌推出了全新的开源模型系列「Gemma」。相比 Gemini,Gemma 更加轻量,同时保持免费可用,模型权重也一并开源了,且允许商用。

Gemma是一个轻量级的,最先进的谷歌开放式模型系列, 利用与双子星座模型相同的研究和技术建造而成。 它们是文本到文本的,只有解码器的大型语言模型,有英文版本, 使用开放权重,预训练变体和指令调整变体。吉玛 模型非常适合各种文本生成任务,包括 问题回答,总结和推理。它们的体积相对较小 使得在资源有限的环境中部署它们成为可能,例如 笔记本电脑,台式机或您自己的云基础设施,民主化访问 最先进的人工智能模型,并帮助促进每个人的创新。

二:本地部署

现在我们来快速进行本地部署吧

首先我们需要下载Ollama,Ollama 用于在本地管理和部署大语言模型,由于它极大的简化了安装和配置的细节,一经推出就广受好评,目前已在github上获得了40k star
curl -fsSL https://ollama.com/install.sh | sh

Ollama的官网:
Download Ollama on Linux

直接下载对应平台的安装包,安装完成后启动应用。(Mac和window也可使用)

在Ollama中,提供了大量的模型,不仅可以安装Gemma。

Ollama安装完成

可根据自己的需求来安装大模型,我这里安装的是Ollama-2B的

第一次run时需要下载模型,后续就可直接使用了

Logo

瓜分20万奖金 获得内推名额 丰厚实物奖励 易参与易上手

更多推荐