|
大众好，这儿是AI智能探索，今天给大众带来一个好信息，谷歌Gemma大模型开源了，一晚上之间，Gemma系列正式上线，全面对外开放，主打开源和轻量级，免费可商用，并且模型权重亦是开源的。
此刻总共有两个版本，分别是20亿参数的2B模型，还有70亿参数的7B大模型。尤其是7B大模型，它的性能已然全面碾压开源大模型的标杆Llama2, 7B版本的参数量约为78亿，它重点是面向GPU和TPU上的有效安排和研发的。只要你的电脑上有一张6G以上的显卡，就能够进行本地安排安装运用，但这显卡最好是英伟达的。2B版本参数约为25亿，它重点是用于CPU或是端侧应用程序，当然在有些手机上亦能够跑起来。它们都是基于Transformer解码器架构，关键模型参数如下。
然则相比于基本的Transformer架构，Gemma大模型它进行进一步的升级更新，性能和推理能力更强，这是日前功能最强的开源大模型，真正做到了以小博大，不仅能够在台式机，亦能够在笔记本电脑上容易运行。除了高性能之外，Google还准备了完备的安排、微调、模型评定、安全分析、SDK研发指南等等，能够在多框架Keras 3.0，本地PyTorch、JAX和Hugging Face, Transformer中进行推理和微调，亦能够在本地进行安装安排运用，这才是真正的开源啊。
经过测试，无论是写代码能力、推理能力、创造性能力。这个免费开源大模型能力确实非同通常，这是我日前在开源行业遇到最强的大模型，虽然我之前测试过非常多的开源大模型，例如这个Llama 2还是Mistral，然则都不怎么可行，她们在非常多方面乃至打不外免费版的ChatGPT，然则自从看到了谷歌开源的Gemma大模型，一下子改变了我的观点。
接下咱们就来讲一下怎样进行本地安排，本地安排安装的话非常容易，你只需要一台电脑就能够，不管是台式机还是笔记本都没问题。咱们先简单说一下硬件需求，倘若选取是7B大模型，那样需要选取一个8G的显存显卡，倘若是全量版的7B大模型，那样就需要16GB以上的显存，然则倘若显存是少于6G的，或是无独立显卡的，那样你能够选取2B系列模型，由于它能够在CPU上运行，在起始安装之前，首要咱们需要下载安装这款Ollama开源软件.
链接请评论区索要
打开这个链接以后，它上面有三个版本，第1是macOS版本，那第二是Linux，第三个是Windows，由于我的电脑是windows系统，因此这儿我选取Windows版本，咱们把它Download下来。
总共是180兆上下，下载好以后，咱们就能够得到这个安装包了，而后咱们双击打开进行安装一下，这儿点击install。
安装完成以后，而后咱们在电脑的搜索栏里，输入关键词CMD，来打开命令提示符。
打开以后。
下面我就供给这些安装的命令，第1个是安装普通的7B版，它重点适合于8G显存的电脑，安装指令就这个了。
【1】：ollama run gemma:7b
倘若你是第1次安排，它会自动下载。
第二个是7B全量版，它硬件需求是16GB以上的，下方是它的安装指令。
【2】：ollama run gemma:7b-instruct-fp16
而后第三个是2B轻量版，适合CPU低配电脑，下方是它的安装指令。
【3】：ollama run gemma:2b
这儿你需要按照自己状况去选取，我选取7B的全量版来进行安装，我只需要把第二个安装命令给它copy出来，Copy好以后，而后在终端下，鼠标右键进行粘贴一下。
粘贴以后，咱们按下回车键确认下。它会自动拉取并下载这个大模型，它下载过程是需要点时间的，由于这个全量版它总共有17GB上下，我们稍微耐心等待一下。
好，这般，它就下载安装完成为了。
此刻咱们能够在上面输入任何问题来向他进行提问，例如咱们输入：请自我介绍一下。
它说我是一个大型语言模型，由谷歌大数据和先进自然语言处理技术研发而成。我持有广泛的知识和能力，能够帮忙你进行各样区别的任务，包含以下各样方面。
这儿值得一提的是，它是能够完全离线运用的，例如此刻我把这网络给它断开，断开网络以后，此刻问它任何问题，例如问它一下，请帮我写一个植物大战僵尸的游戏代码。输入好以后咱们回车确认一下。
这般的话它就能够起始了。
速度非常快，它是能够完全离线运用的。当然，倘若你需要下次打开的话，那样一样进入到终端下。
只要输入这个命令就能够了。
ollama run gemma:7b-instruct-fp16（按照你下载的模型版本输入指令）
输入好以后就能够进行运行了，而后你能够在里面向它提问任何的问题，哪怕是隐私问题亦是能够的，由于它是不需要联网的，输入问题就能够，非常的方便。
当然，倘若你不想进行本地安装，那样能够直接在Hugging face上运用。
链接请评论区索要
打开以后，而后此刻需要登录一下自己的Hugging face账号，倘若你无这个Hugging face账号的话，那样你点上方的signup进行注册一个。
经过邮箱账号就能够注册了，由于我之前已然注册好了，因此这儿我点击登录就能够了，登录以后，而后咱们在左下方这儿选取models这个选项。
咱们打开它，打开以后，在第二选项这儿，咱们就看到这便是
Google gemma 7B大模型，它是全量版的。
咱们打开它，打开以后，它就会自动把这个模型切换到这个Gemma大模型了，就这个70亿参数的大模型，它是开源的。
而后在下方这儿，你就能够向它提问任何问题了，不管是对话还是写代码都没问题。
倘若你需要下载Google开源大模型软件的话，那样你打开浏览器上面这个链接。
打开以后往下拉，点下方有个“起始运用”。
进入以后在下方这儿你能够按照需要来去选取对应的这个版本。
第1是Keras，而后第二是PyTorch，它里面有区别版本，像这个2B，而后2B全量版，7B，7B全量版等等都有，而后第三个是在TransformERS结构下运用的。
里面都有区别版本。
选取好以后，点击右侧有个下载的按钮。
咱们能够把它下载下来，打开以后，咱们需要进行登录下，你能够选取区别账号来进行登录，不管是Hugging face，Email或Google等等都行。
例如我选取谷歌账号进行登录下，登录以后而后往下拉。
拉到底部来，勾选它的条款协议，最后咱们点击确认就能够了。
这般的话就能够进行下载了。
这个全量版总共有42G上下，非常大，然则倘若你有需要的话，那样能够把它下载下来就能够了。
好，谢谢大众的观看，有问题欢迎评论区留言。
| 
发表于 2024-7-30 20:30:03
