Gemma是谷歌DeepMind联合谷歌其他团队推出的一系列轻量级开放模型,底层技术与Gemini模型同源,归属于AI训练模型类别。目前系列中包含2B和7B两种权重规模,每种规模都同时提供预训练版本和经过指令微调的版本,第二代模型Gemma 2也已经发布。模型权重对外开放,开发者在遵守许可协议的前提下可以将其用于商业用途和再分发。
没有这类开放模型时,想在自己的产品里用上大语言模型,通常只有两条路:要么调用闭源API,数据要离开自己的环境,成本随调用量持续上涨;要么自己从零训练,仅算力门槛就足以拦住绝大多数团队。Gemma把这条路拓宽了。模型针对NVIDIA GPU和Google Cloud TPU做了性能优化,2B规模的版本可以在个人笔记本电脑上跑起来,7B版本也只需要工作站级别的硬件。训练数据层面,2B模型使用了约2万亿个token,7B模型使用了约6万亿个token,素材主要来自网络文档、数学和代码,预训练阶段就过滤了敏感信息。在MMLU、MBPP等18个基准测试中,它有11项成绩超过了Llama-13B或Mistral-7B这类同规模或更大规模的开放模型。这个成绩值得注意。
最适合用它的是有一定工程能力、需要把模型部署到自己环境里的开发者和研究人员,比如要在本地做推理、想针对垂直领域做监督微调、或者需要审计模型行为的研究团队。框架兼容性对这类用户很友好,JAX、PyTorch、TensorFlow都在支持列表里,工具链通过Keras 3.0提供。反过来,如果只想在网页上对话、不愿碰任何代码和部署流程,这类用户用起来会处处别扭,因为Gemma本身不是一个开箱即用的聊天产品,而是一组需要自行加载和运行的模型权重。另外,预训练数据以英语为主,重度依赖其他语言能力的项目需要先验证效果再决定。
实际使用时的路径比较清晰。先从Hugging Face
📬 不错过下一款好工具
每周二、周五各一期,随时退订
这是你的产品?认领并提升曝光 →
获取方面,模型权重通过Hugging Face和Kaggle公开分发,官网ai.google.dev/gemma是统一的入口,技术报告和代码库都可以免费访问。在Kaggle和Colab平台上能直接运行示例,具体的使用条款、商用条件和可能涉及的云服务费用,以官网当前公示为准。
判断要不要选它,核心看两点:是否需要把模型掌握在自己手里,以及团队是否具备基本的部署和微调能力。需要在本地或私有环境运行、要针对特定任务微调、要控制数据流向的项目,Gemma的开放权重和轻量设计正好对得上这些需求。反过来,如果需求只是偶尔调用一下对话能力、不想维护任何基础设施,或者需要的语言和能力超出了它预训练数据的覆盖范围,那么托管式的闭源服务或更通用的模型产品会是更省事的方向。
模型权重通过Hugging Face和Kaggle公开分发,官网为统一入口,技术报告与代码库均可免费访问。具体商用条款与可能涉及的云服务费用以官网当前公示为准。
OpenBMB是由清华团队发起的大规模预训练语言模型开源库,提供从训练到部署的全流程工具链,降低大模型研发门槛。
复旦大学团队研发的开源对话式大型语言模型,具备多轮对话、逻辑推理与代码生成能力,支持中英双语交互,旨在降低大模型研发门槛,推动通用人工智能技术探索。
腾讯混元大模型是腾讯推出的多功能AI引擎,提供对话、视觉生成及代码辅助能力,面向开发者与企业用户实现业务智能化升级。
悟道是北京智源研究院推出的超大规模语言模型,面向需要中英文文本与图像联合处理能力的研究者和开发者。
序列猴子是出门问问推出的一款超大规模语言模型及AI工作流编排自动化平台,支持长序列与多模态处理,帮助用户高效串联各类模型,实现复杂任务的无缝衔接与自动化流转。
字节跳动推出的AI大模型家族,通过火山引擎提供通用语言、音视频生成及多模态处理服务,面向企业与开发者构建智能化应用。