MOSS

by OpenMOSS · Machine Learning

An open-source, tool-augmented conversational language model from Fudan University

★ New0 ratings12,242 stars● Active

Machine LearningDeveloper ToolPythonchatgpt

About this project

MOSS 论文 [English] [官方微信群] MOSS 是支持中英双语对话与工具调用的开源语言模型。本仓库提供 MOSS-003 系列模型、对话数据、部署与微调代码。从这里开始：模型下载 · 硬件要求 · 本地运行 · 微调查看 OpenMOSS 的更多项目：MOSS-TTS · MOSS-VL · MOVA · OpenMOSS. 目录 — 开源清单 — 模型 — 数据 — 工程方案 — 介绍 — 本地部署 — 硬件要求 — 下载安装 — 使用示例 — 微调 — 软件依赖 — 使用方法 — 友情链接 — 未来计划 — 开源协议 :spiralnotepad: 开源清单模型 — moss-moon-003-base: MOSS-003基座模型，在高质量中英文语料上自监督预训练得到，预训练语料包含约700B单词，计算量约6.67x10 22 次浮点数运算。 — moss-moon-003-sft: 基座模型在约110万多轮对话数据上微调得到，具有指令遵循能力、多轮对话能力、规避有害请求能力。 — moss-moon-003-sft-plugin: 基座模型在约110万多轮对话数据和约30万插件增强的多轮对话数据上微调得到，在moss-moon-003-sft基础上还具备使用搜索引擎、文生图、计算器、解方程等四种插件的能力。 — moss-moon-003-sft-int4: 4bit量化版本的moss-moon-003-sft模型，约占用12GB显存即可进行推理。 — moss-moon-003-sft-int8:…