LOADING STUFF...
AI模型

MOSS

复旦大学自然语言处理实验室开发的新版MOSS 模型上线,成为国内首个插件增强的开源对话语言模型。MOSS是一个支持中英双语和多种插件的开源对话语言模型,moss-moon系列模型具有160...

标签:
复旦大学自然语言处理实验室开发的新版MOSS 模型上线,成为国内首个插件增强的开源对话语言模型。MOSS是一个支持中英双语和多种插件的开源对话语言模型,moss-moon系列模型具有160亿参数,在FP16精度下可在单张A100/A800或两张3090显卡运行,在INT4/8精度下可在单张3090显卡运行。MOSS基座语言模型在约七千亿中英文以及代码单词上预训练得到,后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。

相关导航