treehouse group(hk)limited
用户1600
添加快捷方式
分享
免费部署一个开源大模型 MOSS
输入“/”快速插入内容
免费部署一个开源大模型 MOSS
2023年初,ChatGPT 人工智能对话模型火爆全球,仅两个月的时间就突破一亿月活用户,成为有史以来应用速度最快的技术之一。
ChatGPT 的大热引发了全球科技巨头之间的“军备竞赛”,中国本土的“中国版 ChatGPT ”也随之展开了激烈角逐。在中国多家科技公司中,百度于3月上线的对话
AI
产品“文心一言”最先开火。
近日复旦大学自然语言处理实验室邱锡鹏教授团队研发的大语言模型 MOSS 也已公开发布并开源。MOSS 的公开发布无疑加剧了国内 ChatGPT 式产品的竞争。
MOSS 是什么?
MOSS 是一个支持中英双语和多种插件的开源对话语言模型,
moss-moon
系列模型具有160亿参数,在 FP16 精度下可在单张 A100/A800 或两张 3090
显卡
运行,在 INT4/8 精度下可在单张 3090 显卡运行。MOSS 基座语言模型在约七千亿中英文以及代码单词上预训练得到,后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。
申请服务器
这里使用阿里云免费的
GPU
服务器进行部署,免费试用活动页
https://free.aliyun.com/
。
只要没有申请过 PAI-DSW 资源的新老用户皆可申请 5000CU 的免费额度,3个月内使用。
点击试用,完成注册、实名、领取产品后进入如下页面。
创建工作空间并授权。
授权完成,前往默认工作空间。
创建交互式建模(DWS)实例。