chatgptplus吧 关注:42贴子:225
  • 0回复贴,共1

终于来了!国产也有 ChatGPT

只看楼主收藏回复


2 月 20 号,复旦大学推出国内第一个对话式大型语言模型 MOSS,由复旦大学自然语言处理实验室的邱锡鹏教授团队研发。
有意思的是,MOSS 这个名字,与《流浪地球 2》中的人工智能系统同名。

MOSS 可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图,并具有对话能力的全部技术路径。
MOSS 的开发步骤与 ChatGPT 差不多,包括自然语言模型的基座训练、理解人类意图的对话能力训练。
但在对话能力训练阶段,MOSS 和 ChatGPT 则有着明显的不同。
OpenAI 收集了至少几十万条人类指令,让各行各业的专业标注员写出指令回复,帮助 ChatGPT 逐步理解各种指令。
复旦团队没有那么多的指令数量,因此选择了不同的技术路线。
他们通过让 MOSS 和人类以及其他对话模型都进行交互,从而短时间内完成对话能力训练。
有记者问了 MOSS 几个中文问题,MOSS 回答比较流畅,逻辑也清晰。
不过相比中文,MOSS 的英文水平似乎更好,回复的内容也更详尽。
邱锡鹏团队表示:“MOSS 的英文回答水平比中文高,因为它的模型基座学习了 3000 多亿个英文单词,中文词语只学了约 300 亿个。”
团队还表示,目前 MOSS 的最大短板是中文水平不够高,主要是中文网页的干扰信息很多,清洗难度很大。


IP属地:福建1楼2023-02-23 01:16回复