通义千问开源千亿级参数模型

  • 发布时间:2024-04-28 15:00:32 来源:
标签:
导读 今天【通义千问开源千亿级参数模型】登上了全网热搜,那么【通义千问开源千亿级参数模型】具体的是什么情况呢,下面大家可以一起来看看具体...

今天【通义千问开源千亿级参数模型】登上了全网热搜,那么【通义千问开源千亿级参数模型】具体的是什么情况呢,下面大家可以一起来看看具体都是怎么回事吧!

1、【通义千问开源千亿级参数模型】,通义千问开源1100亿参数模型Qwen1.5-110B,成为全系列首个千亿级参数开源模型。

2、通义千问1100亿参数模型延续了Qwen1.5系列的Transformer解码器架构,采用了分组查询注意力方法(GQA),使得模型在推理时更加高效。

3、110B模型支持32K上下文长度,具备优秀的多语言能力,支持中、英、法、德、西、俄、日、韩、越、阿拉伯等多种语言。

以上就是关于【通义千问开源千亿级参数模型】的相关内容了,希望对大家有所帮助!

  • 免责声明:本文由用户上传,如有侵权请联系删除!