OPPO Find X7 系列手机首搭 70 亿参数 AndesGPT 端侧大模型,小布助手全新升级

来源: 巴比特2023-12-27
据 IT 之家 12 月 27 日消息,在今日下午的 OPPO Find X7 系列产品技术沟通会上,OPPO 公布了安第斯大模型 AndesGPT 的全新升级。安第斯大模型将分成 1800 亿参数、700 亿参数、70 亿参数三种体量,支持端云协同部署,根据不同场景的用户需求实现智能调度。OPPO 表示,AndesGPT 大模型通过强大的知识、记忆和工具能力,为小布助手带来广阔的知识面,以及个性专属的智慧服务能力。通过独创的 SwappedAttention 技术,AndesGPT 还解决了长期记忆带来首字推理延迟的问题。 此外,通过 4 bit 量化的模型压缩,OPPO 的 Al Boost 推理引擎优化,以及与芯片厂家联合深度优化等多项举措,OPPO 在 Find X7 系列上首次实际端侧应用 70 亿参数的大模型,具备超快的首字响应速度,在文本内容摘要的场景下,200 字的首字生成仅需 0.2s,领先友商 20 倍;2000 字首字生成仅需 2.9s,领先友商 2.5 倍;摘要字数上限可达 14000 字,可以轻松输入一篇常见期刊论文,领先友商模型能力 3.5 倍。
利好利好
0
利空利空
0
交易平台最新公告查看更多>
成交额排行榜
  • 交易所
  • 币种
排名 交易所 成交额
1 币安网币安网 ¥4,524.20亿
2 欧易OKX欧易OKX ¥1,620.72亿
3 火币全球站火币全球站 ¥155.89亿
4 抹茶抹茶 ¥264.54亿
5 芝麻开门芝麻开门 ¥322.40亿
6 库币库币 ¥120.84亿
7 Coinbase ProCoinbase Pro ¥134.80亿
8 bitFlyerbitFlyer ¥6.92亿
9 BitMEXBitMEX ¥0
10 BitstampBitstamp ¥13.73亿