OPPO Find X7 系列手机首搭 70 亿参数 AndesGPT 端侧大模型,小布助手全新升级
来源: 巴比特2023-12-27
据 IT 之家 12 月 27 日消息,在今日下午的 OPPO Find X7 系列产品技术沟通会上,OPPO 公布了安第斯大模型 AndesGPT 的全新升级。安第斯大模型将分成 1800 亿参数、700 亿参数、70 亿参数三种体量,支持端云协同部署,根据不同场景的用户需求实现智能调度。OPPO 表示,AndesGPT 大模型通过强大的知识、记忆和工具能力,为小布助手带来广阔的知识面,以及个性专属的智慧服务能力。通过独创的 SwappedAttention 技术,AndesGPT 还解决了长期记忆带来首字推理延迟的问题。 此外,通过 4 bit 量化的模型压缩,OPPO 的 Al Boost 推理引擎优化,以及与芯片厂家联合深度优化等多项举措,OPPO 在 Find X7 系列上首次实际端侧应用 70 亿参数的大模型,具备超快的首字响应速度,在文本内容摘要的场景下,200 字的首字生成仅需 0.2s,领先友商 20 倍;2000 字首字生成仅需 2.9s,领先友商 2.5 倍;摘要字数上限可达 14000 字,可以轻松输入一篇常见期刊论文,领先友商模型能力 3.5 倍。
热门新闻
- 1USDT市值突破1100亿美元
- 210 张图揭示加密市场现状:BTC 市占率超 52%,一季度稳定币供应量上涨 14%
- 3加密市场情绪研究报告(2024.04.15-04.19):短期下跌需要做好防御措施
- 4AI 代币另一面:多数项目忙于金融利益,而非现实影响
- 5金色早报丨加密货币价值观仍在全球范围内遭受攻击 铭文某种程度算是符文的试验田
- 6牛市如何暴富?关于加密市场的6点思考
- 7本周值得重点参与的3个链游项目:MapleStory Universe、AI ARENA、My Neighbor Alice「GameFi 猎手」
- 8Bitget研究院:Runes协议上线导致BTC网络费用激增,BONK领涨Solana Meme
- 9一周融资速递 | 33家项目获投,已披露融资总额约1.26亿美元(4.15-4.21)
交易平台最新公告查看更多>