生成式AI搜索成本比传统高10倍,混合AI是未来
|
5天突破百万用户，2个月突破1亿用户，频频打破史上增速最快消费级应用，这便是ChatGPT。ChatGPT在去年11月以AI聊天机器人的形式登场，但与过去所有的聊天机器人不同，似乎像个全能战士，可以聊天、写文章、写代码、修改 bug……ChatGPT被视为生成式AI里程碑，并以前所未有的速度和广度，展现出其巨大的发展潜力。 然而随着生成式AI模型参数规模的急剧扩张，对算力提出了巨大的挑战，以及带来的成本问题，无疑会影响生成式AI的普及。研究数据指出，每个生成式AI网络搜索查询的成本比传统搜索高10倍，如果每天进行超过100亿次查询，每年的额外成本可能达数十亿美元。 对此，在9月5日的服贸会上，高通给出的答案是混合AI。在高通发布的《混合AI是AI的未来》白皮书中，混合AI将支持生成式AI开发者和提供商利用边缘终端的计算能力降低成本。不仅如此，混合AI架构或终端侧AI还能够在全球范围带来高性能、个性化、隐私和安全等优势。
目前生成式AI主要采用云端部署运行，而混合AI指终端和云端协同工作，在适当的场景和时间下分配AI计算的工作负载，以提供更好的体验，并高效利用资源，这其中5G承担着连接云端算力和终端应用的关键桥梁。在5G的加持下，混合AI架构使AI在云端、边缘云和终端侧协同运行，使整个系统中的计算和处理能力能够以最有效的方式重新分布，实现更强大、更便利、更高效、更优化的AI。 高通是全球领先的无线科技创新者，在5G等连接技术，以及AI、影像、图形等技术领域拥有长期积累，已打造出“统一的技术路线图”，将先进的连接、低功耗高性能计算和终端侧AI等技术从手机高效扩展至不同行业中的下一代智能终端，包括汽车、VR头显、物联网设备等。
今年的服贸会上，高通在展位上呈现了全球首个可以完全运行在安卓智能手机上的生成式AI大模型终端侧演示，它能迅速理解用户用自然语言描述的需求，凭借其掌握的超过10亿与图像相关的参数，执行多达20步推理，创作出用户想要的图像。值得注意的是，这些任务全部在手机端完成，全程无需联网、无需访问云端，且用时不超过15秒——这是迄今为止在智能手机上实现的最快的推理速度。 目前，在全世界范围内，搭载了骁龙和高通平台的智能终端数量已达到数十亿台。可以预见，5G连接所具有的高速率、低时延等优势，将会让混合AI架构更好地统筹运用云端、边缘云和终端侧的AI算力，从而让更多消费者和行业用户享受到生成式AI带来的全新体验。
高通公司全球副总裁侯明娟在服贸会成果发布活动上表示，随着生成式AI带来空前的创新和发展机遇，AI正以惊人的发展速度和强大的创新潜能，快速走进人们工作生活的方方面面，其变革千行百业的趋势日益明显。终端侧AI是实现混合式AI架构、扩展生成式AI至全球更广范围的关键，期待日后能够与更多合作伙伴成就全新的、更加丰富的商业模式和创新应用，进而惠及更多的行业和消费者，带来更加便利和愉悦的数字化生活。 |
