» 安卓教程 » 高通公司出席ChinaJoy AIGC大会,展望终端侧生成式AI新终端新应用

2024年7月26日,中国国际数字娱乐产业大会(CDEC)旗下ChinaJoy

AIGC大会于ChinaJoy期间在上海举行。会议从技术和应用的角度共同探讨AIGC技术下的内容产业新业态和未来发展趋势,重点探讨AIGC如何助力产业升级、如何完善AIGC场景应用、如何促进人机融合。

高通公司出席ChinaJoy AIGC大会,展望终端侧生成式AI新终端新应用

Mike Roberts,Qualcomm Technologies 副总裁兼产品、合作伙伴和技术市场全球主管

并在会上发表主旨演讲。他指出,终端侧生成式AI已经到来。作为终端侧AI的领导者,高通在AI领域的投入已超过15年,凭借其强大的软硬件支持组合、异构计算优势以及全球领先的边缘侧布局,高通的产品和技术支撑AI终端出货量超过25亿台,赋能广泛行业领域和生成AI体验,推动实现“让智能计算无处不在”。

以下为演讲全文:

大家好,很高兴第四次参加ChinaJoy。我很荣幸代表高通公司与您分享我们如何帮助让智能计算无处不在。作为终端侧AI的领导者,高通在人工智能领域的投入已超过15年。拥有业界领先的硬件和软件解决方案,覆盖广泛的边缘终端,并具有跨NPU、CPU和GPU的卓越异构计算能力、领先的软件优化和能效。此外,我们拥有无与伦比的边缘侧布局和全球数十亿用户设备,涵盖智能手机、PC、汽车、XR、边缘网络设备等。同时,我们还与微软、谷歌、百川、腾讯、字节跳动等众多生态合作伙伴合作,共同推动AI技术的创新和应用。

生成式AI不仅是不可或缺的个人助理,还在多个领域展现出巨大的商业价值。预计每年带来2.6万亿美元至4.4万亿美元的经济效益,约为2023年上海GDP的5倍。然而,推动生成式人工智能大规模发展面临诸多挑战。以成本为例,基于生成式AI的搜索的单次推理成本约为传统网络搜索的10倍。我们仍处于生成式人工智能应用的早期阶段,新的应用正在不断涌现,包括图像和视频创建、文本摘要、会话聊天机器人等。考虑到未来将有数十亿用户需要使用人工智能推理,整体需求将非常惊人。预计2024年至2028年与生成式AI相关的代币生成量将增加150%。

有时,云中推理的需求将超过训练的需求。如果维持目前的人工智能处理方式,到2030年人工智能可能会消耗全球3.5%的电力,足以为上海这样的大城市供电约35年。

那么我们应该如何应对这一挑战呢?为了实现规模化扩张,AI处理的重心正在向边缘侧转移。最终目标是实现混合AI,让云端和边缘端协同处理工作负载,利用高性能连接实现更强大、更高效、更优化的AI。如果

到2028 年,将20% 的生成式AI 工作负载转移到端点预计将节省160 亿美元的计算资源成本。

我们分别看一下终端侧和云端的AI处理。终端侧主要支持百亿参数级别的大型模型。终端侧AI处理有很多优势。它不仅可以提高性能和效率,还可以保证隐私和安全,同时提供即时性、低延迟、高可靠性和个性化的用户体验。另一方面,中心云可以支持运行参数超过千亿级别的超大型模型。在中心云上,用户可以轻松开发、部署和训练模型,实现资源聚合和极致性能。

基于此,面对各个垂直领域对生成式AI用例日益增长的需求,高通针对计算性能推出了系统级解决方案。提供系统级解决方案的理念深深植根于高通的DNA 中,是我们作为一家公司如何应对诸多挑战的关键。该解决方案包括我们新构建的专门用于生成式AI 的神经网络处理器(NPU),并且我们还将NPU 与CPU 和GPU 集成。比如我们在PC端推出的高通Oryon

未来CPU将扩展到手机、汽车等更多终端品类;另外,我们还推出了高通Adreno GPU,在这款定制GPU上我们投入了十多年的研发。

我们针对不同的计算需求策略性地使用合适的处理器,以提高系统性能并实现异构计算。异构计算使我们能够实现最佳的应用程序性能、能源效率和电池寿命。如今,终端侧人工智能已广泛应用于各种消费终端和各个行业,包括边缘网络设备、汽车、制造车辆的工业机器人等。在这里,我想重点介绍两种主要的终端类型:智能手机和PC。

我们最新的第三代骁龙8旗舰移动平台已经赋能众多手机厂商合作伙伴推出丰富的终端AI体验。上个月,我们的合作伙伴微软和其他领先的PC 制造商推出了20 多款搭载Snapdragon 的机型

适用于Elite 和Snapdragon X Plus 平台的最新Windows 11 AI+

PC端,这些设备实现了实时翻译、即时翻译、AI照片编辑、文字摘要、写作辅助等丰富的AI功能。

我们首先从智能手机的角度来谈谈这些设备端人工智能用例。我们与合作伙伴合作,为用户的旗舰智能手机带来生成式AI功能,将骁龙的AI能力直接呈现给消费者。三星Galaxy

S24系列利用终端侧人工智能和先进的实时翻译功能,将手机通话实时翻译成用户喜欢的语言,打破语言障碍,促进无缝的跨文化交流。此外,OPPO Find X7

Ultra集成了出色的设备端人工智能功能,允许用户在不连接互联网的情况下从照片中消除不需要的物体或人物。荣耀Magic6系列的“智能拍片”功能可以利用相册中的照片和文字提示生成视频。

接下来我们来说说在PC领域的应用。在PC端,我们与包括djay Pro在内的许多公司合作。 DJ

Pro 是世界领先的混音应用程序。经过我们的合作和优化,现在可以运行在Snapdragon X Elite的NPU上,让用户能够充分利用Neural

混合实时分离和操纵不同的音轨,如人声、乐器、鼓等。

现在,让我们将注意力转向能够按需提供功能升级和新服务的汽车制造商和其他服务提供商。中国汽车市场发展速度全球领先。在联网汽车中使用生成式人工智能服务,使我们的合作伙伴能够创造新功能、扩展其产品,并为驾驶员和乘客提供更好的体验。联网汽车可以支持各种软件定义的功能和服务,也将重新定义旅行体验。

高通还引领着终端侧AI在物联网领域的应用。一个特定的用例是工厂车间,其中数据处理的低延迟至关重要,因为即使是最微小的错误也需要立即引起注意。借助多模式人工智能助手,我们可以使用视觉、文本和语音处理为工厂车间的工人提供实时帮助。

我们还提供高通人工智能软件堆栈,这是一个全面的统一解决方案,以支持广泛的垂直行业和合作伙伴。高通人工智能软件堆栈旨在帮助开发人员优化和部署人工智能模型。它集成了我们自己的高通神经网络处理SDK,以及模型压缩和量化工具——高通AI模型增强工具包(AIMET)。

综上所述,凭借强大的软硬件组合支撑,高通的产品和技术支撑了超过25亿台AI终端的出货量。随着我们不断缩小云和设备端人工智能之间的差距,这个数字未来将继续快速增长。最后,非常欢迎大家莅临ChinaJoy 骁龙主题馆E4参观体验。谢谢你们!

以上是小编带来的有关高通出席ChinaJoy AIGC大会以及终端侧生成AI新终端和新应用展望的信息。如果您觉得对您有帮助,请来老铁下载站观看更多内容。

欢迎玩家到【 】查看最新变态版手游攻略,只需要在百度输入【 】就可以浏览最新上线送满vip的变态手游攻略了,更多有关手游的攻略和资讯,敬请关注玩的好手游网!

标签: 高通公司出席ChinaJoy AIGC大会,展望终端侧生成式AI新终端新应用