微软高通英特尔都力推的AIPC,为啥联想更先造好?

何川想到的是20多年前的一次考试突击,要是当时有AI就好了。

因为记错了第二天的考试科目,清华学霸也不得已在考试前夜点灯熬油重新学习一门课程。

如果有内置大模型的电脑,一本电子教材输入进去,把所有重要知识点列成提纲,我只需把这些内容背好就没问题了。

更直接的改变是当下的工作生活。

总结筛选邮件、做汇报PPT……这样琐碎的工作,如果AI来做,人就能被解放出来。

已经在用AI辅助办公的郑爱国感慨,“一台PC的价格,相当于有一个个人助理,何乐而不为呢?”

可能有人会问,云端大模型不能做吗?为什么一定需要一台AIPC?

因为计算要在本地、要构建个人知识库、要隐私保护……更加完整的答案随着最新AIPC的全面发售,已经向所有人呈现。

从真正意义的AIPC本身看起。

怎样一台PC才能被称之为AIPC?

最基本的定义是将大模型引入电脑本地,通过生成式AI进一步拓展PC的能力。

从各大厂商的实际动作来看,第一波上机的AIGC应用集中在3大方面:

比如AI绘画方面,高通、英特尔的最新PC芯片均已支持StableDiffusion的本地运行,并且在生成速度上展开角逐。

联想的AIPC中已具备AI画师能力,它支持文生图、图像训练和深度编辑等功能。

办公场景中,打工人最关心的PPT生成方面,联想率先在本地实现。

只需一句话,它就能基于上传的文档材料生成PPT大纲。

再基于大纲内容,一键排版布局,生成十几页PPT。

微软才发布的AI强化版Windows11,支持通过自然语言搜索的方式“回忆”任何文件或网页浏览记录。

联想做的更彻底,依托内嵌于AIPC的个人知识库,可实现对个人文档的精准识别和学习,并根据本地大模型实现多模态文件内容总结和归纳,包括PPT、图片、文字和邮件等。

换言之,哪怕一次都没看过、没有浏览记录的文档,它能学习和总结。

总结来看,要将个人电脑AI化已成为业内共识。

不过各家对AIPC能力边界的定义、各自技术路线各有不同。基本上可以分为两派,强调交互主要在云端进行还是在本地进行。

前者的代表有微软等。

它前不久刚刚发布新一代Copilot+PC,接入GPT-4o提供各种实时AI能力。可以在打游戏的时候和AI对话,实时翻译字幕、以及上文提到的recallanything等。其革新主要体现在系统层面,同时端侧也深度集成了40多个AI模型,使得Copilot具备更强大的AIGC能力。

后者的代表为联想。

它提出的AIPC五大特性中,几乎每一点都聚焦于AI的本地化运行部署:

其个人智能体联想小天,由嵌入本地的天禧大模型驱动,不联网情况下也能使用,可实现即时响应、几乎无延迟。同时联想还进一步强调了AIPC的个人化体验,联想小天具备自我学习和成长能力,可以通过日常互动不断学习和理解用户偏好,以此提供更加精准和个人化的服务。

同时,通过加强对个人数据和隐私的保护,能进一步缓解用户的隐私安全焦虑。也可以更进一步确保智能体是私人化、个性化的,始终为某一用户提供专属服务,让用户无需忧虑究竟是自己主导PC/智能体,还是无形中被AI读取意图、变相控制。而当用户想要体验更加丰富的AI功能时,还能依靠开放的AI应用生态拓展体验。

如上两种路线,终点相同都是AIPC。区别在于具体路径极具厂商自身特色。

微软的方式更侧重软件层的重塑,强调生产力的革新。微软定义Copilot+PCs为“Windows笔记本电脑配置内置AI硬件并支持整个操作系统的AI功能”。Copilot、Recall以及一系列APP的升级形成一场效率革命,AI的工具属性被拉满,但并未强调太多个性化体验。

联想从它擅长的硬件维度出发,在底层计算、系统架构上为内置大模型做出一系列更为彻底的调整和重构,也能让PC本身更加适应AI化的操作系统。而且区别于Copilot的工具属性,联想智能体小天更像一个私人助理。

不过相同的是,无论哪种路线都意识到造一台AIPC不只是“把大模型暴力装进PC里”而已。

这或许也是为何AIPC概念大火一年,能真正将大模型放进PC本地的产品寥寥,面向普通消费者开售的产品更少之又少。

但就在这周,联想AIPCAI元启版现全面开售。普通消费者走进线下门店,即可体验真正意义上的AIPC。

为何联想的动作如此之快?

在大模型时代之前,做一台新款PC将会是一个至少为期1年、非常严谨的流程。

之后进入开发阶段,不会进行特别大的改动,只能进行微调。整个产品的迭代周期都是以年为单位。

但是在大模型浪潮到来后,答案将发生天翻地覆的变化,因为要做的是一台AIPC。

做AIPC最大的不同是什么?

在联想内部最先拉起AIPC项目的何川觉得,造AIPC就是边造车边修路。“以前联想只负责‘造车’,现在还要修路,确保车能开下去。”

一系列的问题被摆在面前:如何给PC本地内置大模型?PC增加哪些前所未有的AI功能?

这些其实都是后话了,最开始最首要的难题,其实是到底要不要做AIPC?

当时ChatGPT已经引爆AIGC趋势,各种以生成式AI为核心的玩法、demo层出不穷。其中,增强生产力是主要玩法之一。

作为联想集团智能消费业务产品规划高级总监,何川和PC研发打交道已经有二十余年,他立马意识到AIGC的这一特性与PC作为生产力工具的定位,属性完全重合。

而且PC必须要enableAI,否则将被淘汰。

从创新维度来看,生成式AI属于破坏性创新,它具备的诸多能力,比如文生文、文生图等,都超越了人类大脑的能力范畴。

如果PC——这个人类最常用的生产力工具不进行AI化革新,它将很可能被AI大潮吞噬、淘汰。

直到和微软的一次合作交流,让他验证了自己的想法,并且看到了AIPC的可能。

郑爱国回忆,在去年4月左右,微软提出,希望在本地构建一个算力可达40TOPS的NPU。

以往微软从来没有如此深入底层技术产品的定义。

但40TOPS算力也不够用啊。当时趋势里,大家都还在卷参数量。直到偶然间得知,智谱正在做600亿参数的模型,也就是开始压缩模型了,郑爱国立马反应过来,微软定义的40TOPSNPU,就是要把大模型蒸馏剪切后放到PC上。而且如此长期的准备,一定是“大事”、一定是天翻地覆的变化。

郑爱国也是在这时明确,未来大模型会来到终端本地。

对应当时的趋势,大模型风头正盛,算力焦虑也愈加明显。ChatGPT宕机崩溃的消息,让更多人意识到云端算力的紧张。PC等个人计算设备,成为分摊算力压力的最好选择。

包括在2024CES上,吴恩达的观点也进一步佐证了AIPC趋势。

在你的笔记本电脑、个人电脑或工业PC上运行边缘人工智能,这方面的能力实际上比大多数人认为的要好得多。我认为这将推动很多设备的销售,也将推动很多计算机科学的发展。

但要做AIPC,到底该怎么做?

按照产品开发的流程,需要明确产品的目标、定位、功能。这就还要回到大模型本身看起。

大模型作为强AI,具备更强大的理解生成能力。在创作生产、情感陪伴、人机交互等方面都带来前所未有提升。

郑爱国回忆,在联想内部,最初对AIPC的构想也十分全能。ChatGPT最初以聊天的形式出圈,AIPC是不是也要做AI聊天的功能?大模型可以更充分理解人类表达,是不是就能做好意图理解?是不是PC也能帮忙订机票、订酒店?

但这些想法逐渐收敛,原因有二:

一方面,出于对技术本身的理解,如果是大模型or端侧大模型本身就不擅长的领域,没必要做。比如订机票、订酒店这类操作,是行为模型擅长的领域;陪聊方面,云端大模型一定做得比端侧好。

另一方面,还需要与PC本身最容易触发的场景做结合。作为生产力工具,做PPT、找文件、调设置等这些操作,几乎是每一个PC用户的日常。AIPC的能力应该尽可能先触及到所有用户。

当时讨论这些内容时,智能体趋势还没火起来。

一次会上,杨元庆提出一个概念“personaltwin”,大概意思是要把AI打造成一个个人双胞胎。以至于在AIPC发布前夕,杨元庆在一个联想的官宣视频上,开始了一场与自己的AItwin的对话,“它将会和用户本人非常像,通过了解用户的本地数据,它仿佛拥有了同样的记忆、具备同样的个性、能创作出同样风格的内容,就像一个双胞胎。但是它的存在不是为了取代人类,而是让人变得更加聪明强大,甚至一定程度上实现数字永生。”

何川后面回想,这其实就是智能体。

我们希望有一个智能体能够为自己服务,同时它又很像自己。因为它创作的内容、扮演的角色、掌握的背景知识最好都和我们很像,才能真正意义上帮助到我们。

如今回看,联想AIPC的个人知识库,就是为此而来。

有了个人知识库,AIPC内置的智能体可以深入了解用户,提供更精准和个性化的响应。同时借助个人本地文档,智能体小天还能不断加深对用户的认知和理解。

而这也引出了联想AIPC的另外两大特性:内嵌大模型、个人数据和隐私安全保护。

由此,联想AIPC的五大特性,被逐一明确。

接下来,是该怎么做。

其中最首要的问题莫过于,如何让大模型在PC本地顺畅运行?对此,联想研究院人工智能实验室负责人范建平博士有个生动的比喻:螺蛳壳里做道场。

首要解决的问题,就是对端侧模型做进一步优化。

把大模型内置于PC,一定程度上就好比把大象装进冰箱。哪怕后面端侧模型规模一缩再缩,本地资源的分配上还是需要精打细算。

联想集团首席研究员、联想研究院人工智能实验室研发总监师忠超介绍,PC本地还需要运行Windows、其他软件,需要预留出足够的内存空间,否则电脑无法工作。

但大模型究竟应该占用多少内存?当时没有人知道,这是一块“无人区”。

团队尝试用量化压缩、模型剪裁等方式,结合对PC系统的深刻理解,不断去压缩大模型,去突破大模型所需内存的极限。

可能前天还需要8GB内存,到了今天就能降到6GB了。

但内存占用也只是团队要突破的一个维度之一,实际团队要面临的工作远比这个复杂困难。师忠超记得,有一次团队做完优化,惊喜发现内存占用极限又一次向下突破到了5GB水平,但是冷静分析后,他们发现模型性能出现了下降。内存占用小和性能稳定之间的平衡术,是团队每天都要去磨炼的。

好消息是产品终于亮相,这意味着AIPC这场战役才刚刚开始。

但只解决模型占用内存还不够,模型应该跑在什么芯片上?这也是个全新的问题。

联想发现,不同的芯片厂商给出的解决方案不尽相同。微软首发的Copilot+PC选择和高通骁龙XElite合作,在这块高通芯片上,NPU被做的非常大,负责为大模型提供计算支持。

但另一边英特尔、AMD的方案有所差异,它选择让GPU承担更多AI计算。作为上层集成商,联想决定提出异构计算策略,让AI计算在CPU、GPU、NPU上都可以进行,选用不同的底层芯片,联想就做不同的协同方案即可。

在上层能力上,联想AIPC强调更懂用户。联想研究院为此打造了智能检索增强的本地知识服务、混合意图理解等技术,使得AIPC可以深入洞察用户个人需求和偏好,提供个性化服务和设备控制。配合场景化的定向增强、模型压缩与异构推理加速等,能实现轻量加速、高效低耗的智能调度,提升相应速度的同时还能降低30%内存占用。

而作为一台内置智能体的终端,丰富的应用生态也是必备的,这一点在联想AIPC五大特性中已有体现。

去年10月,联想在一年一度的TechWorld上发布了全球首款真正意义上的AIPCdemo,最早展示了大模型如何在个人笔记本电脑上运行工作。

半年之后,首批联想AIPC正式对外发售。联想YOGABook9i、YOGAPro16s、YOGAAir14、ThinkPadT14p、ThinkBook16p、拯救者Y9000X2024等,都将内置联想小天个人智能体。

而随着AIPC到来,刚满40周年的联想,也正在发生巨变。今年,“AIforAll”成为联想全集团范围的全新使命,一个被刷新的联想正呈现在所有人面前。

对于何川而言,这种前所未有发生在他发起“招募令”的一刻起。

因为大家都看好AI,集团也有决心。

最终何川率先在内部拉起了一个规模上百人的开发团队,许多散落在公司各处的AI人才被集中在一起,成为联想内部最先推进AIPC的团队。

对于师忠超而言,这种前所未有来自他所在的联想研究院人工智能实验室成立的“作战室”。

团队整体都非常兴奋。我们一起在一个大办公室里工作,真的是warroom,这里贴满各种小纸条,上面都是我们的想法。每天早晨,我们汇报各自战线的进展,遇到问题立马讨论解决方案,非常紧张的节奏。

为什么能如此兴奋?已经从事AI研究二十余年的师忠超说,这不仅是产品变革的机会,也是技术变革的机会。

这里还不得不提起领导联想研究院人工智能实验室的范建平博士。他曾先后在普渡大学、康斯坦茨大学任职,并曾获得北卡大学终身教职。

一次团队内日常的battle里,范教授和何川“急了眼”:

我天天和你们坐在这开会讨论为了什么?不就是为了情怀、不就是要做点有特色的事吗?

对于郑爱国而言,这种前所未有,是联想集团的全面刷新。

每个部门都在举手,都要提出创新的想法。

作为产品经理,郑爱国也从来没有像如今这样,能如此直接地参与到产业变革中来。“这是PC的第三次产业革命。”

如今,这种认知已经不局限于联想、PC厂商内部,而是逐渐在行业内达成共识。

中国信息通信研究院王晓丽在近期提出,生成式AI将成为智能终端生态的标配,随着技术的不断进步,AI终端有望为用户带来更多惊喜,同时也为终端产业带来新的增长点和发展机遇。

中信建投分析称,AIPC产品的涌现,一方面有望催化换机潮,从而带动全产业链受益;另一方面,也将促进核心零部件价值量提升,其中,处理器、存储直接受益确定性高,散热、电池等环节有望间接受益。

在此趋势下,联想自然成为趋势的“开路人”。造出AIPC还只是第一步,后面又该如何走呢?

随着第一批AIPC正式发售,联想已经做好了迎接反馈和评价的准备。

何川开玩笑说,这次不做市场教育,用户有意见,我们立马改。

据透露,目前联想小天智能体的更新版本已在开发设计中,后续将根据用户建议继续不断打磨优化,预计以半年为期进行迭代。

那么未来,推动用户换机的理由可能将从Windows版本更新换代改为联想小天更新换代。

实际上,在联想构想中,智能体被放在了格外重要的部分。

在公布“AIforAll”愿景时,杨元庆提出“个人人工智能双胞胎”和“企业级人工智能双胞胎”。

它们表达,未来社会人工智能将如影随形,仿佛自身的投射。投射的主体可以是一个人,也可以是一个企业。AI将作为外部扩展,存储更多的数据、做更多推理和计算,以此让个人/企业变得更强大。

这意味着,未来智能体将成为硬件终端的灵魂。

依托联想独有的制造体系,打造基于用户个性化体验的AI产品,何川觉得未来PC市场里,用户更关心的是谁家智能体能带来更符合个性化需求的体验。

这也是为何联想从一开始就觉得不做集成商,从更底层自研构建AIPC。因为关键核心技术要握在自己手里。郑爱国则认为,智能体将让PC拥有成为流量入口的机会。

而对于用户,联想的愿景很直接:AI普惠。

在联想发售的每一台AIPC中,都能看到一张非常详尽的说明书,介绍如何调用联想小天、如何与它对话、小天具备哪些功能。

目的很简单,让每一个愿意购买AIPC的用户,都能更低门槛、更充分感受AI的力量。

作为全球PC巨头,联想每年为全球用户提供数以亿计的智能终端设备。联想刚刚发布的2023/2024财年第四季度暨全年业绩中,第四财季个人电脑业务占全球份额22.9%,增速高于市场近6%;第四财季营收994亿人民币,同比增长近10%;并且全年研发费用率和研发人员总数及占比均创下历史新高。

杨元庆表示,严格定义的AIPC到2026年渗透率可能达到50-60%,“我相信大多数人的下一代PC将是AIPC”。

这意味着,当联想小天搭载每一台联想设备上时,全球亿万用户将一键拥抱AI。联想正在全力提速,让这样的未来更快到来。

THE END
1.一文读懂什么是“AI算力”(建议收藏)在当今快速发展的科技时代,人工智能(AI)已成为推动社会进步的重要力量。而AI算力,作为支撑AI技术发展的基石,其重要性不言而喻。本文将带您深入了解AI算力的概念、作用、发展趋势以及对各行业的影响。 一、AI算力的定义 AI算力,即人工智能计算能力,是指执行人工智能算法所需的计算资源和处理能力。它是衡量计算设备或https://blog.csdn.net/weixin_42994439/article/details/140961526
2.什么是算力?算力,是人工智能的核心要素之一,是衡量计算机计算能力的指标。在日常生活中,我们经常会用到智能手机、电脑等设备进行各种计算任务,这些设备中的芯片就具有了一定的算力。在专业领域,算力指的是计算机系统在特定时间内能够处理的计算任务数量。 算力的大小主要由两个方面决定:硬件和软件。硬件方面,主要是计算机系统的处理http://paper.qingyangwang.com.cn/pad/content/202312/22/content_37043.html
3.什么是人工智能算力?人工智能算力是支撑人工智能应用的重要基础,它直接关系到AI系统学习、推理和执行任务的效率和速度。以下是对人工智能算力的详细解析: 一、定义 算力,简而言之,是指计算机处理和解决问题的能力。在人工智能领域,算力尤为重要,因为它决定了AI系统能否快速、准确地完成复杂的计算任务,包括模型训练、推理等。 https://www.edgeray.cn/blog/274
4.ai算力服务器是什么东西ai算力服务器是什么东西? AI算力服务器是一种专门用于处理人工智能相关任务的高性能计算机。?它具备强大的计算能力和存储能力,?能够快速处理大量的数据和复杂的算法。?这种服务器通常采用虚拟化技术,?有效地提高服务器的利用率和灵活性,?并配备了高速的网络连接,?以便实现服务器之间的数据传输和远程访问http://www.dns110.com/docs/24748.html
5.ai算力中心服务器是什么?Worktile社区这个人很懒,什么都没有留下~ 评论 AI算力中心服务器是为了满足人工智能应用需要而设计和建造的高性能计算设备。它具备强大的计算能力和存储能力,能够支持复杂的AI算法和模型训练与推理任务。 在AI算力中心服务器中,通常配备了高性能的CPU(中央处理器)和GPU(图形处理器),以及大容量的内存和存储设备。这些硬件设备https://worktile.com/kb/ask/1902033.html
6.什么是AI算力云服务什么是 AI 算力云服务 AI 智算平台满足面向人工智能场景的资源与服务需求,为用户提供 GPU 主机、 AI 训练集群、AI 推理集群、并行文件存储、镜像仓库等 AI 专用产品,租户隔离,提供安全、可靠的云上开发与训练环境 功能架构 产品优势 史诗级算力 单节点 8 张 NVIDIA 数据中心卡,单机 NVSwitch 架构,结合高性能 https://docsv4.qingcloud.com/user_guide/compute/coreshub/introduce/intro
7.什么是AI算力调度平台?AI算力调度平台是一种集中化的、智能化的系统,旨在有效地分配和管理分布在不同资源上的计算能力,以满足不同AI任务的需求。这些任务可能包括模型训练、推理、数据处理和其他与AI相关的计算任务。https://www.cloudchef.io/h-nd-303.html
8.什么是人工智能?本文开门见山,简单明了的介绍了什么是人工智能,继而介绍人工智能发展的历程和不同的视角对人工智能的理解,主要讲了人工智能三要素,即数据、算力和算法。 什么是人工智能 人工智能(Artificial Intelligence,简称“ AI”)自诞生之日 起,其定义与内涵就一直存在争议。从字面上看,AI 由“人工”和“智能”两词构成,其https://www.51cto.com/article/635714.html
9.大模型需要什么样的智算中心?7位大咖谈AIGC时代算力挑战与风口9月14日-15日,2023全球AI芯片峰会(GACS 2023)在深圳市南山区圆满举行。在第二天举行的智算中心算力与网络高峰论坛上,来自商汤科技、中国移动研究院、浪潮信息、科华数据、首都在线、趋动科技、中科驭数等7家企业或机构的技术决策者及高管分别发表主题演讲,分享有关智算中心的探索与实践。 https://www.thepaper.cn/newsDetail_forward_24878797?commTag=true
10.西南地区最大的人工智能计算中心上线成都智算中心,“智”在哪里5月10日,“东数西算”国家一体化大数据中心成渝枢纽节点的样板工程、西南地区最大的人工智能计算中心——成都智算中心正式上线,包括人工智能算力、城市智脑和科研创新三大平台。 智算中心的“智”体现在哪儿?它能给四川带来什么? “智”在哪里?专注人工智能赛道打造AI算力高地 http://scdfz.sc.gov.cn/gzdt/zyhy/content_94364
11.人工智能时代的算力挑战南方plus在人工智能突飞猛进的时代,算力可能是决定人工智能发展上限的一个关键因素。唯有在算力问题上实现突破,人工智能的发展才可能有根本保障。 作者:陈永伟 封图:图虫创意 最近,OpenAI推出的聊天机器人ChatGPT真可谓是红到发紫。无论是做技术的、做投资的,还是普通网友,好像不聊几句ChatGPT就显得落伍了。当然,在一片对Chahttps://static.nfapp.southcn.com/content/202302/22/c7383034.html
12.哪些是AI算力龙头股?(2023/6/24)和5个交易日前相比,美格智能的市值上涨了3.68亿元,上涨了3.88%。公司多年来专注于基于高通方案开发智能模组和算力模组产品,尤其是基于高通骁龙800系列开发的高端算力模组,具备开放的底层安卓系统和AI算力,可为各类人工智能应用程序提供API接口。ChatGPT主要涉及自然语言处理相关技术,属于AI人工智能应用领域之一。公司相关https://m.southmoney.com/gupiao/glg/202306/39321150.html
13.IDCAI算力评估报告:多元算力融合成趋势,中国人工智能发展更具近日,IDC与浪潮信息联合发布了《2021-2022中国人工智能计算力发展评估报告》。报告的其中一个观点是,当前AI芯片呈现多元化发展趋势,AI算力持续提升满足模型规模增长态势。 什么是多元算力融合,为什么多元算力融合会成为AI芯片的发展趋势?浪潮信息副总裁、浪潮信息 AI&HPC产品线总经理刘军向钛媒体App表示,到了智算时代,https://www.tmtpost.com/baidu/5861226.html
14.现阶段人工智能处于什么阶段人工智能算力网络:独属中国的AI产业发展杀手锏 36氪2021年9月28日讯,2021年5月底,国家发展改革委、中央网信办、工业和信息化部、国家能源局共同印发了《全国一体化大数据中心协同创新体系算力枢纽实施方案》,在这个方案中,关于算力资源的统筹协同发展在宏观层面定下了调,一个未来网络新愿景浮现出来;仅仅时隔四个月,https://36kr.com/p/1480387001889542.html