ChatGPT引发了一场大模型淘金热。
一开始大家扎堆训练大模型。发现入局没有那么简单,发展到第二阶段,就开始出现了寄生于ChatGPT的众多APP和应用。无论是发力于向量数据库缓存,还是支持模型微调以后,套壳包装摇身一变成为新的APP的众多创业公司,都是这个思路。只不过这些公司有的是真正找准了切入点的神级企业,有的是在压路机前捡硬币的投机商。
但不管终局如何,AI的热度仍将持续发酵,目前正逐步从训练阶段进入部署阶段,模型如何被使用成为了重中之重。也就是说大模型的丹炼好之后,这颗丹能否进入药房以及千家万户成为可以产生实际效应的药丸,这其中有着较大距离,也蕴藏着无限商机。
2023年11月6日,中国珠海,英特尔客户端解决方案论坛的展台上,无论是英特尔商用解决方案、工作站解决方案、教育解决方案等等,我们都可以看到大模型应用的身影,AI没有单独的展区,但AI却无处不在。
至于英特尔在这场大模型淘金热中所身处的位置也十分明显:
英特尔不是做大模型的,而是准备在大模型从诞生到部署的路上设置好每一个关卡,大模型之丹炼的过程中,可以用到英特尔的算力,炼好之后,抛向空中的那一刻,英特尔从软件层到应用层再到整个生态都已准备好了接丹。
大模型炼好的「丹」丢入AI PC场
「Personal Computer需要演变成Personal Computing,才能适应新时代的发展」英特尔如是说。
自诞生之初,PC一词就意味着一个时代的崛起。长久以来,PC的升级主要依赖于CPU和操作系统的升级,Wintel联盟以来盘踞的霸主地位也难以撼动。老牌厂商Intel在这个过程中,几乎一直都在定义PC一词。
而当时间来到2023年,大模型掀起新一波浪潮,11月6日是英特尔客户端解决方案论坛,晚上OpenAI进行了开发者大会。AI以一种生产力的身影出现在大众面前,无论哪行哪业都开始对其行之注目礼。
作为软硬件实力都在这个星球上属于顶级行列的英特尔,自然也是最有资格谈论AI的巨头之一。
AI PC是英特尔给出的答案。
英特尔此前确认其 Intel4 工艺已准备好生产,近期英特尔也宣布了12月15日会正式发布代号为Meteor Lake的移动端处理器酷睿Ultra。
Intel 4是英特尔首个采用EUV技术生产的制程节点,在性能、能效和晶体管密度等方面“均实现显著提升”,EUV技术将驱动如AI、先进移动网络、自动驾驶及新型数据中心和云应用等算力需求最高的应用。
而在AI方面,酷睿Ultra最牛之处莫过于创新的低功耗岛设计,集成了神经网络处理单元(NPU),为 PC 带来了高能效的 AI 功能表现,并兼容 OpenVINO 等标准化程序接口,便于 AI 的开发及应用普及。
低功耗岛(Low Power Island)顾名思义,就是为低功耗,高能效而生。低功耗岛位于新一代处理器的 SoC 模块(SoC Tile)中,内置两个新的低功耗能效核,进一步优化节能与性能间的平衡。
可以浅显的理解为,当我们在笔记本上执行一个指令时,是需要多个模块来相互协作运行的,为了让电脑的功耗变低,英特尔在架构上就造了这个岛,将一些小任务都放到这里处理,不耗费其他模块的精力。
拿用户最常用的看视频功能为例,传统的CPU架构需要连通CPU核心、GPU核心再连接到内存控制器,也就是说整个CPU几乎都需要通电才能完成这个任务。但是有了低功耗岛,媒体引擎和显示引擎被单独拿出来放到了SoC Tile中,SoC Tile可以直接消化完毕视频任务,不需要动用CPU和GPU。
而NPU设置在了低功耗岛之上,也就意味着常见的AI应用、大模型库例如Stable Diffusion等都可以在满足低能耗的同时保证运行效果。
简而言之,这样的一套架构,能让轻薄本也能跑生成式AI。
除了酷睿Ultra的应用外,现场也有非常多在端侧运行的方案。
搭载了英特尔雷电外置AI加速器方案,可以在不联网的情况下,两秒运行Stable Diffusion,根据文字输出图片。据英特尔内部测试数据显示,通过高速雷电接口充分释放外置显卡AI算力,相比内置相同独立显卡,算力效率高达98%以上。
这个方案其实主要是针对需要用到笔记本进行大模型训练的开发者,单买一个雷电加速器3000元,也无需更换笔记本电脑,而重新配置一台可以运行大模型的台式机需要性能非常优秀的显卡,动辄上万。
算力的门槛一旦被打下来,Personal Computing的未来蓝图已逐渐显现。
「未来,每一个人都可以拥有算力。」
这也让一直处于疲软状态的PC市场(根据市场调查机构 IDC 公布的最新统计数据,2023 年第 3 季度全球个人电脑(PC)出货量继续下滑,为6820万台,同比下降了7.6%)再次迎来了新的曙光。
而回到人工智能普及门槛,OpenVINO™工具包也是英特尔面向AIPC时代的一技重拳出击也是英特尔面向AIPC时代的一技重拳出击。OpenVINO名称代表“开放式视觉推理和神经网络优化”,专注于通过面向英特尔硬件平台的一次写入、随处部署的方法优化神经网络推理。
在现场我们也看到了基于OpenVINO的入门级开发板——英特尔开发套件 AIxBoard(爱克斯板),是一款由蓝蛙智能推出的人工智能嵌入式开发板。
蓝蛙的工作人员向AI科技评论介绍道,英特尔开发套件 AIxBoard是入门级千元开发板,可以用在各种平台上,既可以装在车用的平台,也可以搭载英特尔的一些深度学习算法在 Windows 平台运行。
也就是说,英特尔开发套件 AIxBoard最大的特色是可以跨两个平台系统,市面上绝大多数开发板(包括英伟达),只能装入Lunix DEBUG ,不能装 Windows 系统,而且价格只要千元左右,比起其他动辄几万的开发者套件,为开发者提供了一个非常好的选择,这个开发板也是英特尔多次中英创客大赛中的常客。
赢得开发者,便是赢得未来生态。无论是近期一直以遥遥领先自居的鸿蒙,还是不到一年就达到了200万开发者体量的OpenAI,大伙英雄所见略同。
AIGC与单身小明的壁垒怎么破?
前一阵,笔者在一位AIGC行业产品经理的朋友圈看到了这样一段感慨:
能出现在公共场合讨论大模型方向科技与创业的人,与半夜躲在被窝里对着网络对面赛博恋人小心表达爱意的用户,是处在完全不同的两个世界的,很难互相理解和共情。
这也折射出如今大模型落地的一个巨大鸿沟,无论需求是情感陪伴还是办公效率提升, 很多大模型都无法做到切中用户痛点,找到空白,所以也就迟迟无法落地。
在英特尔客户端解决方案论坛现场,AI部分主讲人以单身小明的一天进行了开场,单身小明渴望陪伴,数字人为他提供了更加真实、个性化的虚拟体验。
小明也想有宠物,但是最近的恶犬咬人事件的持续发酵,让他实在不敢靠近真实世界的宠物,机器狗是一个很好的选择。在现场展示的宇树B1机器狗却并不仅仅只能起到陪伴作用。据介绍, 宇树机器人B1 可以承载超大负载,最大行走负重 80kg,极限负重 100kg,持续作业负重 30kg 以上,满足特殊、复杂作业时的多种需求。
在现场,为了演示B1的平衡能力,宇树的工作人员不停地“揍”了这只机器人,狗不但没脾气,还能一如既往地保持平衡能力。
这背后其实离不开基于英特尔架构的移动机器人控制器解决方案的助力 。
熟悉机器人领域的朋友都知道,对于四足机器人而言,地形适应性和成本其实是摆在面前的首要难题。如果不能解决足式机器人上下楼台阶走复杂梯形的问题,那么机器人的应用根本就无法进行。而机器人迟迟没有进入千行百业,最大的原因就是成本。B1的裸机现在是40万,已经是最优的解决方案。
英特尔移动机器人控制器解决方案采用针对机器人应用场景推出的专用控制器,将原本单独配置的上位机、网络交换机、底盘控制器等各种 MCU 合并到一个 x86 控制器上。
一个x86控制器Carry全场与各种MCU分散处理相比,自然能够降低机器人内部架构的复杂度,无需那么多通讯器材,散热效果也更好了,性价比得到了显著提升。
除了方案极具优势之外,四足机器人的运动控制是对各条腿电机进行联合控制。要想在保证成本可控的情况下做到同时兼顾性能,对硬件的要求极高。
据了解,B1背后加载的是第 12 代英特尔酷睿、奔腾、赛扬处理器等关键组件。
奔腾、赛扬是曾经英特尔的处理器传说中不可或缺的部分。起源于1992年的奔腾处理器,曾经代表了个人电脑处理器的一个时代;而起源于1998年的赛扬处理器,虽然只是英特尔用来应对AMD低价策略而推出的入门产品,但却以其低价格和出色的超频能力,曾给处理器领域带来了巨大震撼。
至于第 12 代英特尔酷睿处理器早在推出之际便在10nm的技术层面上达到了别家厂商7nm制程工艺所达到的水平——甚至在同一平面下晶体管密度更高。同时英特尔为第12代酷睿处理器设计的混合架构大幅度加强了处理器在处理多线程工作时的性能表现,同时显著降低了处理器在高负载状态下的发热情况。
也就是说这样一套组合,能保证B1开机速度快,反应速度快,方便B1运控控制算法以及Slam导航算法的部署。同时其高主频且多核的特性也能够有效使B1克服温湿度变动、震动、电磁辐射等因素的影响,帮助用户提升机器人在各种复杂环境下的可用性。
除了宇树B1之外,还有非常多英特尔赋能的AI解决方案正在快速的走进千家万户。单身小明的生活似乎也正在因AI的介入变得更有选择空间。
而回过头来看,在这样一场声势浩大的大模型落地之战中,我们清晰的看到,大模型应用带来的价值,主要在降本增效,并从而可能引发的商业模式重构。
在具体落地这块,大模型并不会真正意义上创造一个新的场景,因为场景的创造主要还是靠创业公司对用户需求和痛点的准确判断。这也就回到了那段AIGC产品经理的感慨,不同世界的两批人的链接,需要不停地思考细化真正的商业落地模式。
英特尔是半导体大厂,但对于AI这件事,仅仅依赖半导体技术根本无法完成布局,所以英特尔必须加快脚步,多条腿走路。英特尔移动机器人控制器解决方案、雷电外置AI加速器、OpenVINO等皆是答案。
而看向大模型,我们会发现大模型作为软件的一种,本身也运行在操作系统之上,未来AI将是操作系统的基础能力之一,通用大模型将会通过操作系统探索更多应用场景。
只不过在这番探索过程中,各大厂商不仅需要知道技术的边界,也需要商业落地的具体执行难度,更需要对全局有所把控。
在这一点上,英特尔并没有盲目追随,也没有选择单打独斗,而是持续深耕生态,将后背交给了其众多合作伙伴。
“生态”不是目标,而是一种思维方式,英特尔在布局AI之初在意的并不是短期一城一池的得失,而是宛如无形之手,利他之水,在背后从端边云的算力推动惠及到人类的人工智能应用。
正如英特尔深耕CPU这么多年,但是我们从来没有看到过英特尔品牌的PC,看到的可能是联想、戴尔、HP、同方的PC。
在AI亦是如此,在未来,我们或许也看不到所谓纯冠名为英特尔的AI,但如果AI战场之上缺少英特尔,那么整个PC或许将无以为活。(来源:雷峰网&AI科技评论 作者:郭思 编辑:陈彩娴)
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。