这几天对我来说最大的新闻,即是当地时候12月2日好意思国大幅扩大对中国半导体产业链企业顽固霸凌 拳交,包括无数中国半导体分娩斥地企业的140家企业被新列入了实体清单。嗅觉好意思国的“小院高墙”政策,在半导体领域并弗成就,而是在走向对中国半导体企业全面顽固。
尤其是朔方华创,盛好意思半导体,拓荆科技,芯源微等分娩斥地企业也上了清单,朔方华创一直是我最可爱的企业,可能是因为2019年以来这是我赚最多钱的一支股票的缘由。
我国四大行业协会萧疏的归拢时候(巧了,齐在12月3日下昼五点多)发声反对,包括中国互联网协会、中国汽车工业协会、中国半导体行业协会、中国通讯企业协会。
而且措辞作风齐还比拟相似,齐殊途同归的、亦然历史上第一次明确提到了好意思国芯片不再安全可靠,提倡中国企业严慎采购。
我对比了下曩昔我国行业协会的反馈,可以说在措辞上大不疏通,这是头一次出现提倡严慎采购好意思国芯片的说法,曩昔发的声明在对好意思措辞上要柔和的多,可见国众人业从业者的自信心这几年增强了。
从2018年的中兴事件运转,这些年好意思国在半导体产业方面和中国全面脱钩的趋势是明确的。
我想临了最大的原因如故,东谈主工智能本事是当今和将来东谈主类社会和经济发展最大的变量,是会影响千行百业的本事,会极大的改动东谈主类社会的面庞,而半导体又是为东谈主工智能提供算力的底层本事之一。
而我国各界关于好意思国的制裁加码,反馈也曾越来越淡定,而这恰是因为我国对此也曾有可以应酬的惩办概念。
说到这里,我又不得不拿起华为了,原因很浅薄,华为是现时国内独逐个家可以提供从芯片,操作系统,AI框架,网罗(网卡,交换机),存储等全套自主研发AI算力基础重要的厂家。
而且在可见的将来,我以为国内也很难出现第二家作念到这一丝。
面临好意思国不停在半导体领域加大顽固,华为公司的轮值董事长徐直军,就在2024年9月19日的华为全集结大会2024上作念主题发言中敷陈了华为怎么应酬:
领先认为要面临现实,国产芯片在至极万古候内先进性将受到制约,这是中国打造算力惩办决策必须面临的挑战。
然后华为认为东谈主工智能正在成为主导性算力需求,需要的是系统算力,而不单是是单处理器的算力。这是包括华为在内的国产算力供应商的一个机遇。
而华为在这方面的政策中枢是,基于现实可取得的芯片制造工艺,算计、存储和网罗本事协同改进,草创算计架构,打造“超节点+集群”系统算力惩办决策,永久捏续满足算力需求。
华为的这个“超节点+集群”是什么风趣呢?
在算力中心里面,单台处事器就叫作念节点,而算力中心一定是几百台上千台以至可能更多的处事器节点构成的,那关于算力中心来说,算力的瓶颈就不单是单台处事器节点的身手了,大范围节点之间的褂讪和高速的通讯就变得很报复了。
而通讯则是华为的鉴定,因此淌若通过华为擅长的高速互联通讯本事,把多个节点视为一个超节点,在超节点里面的各个节点之间齐备高速率互联,可以灵验地提高试验后果,还能减少各式故障发生。
而多个超节点,就又能构成集群了。
怎么让集群发扬最大功效,这里不得不提华为又一个机灵之处,即是集群装上“指引大脑”,华为用自研的瑶光智能云脑对云上资源进行多远算力融合建模,活泼退换组合,按需提供给应用。
也即是说,岂论是存储处事器也好,算计处事器的NPU芯片也好,CPU芯片也好,如故处事器的内存也好,如故不同的处事器之间也好,彼此之间齐支捏高速通讯,速率从曩昔的百GB/s级别达到TB/s级别。
另外,不单是通讯,超节点集群里面的各式资源齐可以融合快速的智能退换,试验和推理需要内存就分拨内存资源,需要算力就分拨NPU芯片资源,需要存储就分拨存储硬盘资源,齐备融合调配。
这就让我想起了拿破仑说过的:
“两个马木留克兵可以勉强三个法国兵,因为马木留克兵刀兵更好、马匹更好、试验更好,领有两双手枪、一支喇叭枪、一支马枪、一顶有面甲的头盔、一副锁子甲、几匹战马以及几个走路仆役。但100名法军马队无需发怵100名马木留克兵,300法国兵就足以投降300个马木留克兵,而1000个法国兵就总能击败1500个马木留克兵:战术、队形和队形变换的影响确切是太大了!”
瞻望来岁霸凌 拳交,华为云基于CloudMatrix全新架构的昇腾AI云处事将看重商用,用的即是这个念念路。
现实上华为云流程这几年的致力于,打造的昇腾AI云处事就也曾在国内向大量企业提供了大范围的AI算力。华为云分歧在内蒙的乌兰察布,安徽的芜湖,贵州的贵安,以及香港建成了四大AI算力中心集群。
像淌若是华东地区的企业上AI推理当用,可以就近通过昇腾云接入到芜湖的算力中心,时延可以低至10ms。
这是华为将我方多年来打造的全自研自强门庭本事,为全社会提供安全可靠的算力处事,赞助中国东谈主工智能产业的发展。
下图即是华为云本年六月在芜湖落成的智算中心,10ms时延专线直达华东六省一市及华中(湖南、湖北、江西)20多个热门城市。
咱们齐知谈自从2022年11月30日ChatGPT发布后,中国接着在2023年也迎来了大模子的大爆发,出身了几百个大模子,其中有不少就跑在昇腾云上头。
像腾讯音乐2024年9月发布的Muselight大模子即是在昇腾云上运行。这个大模子可以简略辅助音乐东谈主进行旋律构念念、和声编排以及歌词撰写等,还能对听歌的用户齐备愈加精确的个性化推选,以及对音乐通过元素分析进行版权评估等。
雷同在本年9月顺丰发布的丰语大模子也跑在昇腾云上头。快递小哥不少是新职工,即使是老职工也有不少专科事情搞不澄莹,比如寄海外快递某项物品是否适正当例,不同价钱的寄送时效等等,有了大模子身手加捏,小哥班师在顺丰我方的APP上问,就怕就能得到专科的回话,大大提高了使命后果。
空姐 偷拍华为云昇腾AI云处事为了能为国内的几百个大模子提供算力,也曾对一百多个主流大模子齐作念了适配,企业在用的大模子淌若算力不够,可以迁徙到昇腾云上头。
在2024年12月的今天,东谈主工智能的应用也曾潜入到了咱们生计的方方面面,咱们也曾在主动和被迫的大量使用东谈主工智能本事,只是咱们并莫得故意的去记忆和察觉。
我认为每个东谈主,每个公司齐要运转我方的AI转型。
我这里记忆我泛泛生计会用到的10个东谈主工智能高频场景(主动或被迫),从中可以一窥五行八作的智能化速率:
1:我开车会使用汽车的自动驾驶,这对应的是汽车行业智能化。
2:给孩子点窜功课和教唆功课,会摆布AI本事,如下图。这对应的是熟悉行业智能化。
3:车牌识别,这背后是政务智能化和汽车办职业智能化。
4:东谈主脸识别,比如我线上办证,进公司大楼,机场的闸机等。这对应的是政务,金融智能化和公司园区智能化。
5:手机的输入法,班师语音更动为文本,这对应的是手机智能化。
6:每天开放手机,资讯和购物APP会自动推选感敬爱的内容,这是属于被迫的使用AI。这对应的是互联网行业智能化。
7:每天接到的电话尤其是银行的电话,不少是AI客服打过来的。这对应的是客服场景智能化。
8:最近几个月,我很爱在开车的时候听各式AI生成的歌曲,举例AI效法孙燕姿的声息唱各式周杰伦的歌,被浩荡网友认为是AI的神作。
这和上头使用昇腾云处事的腾讯音乐一样,对应的是音乐行业智能化。
9:AI翻译功能,举例在手机上长按图片自动翻译,这对应的是翻译行业智能化。
10:使用AI助理,有问题问AI。
除了这10个高频场景外,我可爱周末去爬山,看到不虞志的植物班师拍照就能识别出是什么名字以及堤防贵寓。
另外当今各式无东谈主机扮演也许多,以至可以上万架协同扮演,亦然应用了东谈主工智能本事,我还特意带娃去看无东谈主机扮演,这对应的是无东谈主机智能化。
对中国的千行百业来讲,智能化也曾是必由之路,而向华为云这么的算力供应商购买算力处事是个很好的聘请。
在2023年底,中国光是范围以上工业企业齐高达50.1万家,淌若通盘行业加起来范围以上企业意象跳动百万家。
我个东谈主认为这里面99%以上的企业齐需要在外部采购算力处事,能绝对靠自建算力满足本人需求的企业是小数数。
并不是每个企业齐要我方缔造大范围AI算力,像AI芯片硬件迭代速率很快,自建不仅资本高,而且淌若你莫得作念超节点和集群的身手,单纯只是买AI处事器硬件,那么过一两年在性能上可能就过期了;
而且算力中心里面时时是多个代际的硬件在跑,导致资源退换复杂度高,淌若莫得专科的厂家来作念资源退换,可能因为历史代际居品的“木桶短板”效应,株连新一代居品质能的充分发扬,影响大模子试验的身手,不仅如斯多代际居品共存还导致运营留意很清贫。
另外从基础大模子这两年的发展看,大模子的试验需要越来越多的高质料数据,预试验数据量也曾参预10万亿tokens量级。
而且大模子参数目也在捏续增大,带来的是试验资本升高,这就导致能玩得起大模子试验的厂家在以后会越来越少,大部分企业将来将汇注焦本人业务,而去采购业界巨头公司试验的大模子。
在这么一个趋势下,各大厂商也在不停的在本事上涨级我方提供的算力处事,以满足中国千行百业智能化的需要。
上文我提到过,昇腾云瞻望将在来岁商用的Cloudmatrix架构,就践行了超节点+集群的理念。
在算力中心里面,一切资源(CPU,NPU,内存)可池化,一切可平等赓续,一切可进行组合,极大的提高后果,极大的提高可靠性。
这就像一个大公司冲破了照看的部门墙,可以恣意的让不同的职工组合成一个优秀的团队。
华为里面用盘古大模子作念了测试,使用雷同的模子,在CloudMatrix架构下稠密模子试验后果可提高20%,而寥落模子试验后果可提高60%,在推理场景性能也能提高30%,这就弥补了在单颗芯片制程上过期英伟达的不及。
大模子试验时,并不像咱们联想的那样会一直从0%-100%,只需要恭候即可,而是会不停的中断。
本年7月份,Meta 在一份商榷答复中揭示了试验他们的Llama 3 (4050亿参数)模子遭遇的问题:该系统在包含 16384 个 Nvidia H100 GPU 的集群上运行,在试验时间平均每三个小时就发生一次故障, 54 天内资历了 419 次不测故障。
这充分体现了上万张试验卡一谈运行时的巨大挑战。
而华为云捏续优化昇腾 AI 云处事,现时也曾齐备将万亿参数模子的试验无中断时长从 2.8 天提高至 40 天,并将集群故障复原时候从 60 分钟缩小至 10 分钟,这标明在优秀的集群架构下,国产算力中心的可靠性绝对可以达到以至跳动英伟达的水平。
另外,针对大模子试验的数据安全,华为云还遴选了数据传输与存储加密、数据安全断根、数据拜访收尾、数据水印防袒露等多重本事,确保大模子试验数据的全生命周期安全。
AI现实上也曾渗入到咱们生计的各个方面,中国各个行业齐在不停的引入和使用AI,用来提高后果,并引起经济,军事和社会变革,而率先变革的国度将对其后者变成巨大上风。
举例自动驾驶的全面普及,将会影响数百万出租车司机,滴滴司机,公交车司机,大巴车司机的使命岗亭;
个东谈主AI助理慢慢普及,在慢慢冲击谷歌和百度这么传统搜索引擎的份额。
AI如斯报复,也无怪乎好意思国东谈主将此当作主要顽固点,好意思国在半导体行业进行顽固后,国内还有华为昇腾云能提供全栈国产况且后果和可靠性齐可以的算力处事,也曾实属选藏。
国内五行八作共同将国产的算力生态不停壮大霸凌 拳交,深信将来总有最终澈底冲破顽固的一天。