加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • 根要深,葉要茂,政企AI之路的挑戰(zhàn)
    • 技術(shù)之根深入大地,一棵堅(jiān)韌不拔的AI之榕
    • 生態(tài)之葉繁茂參天,百行百業(yè)的智能生長(zhǎng)
    • 一榕參天,萬(wàn)物生長(zhǎng)
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

以全棧智算擁抱生態(tài),為AIGC種一棵向上生長(zhǎng)的巨榕

04/30 11:30
1624
閱讀需 14 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

榕樹,被稱為百木之王。它既有極深的根,又有繁茂的葉。只要一棵榕樹長(zhǎng)成,就能夠獨(dú)木成林,遮天蔽日。更可貴的是,榕樹可以為樹蔭下繁茂的生態(tài)提供支撐,形成“一榕生,萬(wàn)物長(zhǎng)”的格局。

開年以來(lái),OpenAI推出了炸裂的Sora文生視頻模型,再一次將AIGC技術(shù)競(jìng)賽的天花板拉高,科技巨頭蘋果也宣布大力投資生成式AI。

種種跡象都表明,狂飆了一年的AIGC,仍在吸引大量行業(yè)和企業(yè)的涌入,我們已經(jīng)很少見到科技與互聯(lián)網(wǎng)公司說(shuō)他們不關(guān)心大模型、不想做AI。

然而,在大模型及AIGC的落地實(shí)踐中,大型政企會(huì)面臨一個(gè)困難局面:既希望確保AI技術(shù)與基礎(chǔ)設(shè)施全??煽?,具有高自主、高安全的特征,同時(shí)又希望接入開放多元的生態(tài),滿足行業(yè)專屬場(chǎng)景定制化、個(gè)性化需求,實(shí)現(xiàn)生態(tài)化發(fā)展。

如何幫助政企平衡二者的發(fā)展?今天的AIGC和大模型,需要一棵榕樹般根深葉茂的支撐。其中,根,就是AI技術(shù);葉,則是AI生態(tài)。

產(chǎn)業(yè)用好AIGC、激活新質(zhì)生產(chǎn)力的現(xiàn)實(shí)需求,也驅(qū)動(dòng)著基礎(chǔ)設(shè)施服務(wù)商們不斷升級(jí)。

以新華三為例,就選擇將AI技術(shù)的“根”扎得很深很牢,又要讓AI產(chǎn)業(yè)生態(tài)枝繁葉茂,催生應(yīng)用落地繁榮生長(zhǎng)。

如何更快地利用AI技術(shù)長(zhǎng)出新質(zhì)生產(chǎn)力,是這個(gè)春天很多企業(yè)都在思考的問(wèn)題。那么不妨一起來(lái)看看新華三是如何以端到端的全棧智算解決方案助萬(wàn)物生長(zhǎng)。

根要深,葉要茂,政企AI之路的挑戰(zhàn)

在討論新華三這棵AI巨榕之于產(chǎn)業(yè)的價(jià)值之前,我們有必要先了解一下,從2023年春季的爆火,AIGC狂飆一年之后,如今的政企所面對(duì)的技術(shù)與產(chǎn)業(yè)背景。

整體來(lái)看,中國(guó)大模型和AIGC產(chǎn)業(yè)已經(jīng)達(dá)到了驚人的成就,相關(guān)應(yīng)用也開始嘗試向具體的業(yè)務(wù)場(chǎng)景探索,展現(xiàn)出強(qiáng)勁的增長(zhǎng)態(tài)勢(shì)。大模型、AIGC作為新質(zhì)生產(chǎn)力,目前已經(jīng)成為各行各業(yè)的共識(shí)。

然而這一年來(lái)的落地實(shí)踐,也讓我們看到了存在于國(guó)內(nèi)AI產(chǎn)業(yè)的深層隱憂:大型政企、科研院校做AI大模型,有著三大難以兼顧的發(fā)展挑戰(zhàn)。

1. 技術(shù)不易貫通。AI及大模型訓(xùn)練,是一項(xiàng)復(fù)雜且技術(shù)密集的任務(wù),要求異構(gòu)算力的深度整合以及高效的分布式并行計(jì)算,其中的技術(shù)挑戰(zhàn)層出不窮。比如異構(gòu)算力意味著要將不同類型的計(jì)算硬件,如GPU、FPGA甚至ASIC,進(jìn)行有效協(xié)同。然而,不同硬件之間的接口、通信協(xié)議以及優(yōu)化方法各不相同。此外,分布式并行訓(xùn)練要求在多個(gè)計(jì)算節(jié)點(diǎn)之間,實(shí)現(xiàn)數(shù)據(jù)的快速傳輸和同步。網(wǎng)絡(luò)延遲、數(shù)據(jù)不對(duì)稱以及節(jié)點(diǎn)故障等問(wèn)題,都可能影響到訓(xùn)練的性能和穩(wěn)定性??梢哉f(shuō),想要利用多種計(jì)算資源來(lái)提供算力,必須實(shí)現(xiàn)對(duì)分布式并行計(jì)算的“一體化”貫通/協(xié)作,以滿足模型訓(xùn)練的復(fù)雜需求,這是做AI的首要難關(guān)。

2. 信息安全無(wú)法保障。AI作為新質(zhì)生產(chǎn)力,與各行各業(yè)的結(jié)合才剛剛開始,其中包括大量國(guó)計(jì)民生關(guān)鍵行業(yè)。訓(xùn)練AI模型時(shí),往往需要使用大量的用戶數(shù)據(jù),這些數(shù)據(jù)可能包含商業(yè)機(jī)密或隱私信息,在公域環(huán)境下,如何確保這些數(shù)據(jù)不被泄露或?yàn)E用,成了一個(gè)巨大的挑戰(zhàn)。此外,AI的訓(xùn)練推理都十分依賴高性能計(jì)算硬件及相關(guān)軟件,人工智能基礎(chǔ)設(shè)施的供應(yīng)鏈韌性與安全性難以保障,也是很多企業(yè)的顧慮所在。

3.生態(tài)難以發(fā)展。我們知道,大型政企或?qū)嶓w行業(yè)在落地AI時(shí),需要的軟硬件很多,往往會(huì)考慮一攬子工程。這時(shí),一個(gè)繁榮且富有活力的AI生態(tài),可以為政企提供多樣化的AI產(chǎn)品和服務(wù)。但生態(tài)建設(shè)需要各方以開放的態(tài)度,愿意共享資源,攜手合作創(chuàng)新,而目前部分科技巨頭更希望將生態(tài)伙伴鎖定在自身的軟硬件體系內(nèi),這讓很多不想“把雞蛋放在一個(gè)籃子”的政企,無(wú)法加速擁抱AI的腳步。

不難看出,生態(tài)的融合是部署AIGC能力落地、推進(jìn)智能化升級(jí)的關(guān)鍵。

有沒有一種可行的解決辦法,能同時(shí)實(shí)現(xiàn)三者的兼顧與平衡,幫助政企加速部署AI能力呢?今天的新華三,就提供了一種解題思路:

端到端的全棧的靈犀智算解決方案,如同一顆AI巨榕。新華三選擇將AI之根扎進(jìn)深處,打造安全堅(jiān)實(shí)的AI軟硬件底座;用一體化的技術(shù)枝干,讓AI開發(fā)使用全棧貫通;將生態(tài)之葉伸向蒼穹,攜手優(yōu)選生態(tài)模型,孕育出AI應(yīng)用與服務(wù)的繁花萬(wàn)千。

技術(shù)之根深入大地,一棵堅(jiān)韌不拔的AI之榕

政企做AI最擔(dān)心的是什么?一開始引入AI應(yīng)用或大模型很容易,但那只是“首付”。AI技術(shù)與業(yè)務(wù)場(chǎng)景的結(jié)合,需要長(zhǎng)時(shí)間的適配、迭代、升級(jí)。如果在這個(gè)過(guò)程中,出現(xiàn)了“算力買不到”“模型用不了”的風(fēng)險(xiǎn),會(huì)給相關(guān)業(yè)務(wù)和服務(wù)帶來(lái)持續(xù)的危機(jī)。因此,一個(gè)高可靠、高安全的AI基礎(chǔ)軟硬件生態(tài),對(duì)于政企市場(chǎng)來(lái)說(shuō)必不可少。

堅(jiān)韌不拔的AI巨榕,必須將技術(shù)牢牢扎根。目前,業(yè)界已形成共識(shí),那就是我國(guó)的AIGC行業(yè)可以分為基礎(chǔ)設(shè)施層、模型層和應(yīng)用層三個(gè)層級(jí)結(jié)構(gòu)。但能夠?qū)⑷龑右惑w貫通的廠商仍屬少數(shù)。新華三發(fā)布的靈犀智算解決方案,就是新華三自身所打造的、面向AI時(shí)代的全棧技術(shù)體系,在這個(gè)體系里,三個(gè)層面將一體貫通,讓技術(shù)之根向下扎入底層創(chuàng)新、向上抵達(dá)應(yīng)用末梢。

首先是基礎(chǔ)設(shè)施層。

如前所說(shuō),單一的計(jì)算資源,難以滿足AIGC及大模型的訓(xùn)練需求,需要綜合利用多種計(jì)算硬件,而將不同架構(gòu)、不同類型的計(jì)算資源有效地整合并實(shí)現(xiàn)協(xié)同工作,是一個(gè)巨大而重要的問(wèn)題。尤其是自2024開年 Sora文生視頻大模型驚艷亮相以來(lái),更強(qiáng)大的AIGC模型與萬(wàn)億參數(shù)規(guī)模LLM的研發(fā)進(jìn)程還將進(jìn)一步加速,中國(guó)算力瓶頸的突圍變得愈發(fā)緊迫。對(duì)此,新華三利用自身的技術(shù)積累,充分發(fā)揮“算力×聯(lián)接”的乘數(shù)效應(yīng),將新華三領(lǐng)先的算力和聯(lián)接技術(shù)進(jìn)行最佳的調(diào)優(yōu)與配合,帶來(lái)倍增的技術(shù)整合優(yōu)勢(shì)和智算效率,放大智算資源價(jià)值,發(fā)揮AIGC應(yīng)用的最大潛能。???

?“算力多元化”,聚合多種算力資源,提供CPU和GPU多元化選擇,滿足市場(chǎng)與客戶的多樣化需求,并加強(qiáng)供應(yīng)鏈的供給保障。

?“聯(lián)接標(biāo)準(zhǔn)化”,推動(dòng)聯(lián)接標(biāo)準(zhǔn)化,通過(guò)服務(wù)器內(nèi)、外部GPU聯(lián)接標(biāo)準(zhǔn)化,實(shí)現(xiàn)異構(gòu)GPU的智算集群,降低算力部署和應(yīng)用的成本,并通過(guò)軟件生態(tài)的標(biāo)準(zhǔn)化,打通智算孤島,促進(jìn)資源共享與產(chǎn)業(yè)共同繁榮。

這一智算底座,將為“AI巨榕”下的政企用戶們,提供源源不斷的算力“養(yǎng)分”。

其次是模型層。

去年,新華三推出國(guó)內(nèi)首個(gè)面向To B、To G領(lǐng)域的私域大模型百業(yè)靈犀(LinSeer),支持在私域環(huán)境下進(jìn)行數(shù)據(jù)分析和模型訓(xùn)練,可以確保政企客戶在安全、專屬的環(huán)境下使用大模型,解決了很多國(guó)計(jì)民生行業(yè)的后顧之憂。今年,新華三在模型層上有了更顯著的提升,首先是在知識(shí)蒸餾上,以推動(dòng)模型基座小型化實(shí)現(xiàn)數(shù)據(jù)高精度、高質(zhì)量和高表現(xiàn),其次是在輸出校準(zhǔn)上,以精煉模型回答提升用戶體驗(yàn),同時(shí)針對(duì)特定場(chǎng)景設(shè)計(jì)專用算法,增強(qiáng)AI使用的精準(zhǔn)度,最后是在模型使能上,通過(guò)模型、知識(shí)、應(yīng)用及安全等多層次的融合,解決更加復(fù)雜的問(wèn)題。

然后是應(yīng)用層。

想要讓更多行業(yè)用戶能夠輕松上手,降低使用成本至關(guān)重要。因此,新華三打造了一站式靈犀應(yīng)用使能平臺(tái)(LinSeer Hub),可實(shí)現(xiàn)多元模型組合管理、AI Agent開發(fā)、模型服務(wù)等功能,能夠靈活兼容新華三百業(yè)靈犀私域大模型及其他國(guó)內(nèi)外主流模型,不斷降低AI使用門檻,助力政企客戶快捷構(gòu)建智能應(yīng)用,實(shí)現(xiàn)“模型使用自由”。

總的來(lái)說(shuō),依托新華三這棵AI之榕,政企可以一站式獲得覆蓋各層級(jí)的軟硬件支持,讓自身的AI能力快速生根發(fā)芽。

生態(tài)之葉繁茂參天,百行百業(yè)的智能生長(zhǎng)

但如前文所說(shuō),構(gòu)建一個(gè)開放的AI生態(tài)實(shí)屬不易。對(duì)于投入了大量資源的AI廠商來(lái)說(shuō),將AI開發(fā)者、ISV服務(wù)商、客群關(guān)系都綁定在自身的生態(tài)內(nèi),可以更早地建立競(jìng)爭(zhēng)壁壘,實(shí)現(xiàn)商業(yè)回報(bào)。但這也給AI使用者和政企客戶帶來(lái)了不便,比如無(wú)法靈活選擇更適合自己的大模型,難以得到充分及時(shí)的技術(shù)支持。

在一個(gè)開放多元的繁榮生態(tài)中,政企用戶可以收獲更多。為什么這么說(shuō)?我們可以從新華三今天的回答中找到一些解題思路。

新華三提出“1+N”大模型策略(即百業(yè)靈犀私域大模型+N個(gè)優(yōu)選通用大模型和行業(yè)細(xì)分大模型),代表著將以開放兼容的態(tài)度,攜手業(yè)內(nèi)各垂直領(lǐng)域的杰出者,共同推動(dòng)AIGC應(yīng)用發(fā)展。AI不是閉門造車,作為一個(gè)方興未艾的產(chǎn)業(yè),AI高度依賴于產(chǎn)業(yè)各方的深度合作,匯聚多方智慧和資源,共同攻克技術(shù)難題,推動(dòng)AI技術(shù)向應(yīng)用轉(zhuǎn)化。因此,開放協(xié)作是AI創(chuàng)新的源泉。

更多選擇。新華三結(jié)合行業(yè)應(yīng)用場(chǎng)景,優(yōu)選N個(gè)生態(tài)大模型,百行百業(yè)客戶可以在這里找到全套彈性擴(kuò)展方案,靈活地滿足自身業(yè)務(wù)對(duì)個(gè)性化、專屬化的AI需求,而無(wú)需擔(dān)心只能使用某一廠商的模型,有著更充分的選擇空間。

更高效益。豐富多元化的產(chǎn)業(yè)生態(tài),也為政企客戶提供了更具成本優(yōu)勢(shì)、效益優(yōu)勢(shì)的產(chǎn)品和服務(wù)。比如在醫(yī)療、交通、制造等領(lǐng)域,新華三都提出了端到端的AI解決方案,助力客戶實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型的智能化升級(jí)。

更多資源。政企的智能化升級(jí)是一個(gè)長(zhǎng)期的綜合工程,其間的創(chuàng)新迭代升級(jí),需要一系列的技術(shù)、人才、金融、政策等支持,遠(yuǎn)離產(chǎn)業(yè)集群會(huì)大大增加成本。新華三與各地政府合作,打造全國(guó)知名的AIGC產(chǎn)業(yè)發(fā)展先行區(qū)、產(chǎn)業(yè)集聚地和人才新高地——圖靈小鎮(zhèn),讓各地形成有影響力的AI產(chǎn)業(yè)集群。目前“圖靈小鎮(zhèn)”模式已在杭州、鄭州、咸陽(yáng)等多地先行落地。

都說(shuō)“背靠大樹好乘涼”,總體來(lái)看,依托新華三所打造的開放、多元的繁榮生態(tài)體系,政企的智能化升級(jí)之路,也會(huì)走得更穩(wěn)、更輕松、更可持續(xù)。

一榕參天,萬(wàn)物生長(zhǎng)

以大模型為首的人工智能技術(shù)是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量,為各行各業(yè)注入源源不斷的新質(zhì)生產(chǎn)力,是很多企業(yè)不想錯(cuò)過(guò)、不敢錯(cuò)過(guò)的技術(shù)大潮。

面向大型政企私域部署的需求,新華三已經(jīng)培育出了一棵天時(shí)地利的參天巨榕。從核心底層技術(shù)支撐、安全可靠AI大模型部署方案,到開放的生態(tài)選擇、合作機(jī)制間的貫通,實(shí)現(xiàn)了技術(shù)可信、安全可靠、生態(tài)可依的兼顧與平衡。

在AIGC時(shí)代快節(jié)奏、高效率的進(jìn)程中,以新華三為代表的ICT廠商,將為百行百業(yè)提供新質(zhì)生產(chǎn)力的動(dòng)能。

“一榕參天,萬(wàn)物生長(zhǎng)”,堅(jiān)韌而生機(jī)勃勃的AI巨榕,正向我們袒露出一片智能時(shí)代的盎然春意。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
MCF52259CVN80 1 NXP Semiconductors 32-BIT, FLASH, 80MHz, RISC MICROCONTROLLER, BGA144
$48.73 查看
USB2514BI-AEZG 1 Microchip Technology Inc UNIVERSAL SERIAL BUS CONTROLLER, QCC36, 6 X 6 MM, 0.50 MM PITCH, ROHS COMPLIANT, QFN-36

ECAD模型

下載ECAD模型
$3.89 查看
STM32F429IGT6 1 STMicroelectronics High-performance advanced line, Arm Cortex-M4 core with DSP and FPU, 1 Mbyte of Flash memory, 180 MHz CPU, ART Accelerator, Chrom-ART Accelerator, FMC with SDRAM, TFT

ECAD模型

下載ECAD模型
$14.94 查看
新華三

新華三

新華三集團(tuán)作為數(shù)字化解決方案領(lǐng)導(dǎo)者,致力于成為客戶業(yè)務(wù)創(chuàng)新、數(shù)字化轉(zhuǎn)型值得信賴的合作伙伴。作為紫光集團(tuán)旗下的核心企業(yè),新華三擁有計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、5G、安全、終端等全方位的數(shù)字化基礎(chǔ)設(shè)施整體能力,提供云計(jì)算、大數(shù)據(jù)、人工智能、工業(yè)互聯(lián)網(wǎng)、信息安全、智能聯(lián)接、邊緣計(jì)算等在內(nèi)的一站式數(shù)字化解決方案,以及端到端的技術(shù)服務(wù)。同時(shí),新華三也是HPE?服務(wù)器、存儲(chǔ)和技術(shù)服務(wù)的中國(guó)獨(dú)家提供商。

新華三集團(tuán)作為數(shù)字化解決方案領(lǐng)導(dǎo)者,致力于成為客戶業(yè)務(wù)創(chuàng)新、數(shù)字化轉(zhuǎn)型值得信賴的合作伙伴。作為紫光集團(tuán)旗下的核心企業(yè),新華三擁有計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、5G、安全、終端等全方位的數(shù)字化基礎(chǔ)設(shè)施整體能力,提供云計(jì)算、大數(shù)據(jù)、人工智能、工業(yè)互聯(lián)網(wǎng)、信息安全、智能聯(lián)接、邊緣計(jì)算等在內(nèi)的一站式數(shù)字化解決方案,以及端到端的技術(shù)服務(wù)。同時(shí),新華三也是HPE?服務(wù)器、存儲(chǔ)和技術(shù)服務(wù)的中國(guó)獨(dú)家提供商。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜