阿里云正式發(fā)布千億級(jí)參數(shù)大模型通義千問2.0。在10個(gè)權(quán)威測(cè)評(píng)中,通義千問2.0綜合性能超過GPT-3.5,正在加速追趕GPT-4。當(dāng)天,通義千問APP在各大手機(jī)應(yīng)用市場(chǎng)正式上線,所有人都可通過APP直接體驗(yàn)最新模型能力。
過去6個(gè)月,通義千問2.0在性能上取得巨大飛躍,相比4月發(fā)布的1.0版本,通義千問2.0在復(fù)雜指令理解、文學(xué)創(chuàng)作、通用數(shù)學(xué)、知識(shí)記憶、幻覺抵御等能力上均有顯著提升。目前,通義千問的綜合性能已經(jīng)超過GPT-3.5,加速追趕GPT-4。
圖:通義千問2.0綜合性能超過GPT-3.5,正在加速追趕GPT-4
在MMLU、C-Eval、GSM8K、HumanEval、MATH等10個(gè)主流Benchmark測(cè)評(píng)集上,通義千問2.0的得分整體超越Meta的Llama-2-70B,相比OpenAI的Chat-3.5是九勝一負(fù),相比GPT-4則是四勝六負(fù),與GPT-4的差距進(jìn)一步縮小。
中英文理解能力是大語(yǔ)言模型的基本功。英語(yǔ)任務(wù)方面,通義千問2.0在MMLU基準(zhǔn)的得分是82.5,僅次于GPT-4,通過大幅增加參數(shù)量,通義千問2.0能更好地理解和處理復(fù)雜的語(yǔ)言結(jié)構(gòu)和概念;中文任務(wù)方面,通義千問2.0以明顯優(yōu)勢(shì)在C-Eval基準(zhǔn)獲得最高得分,這是由于模型在訓(xùn)練中學(xué)習(xí)了更多中文語(yǔ)料,進(jìn)一步強(qiáng)化了中文理解和表達(dá)能力。
在數(shù)學(xué)推理、代碼理解等領(lǐng)域,通義千問2.0進(jìn)步明顯。在推理基準(zhǔn)測(cè)試GSM8K中,通義千問排名第二,展示了強(qiáng)大的計(jì)算和邏輯推理能力;在HumanEval測(cè)試中,通義千問得分緊跟GPT-4和GPT-3.5,該測(cè)試主要衡量大模型理解和執(zhí)行代碼片段的能力,這一能力是大模型應(yīng)用于編程輔助、自動(dòng)代碼修復(fù)等場(chǎng)景的基礎(chǔ)。
圖:通義千問2.0發(fā)布
通義千問更成熟了,也更好用了。通義千問2.0在指令遵循、工具使用、精細(xì)化創(chuàng)作等方面作了技術(shù)優(yōu)化,能夠更好地被下游應(yīng)用場(chǎng)景集成。通義大模型官網(wǎng)上線了多模態(tài)和插件功能,支持圖片輸入、文檔解析等細(xì)分任務(wù)。
與此同時(shí),基于通義大模型訓(xùn)練的8大行業(yè)模型組團(tuán)上線,他們分別是通義靈碼-智能編碼助手、通義智文-AI閱讀助手、通義聽悟-工作學(xué)習(xí)AI助手、通義星塵-個(gè)性化角色創(chuàng)作平臺(tái)、通義點(diǎn)金-智能投研助手、通義曉蜜-智能客服、通義仁心-個(gè)人專屬健康助手、通義法睿-AI法律顧問。8大行業(yè)模型面向當(dāng)下最受歡迎的多個(gè)垂直場(chǎng)景,使用領(lǐng)域數(shù)據(jù)進(jìn)行專門訓(xùn)練。用戶可以在官網(wǎng)直接體驗(yàn)?zāi)P凸δ?,開發(fā)者可以通過網(wǎng)頁(yè)嵌入、API/SDK調(diào)用等方式,將模型能力集成到自己的大模型應(yīng)用和服務(wù)中。
圖:通義大模型家族全面升級(jí),8大行業(yè)模型組團(tuán)上線
截至10月,阿里云已與60多個(gè)行業(yè)頭部伙伴進(jìn)行深度合作,推動(dòng)通義千問在辦公、文旅、電力、政務(wù)、醫(yī)保、交通、制造、金融、軟件開發(fā)等領(lǐng)域的落地。
周靖人透露,阿里云計(jì)劃近期開源通義千問72B版本,此前,阿里云已先后開源7B和14B版本模型,模型累計(jì)下載量超過100萬(wàn)。阿里云將持續(xù)支持千行百業(yè)的開發(fā)者基于通義千問開源模型進(jìn)行模型和應(yīng)用創(chuàng)新。
圖:通義千問72B即將開源