在智譜AI技術(shù)開(kāi)放日(Zhipu DevDay)上,啟明創(chuàng)投投資企業(yè)智譜AI推出新一代基座大模型GLM-4,并發(fā)布All Tools、GLMs、MaaS API、大模型科研基金、大模型開(kāi)源基金以及“Z計(jì)劃”創(chuàng)業(yè)基金等內(nèi)容。
01/
GLM-4
新一代基座大模型GLM-4,整體性能相比GLM-3全面提升60%,逼近GPT-4;支持更長(zhǎng)上下文;更強(qiáng)的多模態(tài);支持更快推理速度,更多并發(fā),大大降低推理成本;同時(shí)GLM-4增強(qiáng)了“智能體”能力。
基礎(chǔ)能力(英文):GLM-4在MMLU、GSM8K、MATH、BBH、HellaSwag、HumanEval等數(shù)據(jù)集上,分別達(dá)到GPT-4的94%、95%、91%、99%、90%、100%的水平。
指令跟隨能力:GLM-4在IFEval的prompt級(jí)別上中、英分別達(dá)到GPT-4的88%、85%的水平,在Instruction級(jí)別上中、英分別達(dá)到GPT-4的90%、89%的水平。
對(duì)齊能力:GLM-4在中文對(duì)齊能力上整體超過(guò)GPT-4。
長(zhǎng)文本能力:智譜AI在LongBench(128K)測(cè)試集上對(duì)多個(gè)模型進(jìn)行評(píng)測(cè),GLM-4性能超過(guò)Claude 2.1;在“大海撈針”(128K)實(shí)驗(yàn)中,GLM-4的測(cè)試結(jié)果為128K以?xún)?nèi)全綠,做到100%精準(zhǔn)召回。
多模態(tài)-文生圖:CogView3在文生圖多個(gè)評(píng)測(cè)指標(biāo)上,相比DALLE3約在91.4%-99.3%的水平之間。
02/
ALL Tools
GLM-4實(shí)現(xiàn)自主根據(jù)用戶(hù)意圖,自動(dòng)理解、規(guī)劃復(fù)雜指令,自由調(diào)用網(wǎng)頁(yè)瀏覽器、Code Interpreter代碼解釋器和多模態(tài)文生圖大模型,以完成復(fù)雜任務(wù)。
簡(jiǎn)單來(lái)講,即只需一個(gè)指令,GLM-4會(huì)自動(dòng)分析指令,結(jié)合上下文選擇決定調(diào)用合適的工具。
All Tools-文生圖:GLM-4能夠結(jié)合上下文進(jìn)行AI繪畫(huà)創(chuàng)作(CogView3),如下圖所示,大模型能夠遵循人的指令來(lái)不斷修改生成圖片的結(jié)果:
All Tools-代碼解釋器:GLM-4能夠通過(guò)自動(dòng)調(diào)用python解釋器,進(jìn)行復(fù)雜計(jì)算(例如復(fù)雜方程、微積分等),在GSM8K、MATH、Math23K等多個(gè)評(píng)測(cè)集上都取得了接近或同等GPT-4 All Tools的水平。
同樣GLM-4也可以完成文件處理、數(shù)據(jù)分析、圖表繪制等復(fù)雜任務(wù),支持處理Excel、PDF、PPT等格式文件。
All Tools-網(wǎng)頁(yè)瀏覽:GLM-4能夠自行規(guī)劃?rùn)z索任務(wù)、自行選擇信息源、自行與信息源交互,在準(zhǔn)確率上能夠達(dá)到78.08,是GPT-4 All Tools的116%。
All Tools-Function Call:GLM-4能夠根據(jù)用戶(hù)提供的Function描述,自動(dòng)選擇所需Function并生成參數(shù),以及根據(jù)Function的返回值生成回復(fù);同時(shí)也支持一次輸入進(jìn)行多次Function調(diào)用,支持包含中文及特殊符號(hào)的Function名字。這一方面GLM-4 All Tools與GPT-4 Turbo相當(dāng)。
All Tools-多工具自動(dòng)調(diào)用:除了以上單項(xiàng)工具自動(dòng)調(diào)用外,GLM-4同樣能夠?qū)崿F(xiàn)多工具自動(dòng)調(diào)用,例如結(jié)合網(wǎng)頁(yè)瀏覽、CogView3、代碼解釋器等的調(diào)用方式。
03/
GLMs與MaaS API
GLM-4的全線(xiàn)能力提升使得智譜AI有機(jī)會(huì)探索真正意義上的GLMs。用戶(hù)可以下載(更新)智譜清言App,進(jìn)行體驗(yàn),快速創(chuàng)建和分享自己的“智能體”。
同樣,MaaS平臺(tái)也將全網(wǎng)開(kāi)放GLM-4、GLM-4V、CogView3等模型API,并邀請(qǐng)內(nèi)測(cè)GLM-4 Assistant API。
04/
智譜AI期待與研究者和開(kāi)發(fā)者
共同探索大模型的未來(lái)
智譜AI一直在路上,期待與所有研究者和開(kāi)發(fā)者共同探索大模型的未來(lái),為社會(huì)創(chuàng)造價(jià)值。
從ChatGLM一代、二代、三代以來(lái),智譜AI幾乎開(kāi)源了所有內(nèi)核模型,包括千億級(jí)基座GLM-130B、搜索增強(qiáng)模型WebGLM、圖形理解模型VisualGLM、代碼模型CodeGeeX1、2,文生圖模型CogView1、2,圖形增強(qiáng)理解模型CogVLM還有可視化認(rèn)知Agent模型CogAgent。智譜AI希望這些模型能夠幫助研究者和開(kāi)發(fā)者深入認(rèn)知大模型技術(shù),而不是簡(jiǎn)單調(diào)用。
大模型科研基金
智譜AI重視科研突破、重視源頭創(chuàng)新,也希望無(wú)私地回饋科研界。
智譜AI聯(lián)合CCF中國(guó)計(jì)算機(jī)學(xué)會(huì)發(fā)起了CCF-智譜大模型基金,圍繞預(yù)訓(xùn)練大模型理論、算法、模型、應(yīng)用等相關(guān)研究提供資助;通過(guò)降低大模型研究的門(mén)檻,立足每一個(gè)計(jì)算機(jī)領(lǐng)域科研工作者均有機(jī)會(huì)參與大模型的研究,推進(jìn)大模型技術(shù)和應(yīng)用的創(chuàng)新落地。
智譜AI聯(lián)合中國(guó)中文信息學(xué)會(huì)社會(huì)媒體處理專(zhuān)委會(huì)聯(lián)合發(fā)起SMP-智譜大模型交叉學(xué)科基金。支持探索大模型與各領(lǐng)域交叉創(chuàng)新,促進(jìn)大模型與各類(lèi)學(xué)科的有機(jī)融合。所有的科研基金參與者擁有自己研發(fā)的知識(shí)產(chǎn)權(quán)。
2023年已經(jīng)有來(lái)自全國(guó)三十余所高校參與了41個(gè)研究項(xiàng)目,累計(jì)提供了超1000萬(wàn)元現(xiàn)金和算力資源(合作伙伴)的科研支持。
2024年,智譜AI對(duì)學(xué)術(shù)研究的支持還將繼續(xù)。
大模型開(kāi)源基金
智譜AI認(rèn)為,一個(gè)健康的大模型生態(tài)系統(tǒng)絕不僅依賴(lài)少數(shù)公司的研發(fā),而是需要眾多研究者和開(kāi)發(fā)者的想象力和創(chuàng)造力共同參與。
為了促進(jìn)大模型生態(tài)的健康發(fā)展,智譜AI將發(fā)起開(kāi)源開(kāi)放的“大模型開(kāi)源基金”,這包括三個(gè)“一千”:
第一個(gè)“一千”,是1000張卡。智譜AI將為大模型開(kāi)源社區(qū)提供一千張卡,助力開(kāi)源開(kāi)發(fā);
第二個(gè)“一千”,是1000萬(wàn)元人民幣。智譜AI將提供1000萬(wàn)元的現(xiàn)金用來(lái)支持與大模型相關(guān)的開(kāi)源項(xiàng)目。
第三個(gè)“一千”是1000億tokens。智譜AI將為優(yōu)秀的開(kāi)源開(kāi)發(fā)者提供1000億免費(fèi)API tokens。
“大模型開(kāi)源基金”的目的在于推動(dòng)大模型研發(fā)的大進(jìn)展,促進(jìn)大模型整個(gè)開(kāi)源生態(tài)的大繁榮。一枝獨(dú)秀不是春,中國(guó)的人工智能事業(yè)要繁榮、要發(fā)展,需要所有的參與者、產(chǎn)業(yè)鏈上下游合作伙伴、開(kāi)發(fā)者社區(qū)、學(xué)術(shù)界一同努力。
“Z計(jì)劃”創(chuàng)業(yè)基金
面向全球,智譜AI發(fā)布“Z計(jì)劃”,支持大模型早期創(chuàng)業(yè)者的創(chuàng)新探索。大模型創(chuàng)業(yè)是長(zhǎng)征路。“Z計(jì)劃”是智譜聯(lián)合生態(tài)伙伴發(fā)起的大模型創(chuàng)業(yè)基金,總計(jì)10億元人民幣;專(zhuān)門(mén)支持大模型原始創(chuàng)新,覆蓋大模型算法、底層算子、芯片優(yōu)化、行業(yè)大模型和超級(jí)應(yīng)用等方向。
在2024年,乃至更長(zhǎng)遠(yuǎn)的未來(lái)里,智譜AI都將堅(jiān)持更開(kāi)放的心態(tài),團(tuán)結(jié)更廣泛的生態(tài)伙伴,共創(chuàng)人工智能美好未來(lái)。