加利福尼亞州圣克(kè)拉拉拉拉——GTC——2022年(nián)9月(yuè)20日(rì)-NVIDIA今天(tiān)發(fà)布(bù)了(le)两(liǎng)个(gè)全(quán)新(xīn)的(de)大(dà)型語(yǔ)言模型(LLM)雲(yún)人(rén)工智能(néng)服(fú)務(wù)-NVIDIANemo大(dà)型語(yǔ)言模型服(fú)務(wù)和(hé)NVIDIABioNemoLLM服(fú)務(wù)，使開(kāi)發(fà)者(zhě)能(néng)夠輕(qīng)松調整LLM並(bìng)部(bù)署(shǔ)定(dìng)制的(de)人(rén)工智能(néng)應(yìng)用(yòng)程序，可(kě)用(yòng)于(yú)內(nèi)容生(shēng)成(chéng)、文(wén)本(běn)摘要(yào)、聊天(tiān)机器人(rén)、代(dài)碼開(kāi)發(fà)、蛋白(bái)質(zhì)結構和(hé)生(shēng)物(wù)分(fēn)子特(tè)征預測等。

　　通(tòng)过(guò)NemoLLM服(fú)務(wù)，開(kāi)發(fà)人(rén)員可(kě)以在(zài)NVIDIA管(guǎn)理(lǐ)基礎設施中(zhōng)使用(yòng)提(tí)醒學(xué)習訓练方(fāng)法(fǎ)，快(kuài)速定(dìng)制多(duō)个(gè)預訓练基礎模型。NVIDIABioNemo服(fú)務(wù)是(shì)雲(yún)應(yìng)用(yòng)程序編程接口(API)，它(tā)可(kě)以将LLM用(yòng)例擴展(zhǎn)到(dào)語(yǔ)言之(zhī)外(wài)的(de)科學(xué)應(yìng)用(yòng)，加快(kuài)制藥和(hé)生(shēng)物(wù)技術(shù)公(gōng)司的(de)藥物(wù)研發(fà)速度(dù)。

　　NVIDIA創始(shǐ)人(rén)兼首席(xí)執行官黃仁勳说(shuō)：“大(dà)型語(yǔ)言模型有(yǒu)潜力改變(biàn)每个(gè)行業。根(gēn)據(jù)基本(běn)模型的(de)調整，LLM的(de)能(néng)量(liàng)可(kě)以給(gěi)數百(bǎi)万(wàn)開(kāi)發(fà)者(zhě)带(dài)来(lái)，这(zhè)樣(yàng)他(tā)们(men)就(jiù)可(kě)以建立各(gè)種(zhǒng)語(yǔ)言服(fú)務(wù)，促進(jìn)科學(xué)發(fà)現(xiàn)，而(ér)無需再次(cì)建立一(yī)个(gè)龐大(dà)的(de)模型。”

　　通(tòng)过(guò)提(tí)醒學(xué)習，NemoLLM服(fú)務(wù)可(kě)以提(tí)高(gāo)準确性(xìng)，加快(kuài)布(bù)局(jú)速度(dù)

　　借(jiè)助NemoLLM服(fú)務(wù)，開(kāi)發(fà)者(zhě)可(kě)以用(yòng)自(zì)己的(de)訓练數據(jù)定(dìng)制基本(běn)模型——從30亿(yì)次(cì)參數到(dào)世界上(shàng)最(zuì)大(dà)的(de)LLM之(zhī)一(yī)Megatron530B。这(zhè)个(gè)过(guò)程只(zhī)需要(yào)幾(jǐ)分(fēn)钟到(dào)幾(jǐ)个(gè)小时(shí)，而(ér)不(bù)是(shì)重(zhòng)新(xīn)開(kāi)始(shǐ)訓练模型所(suǒ)需的(de)幾(jǐ)周或(huò)幾(jǐ)个(gè)月(yuè)。

　　提(tí)醒學(xué)習是(shì)使用(yòng)一(yī)種(zhǒng)叫做P-tuning的(de)技術(shù)来(lái)定(dìng)制模型，这(zhè)樣(yàng)開(kāi)發(fà)者(zhě)就(jiù)可(kě)以使用(yòng)數百(bǎi)个(gè)示例来(lái)快(kuài)速定(dìng)制最(zuì)初需要(yào)數十(shí)亿(yì)个(gè)數據(jù)點(diǎn)訓练的(de)基本(běn)模型。定(dìng)制过(guò)程生(shēng)成(chéng)任務(wù)獨家(jiā)提(tí)醒标(biāo)記(jì)，與(yǔ)基本(běn)模型相結合，为特(tè)定(dìng)用(yòng)例提(tí)供更(gèng)高(gāo)的(de)準确性(xìng)和(hé)更(gèng)相關(guān)的(de)響應(yìng)。

　　開(kāi)發(fà)人(rén)員可(kě)以使用(yòng)相同(tóng)的(de)模型定(dìng)制多(duō)个(gè)用(yòng)例，並(bìng)生(shēng)成(chéng)许多(duō)不(bù)同(tóng)的(de)Prompttoken。操场(chǎng)功能(néng)提(tí)供了(le)無代(dài)碼選项，可(kě)以輕(qīng)松測試和(hé)與(yǔ)模型互动，進(jìn)一(yī)步提(tí)高(gāo)了(le)LLM对行業特(tè)定(dìng)用(yòng)例的(de)有(yǒu)效性(xìng)和(hé)普遍(biàn)性(xìng)。

　　一(yī)旦準備好(hǎo)安(ān)排，調整後(hòu)的(de)模型可(kě)以在(zài)雲(yún)案(àn)例、本(běn)地(dì)系(xì)統或(huò)API上(shàng)運行。

　　BioneMoLLM服(fú)務(wù)使科研人(rén)員能(néng)夠充分(fēn)利用(yòng)大(dà)型模型的(de)力量(liàng)

　　Bionemollm服(fú)務(wù)包(bāo)括两(liǎng)種(zhǒng)新(xīn)的(de)Bionemo語(yǔ)言模型，用(yòng)于(yú)化(huà)學(xué)和(hé)生(shēng)物(wù)學(xué)應(yìng)用(yòng)。該服(fú)務(wù)为蛋白(bái)質(zhì)、DNA和(hé)化(huà)學(xué)數據(jù)提(tí)供支持(chí)，幫助研究人(rén)員在(zài)生(shēng)物(wù)序列中(zhōng)找(zhǎo)到(dào)方(fāng)法(fǎ)和(hé)洞(dòng)察力。

　　Bionemo允许研究人(rén)員使用(yòng)包(bāo)括數十(shí)亿(yì)參數在(zài)內(nèi)的(de)模型来(lái)擴大(dà)研究範围。这(zhè)些(xiē)大(dà)型模型可(kě)以存儲更(gèng)多(duō)關(guān)于(yú)蛋白(bái)質(zhì)結構、基因之(zhī)間(jiān)進(jìn)化(huà)的(de)信(xìn)息，甚至(zhì)産生(shēng)可(kě)以治疗的(de)新(xīn)生(shēng)物(wù)分(fēn)子。

　　雲(yún)API为Megatron530B和(hé)其(qí)他(tā)現(xiàn)成(chéng)模型提(tí)供浏覽

　　LLM服(fú)務(wù)除了(le)調整基本(běn)模型外(wài)，還(huán)提(tí)供通(tòng)过(guò)雲(yún)API使用(yòng)現(xiàn)成(chéng)和(hé)定(dìng)制模型的(de)選项。

　　这(zhè)使得開(kāi)發(fà)者(zhě)可(kě)以浏覽各(gè)種(zhǒng)預訓练LLM，包(bāo)括Megatron530B，以及(jí)使用(yòng)NVIDIANemomegatron框架建立的(de)T5和(hé)GPT-3模型。NVIDIANemomegatron框架已進(jìn)入(rù)公(gōng)測階(jiē)段(duàn)，可(kě)支持(chí)各(gè)種(zhǒng)應(yìng)用(yòng)和(hé)多(duō)語(yǔ)言服(fú)務(wù)需求。

　　汽车、计算、教育、醫疗、電(diàn)信(xìn)等領域的(de)領導者(zhě)正(zhèng)在(zài)利用(yòng)Nemomegatron为用(yòng)戶提(tí)供中(zhōng)文(wén)、英文(wén)、韩文(wén)、瑞典語(yǔ)等語(yǔ)言的(de)領先(xiān)服(fú)務(wù)。

　　供貨狀況

　　NemoLLM、BioNemo服(fú)務(wù)和(hé)雲(yún)API預计将于(yú)下(xià)月(yuè)開(kāi)放(fàng)，開(kāi)發(fà)者(zhě)現(xiàn)在(zài)可(kě)以申请並(bìng)了(le)解(jiě)细(xì)节(jié)。

　　現(xiàn)在(zài)可(kě)以從NVIIIANGCGC™獲得Nemomegatron框架的(de)公(gōng)測版，並(bìng)且(qiě)該框架優化(huà)後(hòu)，可(kě)在(zài)NVIDIADGX中(zhōng)使用(yòng)™Foundry和(hé)NVIDIADGXSuperPOD™以及(jí)AmazonWebservices、在(zài)Microsoftazure和(hé)OracleCloudinfrastucre的(de)加速雲(yún)案(àn)例中(zhōng)運行。