導(dǎo)讀:基座模型通過工程化開發(fā)適配到專屬領(lǐng)域
隨著大模型向行業(yè)應(yīng)用的深入發(fā)展,如何將基座模型通過工程化開發(fā)適配到專屬領(lǐng)域,并生產(chǎn)面向用戶的智能化應(yīng)用,成為大模型落地最后一公里的關(guān)鍵問題。MaaS(Model as a service,模型即服務(wù))提供大模型服務(wù)、平臺工具、應(yīng)用開發(fā)等能力,通過工程化方式提升大模型可用、可信和可靠等能力,為大模型工程化落地提供有力支撐。產(chǎn)業(yè)界逐漸涌現(xiàn)出各類MaaS平臺,但同時(shí)出現(xiàn)了模型服務(wù)質(zhì)量參差不齊、平臺選型難、行業(yè)定制需求復(fù)雜等問題,從而亟需一套全面的標(biāo)準(zhǔn)體系助力MaaS行業(yè)健康有序發(fā)展。
中國信息通信研究院(簡稱“中國信通院”)緊跟MaaS領(lǐng)域最新發(fā)展趨勢,依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟于2023年成立MaaS工作組,聯(lián)合產(chǎn)學(xué)研各界專家共同啟動(dòng)MaaS系列標(biāo)準(zhǔn)編制,經(jīng)過一年多的持續(xù)努力,現(xiàn)正式發(fā)布MaaS系列標(biāo)準(zhǔn)。本系列標(biāo)準(zhǔn)圍繞MaaS落地中遇到的問題,聚焦大模型定制調(diào)優(yōu)、大模型服務(wù)部署和推理加速、模型管理、大模型應(yīng)用開發(fā)等維度,提出能力要求,為大模型服務(wù)商和平臺供應(yīng)商提供能力建設(shè)參考,為應(yīng)用方提供技術(shù)選型依據(jù)。
《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第1部分:模型服務(wù)協(xié)議要求》(AIIA/PG 0110-2024)(以下簡稱“協(xié)議要求”)標(biāo)準(zhǔn)針對大模型服務(wù)供需雙方簽訂服務(wù)協(xié)議(SLA)時(shí)涉及的模型推理性能、服務(wù)可用性、計(jì)量準(zhǔn)確性、權(quán)責(zé)條款等方面進(jìn)行了明確規(guī)范,為大模型服務(wù)提供商和使用方制定服務(wù)協(xié)議提供參考。
《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第2部分 模型服務(wù)評估方法》(AIIA/PG 0173-2024)標(biāo)準(zhǔn),以協(xié)議要求標(biāo)準(zhǔn)中的要求為基礎(chǔ),明確了可落地的模型服務(wù)質(zhì)量評估方法,對大模型服務(wù)的質(zhì)量進(jìn)行多維度評估,為其是否滿足SLA提供符合性評價(jià)依據(jù),為應(yīng)用方提供選型參考和質(zhì)量保障。
《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第3部分:模型平臺》(AIIA/PG 0134-2024)標(biāo)準(zhǔn)從數(shù)據(jù)工程、模型調(diào)優(yōu)、模型交付、服務(wù)運(yùn)營、平臺能力等角度對利用基座大模型打造專屬領(lǐng)域模型的全棧能力進(jìn)行規(guī)范,降低大模型領(lǐng)域化的技術(shù)門檻,提升領(lǐng)域模型的定制調(diào)優(yōu)效率和能力。
《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第4部分:模型服務(wù)平臺》(AIIA/PG 0137-2024)標(biāo)準(zhǔn)從大模型推理加速、服務(wù)部署、服務(wù)測試、服務(wù)管理、服務(wù)運(yùn)營等角度對將大模型服務(wù)化成API等形式的全流程能力進(jìn)行規(guī)范,指導(dǎo)大模型服務(wù)平臺供應(yīng)商進(jìn)行能力建設(shè),提升大模型服務(wù)的部署效率與供給質(zhì)量。
《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第5部分:模型管理平臺》(AIIA/PG 0193-2024)標(biāo)準(zhǔn)對企業(yè)內(nèi)部模型、數(shù)據(jù)等AI資產(chǎn)的管理運(yùn)營進(jìn)行規(guī)范,同時(shí)通過使用說明、適用場景、調(diào)用方法等模型卡片要素進(jìn)行明確,以促進(jìn)用戶使用大模型的活躍度,幫助企業(yè)以最大程度發(fā)揮大小模型協(xié)同效果。
《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第6部分:模型應(yīng)用開發(fā)平臺》(AIIA/T 0196-2024)標(biāo)準(zhǔn)圍繞基于大模型的AI應(yīng)用開發(fā)全流程,從組件構(gòu)建、RAG構(gòu)建、智能體應(yīng)用構(gòu)建、應(yīng)用集成和管理以及平臺運(yùn)營等橫向維度提出規(guī)范要求,縱向維度涉及模型服務(wù)調(diào)取、AI能力嵌入、流程編排等技術(shù)要求,幫助企業(yè)快速創(chuàng)建私域大模型應(yīng)用。