3
發(fā)布日期:2024-10-20 21:54 瀏覽次數(shù):
【環(huán)球網(wǎng)科技綜合報(bào)道】5月9日,在北京阿里云AI智領(lǐng)者峰會(huì)上,阿里云CTO周靖人公布百煉大模型平臺(tái)最新進(jìn)展。百煉平臺(tái)從模型開(kāi)發(fā)、應(yīng)用開(kāi)發(fā)到算力底座全面升級(jí),更加易用、更加開(kāi)放,引入更多模型,率先兼容LlamaIndex等開(kāi)源框架,企業(yè)可自由替換能力組件來(lái)適配自身系統(tǒng)。針對(duì)當(dāng)下企業(yè)最關(guān)注的RAG鏈路,百煉提供靈活開(kāi)放的企業(yè)級(jí)檢索增強(qiáng)服務(wù),5到10行代碼即可搭建RAG應(yīng)用,讓大模型擁有“最強(qiáng)外掛”。
2023年10月,阿里云發(fā)布了百煉大模型平臺(tái),開(kāi)發(fā)者可通過(guò)“拖拉拽”5分鐘開(kāi)發(fā)一款大模型應(yīng)用,幾小時(shí)“煉”出一個(gè)專屬模型,把精力專注于應(yīng)用創(chuàng)新。本次大會(huì)上,百煉升級(jí)成為阿里云承載云+AI能力的重要平臺(tái),提供一站式、全托管的大模型定制與應(yīng)用服務(wù)。升級(jí)后,百煉可以更好支持大型企業(yè)和成熟開(kāi)發(fā)者的需求。
“當(dāng)下企業(yè)應(yīng)用大模型存在三種范式:一是對(duì)大模型開(kāi)箱即用,二是對(duì)大模型進(jìn)行微調(diào)和持續(xù)訓(xùn)練,三是基于模型開(kāi)發(fā)應(yīng)用,其中最典型的需求是RAG,以企業(yè)數(shù)據(jù)對(duì)大模型進(jìn)行知識(shí)增強(qiáng)。圍繞這些需求,百煉打造了模型中心和應(yīng)用中心,提供最豐富的模型和最易用的工具箱?!敝芫溉私榻B。
對(duì)希望直接調(diào)用模型進(jìn)行推理的企業(yè),百煉集成了上百款大模型api,除了通義、Llama、ChatGLM等系列,還首家托管百川等系列三方模型,覆蓋國(guó)內(nèi)外主流廠商,聯(lián)動(dòng)魔搭開(kāi)源社區(qū),同時(shí)支持企業(yè)上架通用或行業(yè)模型,給開(kāi)發(fā)者提供足夠多的模型選擇。同時(shí),百煉依托阿里云AI基礎(chǔ)設(shè)施,支持千億級(jí)模型的萬(wàn)級(jí)并發(fā)推理,充分滿足企業(yè)需求。
對(duì)需進(jìn)一步訓(xùn)練模型的用戶,百煉提供從數(shù)據(jù)管理、模型調(diào)優(yōu)、評(píng)測(cè)到部署的全鏈路模型服務(wù),用戶可彈性按需調(diào)用算力,無(wú)需關(guān)心底層架構(gòu)。訓(xùn)練過(guò)程可視化,還可自動(dòng)評(píng)測(cè)模型質(zhì)量,并與其他模型對(duì)比。
對(duì)希望打造RAG應(yīng)用的企業(yè),百煉支持Assistant API開(kāi)發(fā)模式,可在百煉上輕松創(chuàng)建知識(shí)庫(kù),并一鍵開(kāi)啟知識(shí)檢索增強(qiáng)(RAG),通過(guò)Assistant API聯(lián)合輸出。同時(shí),百煉支持agent智能體開(kāi)發(fā),并能實(shí)現(xiàn)多智能體協(xié)作、對(duì)話記憶等高級(jí)功能。
據(jù)了解,阿里云百煉的一大重要優(yōu)勢(shì),在于最大程度的開(kāi)放性和自由度。當(dāng)下一些大模型應(yīng)用平臺(tái)采用封閉鏈路,不支持替換原子能力,導(dǎo)致企業(yè)開(kāi)發(fā)應(yīng)用時(shí)無(wú)法引入自研插件,和業(yè)務(wù)場(chǎng)景充分融合。
百煉率先兼容并優(yōu)化了LlamaIndex等開(kāi)源架構(gòu),擁抱社區(qū)生態(tài),支持從本地或不同云端導(dǎo)入SQL、pdf、excel、ppt等各種類型數(shù)據(jù)源,還支持根據(jù)需求自由替換精細(xì)的能力組件,讓AI應(yīng)用絲滑嵌入企業(yè)原有業(yè)務(wù)系統(tǒng)。
周靖人表示,接下來(lái),百煉將繼續(xù)做對(duì)開(kāi)發(fā)者最友好、最開(kāi)放的大模型平臺(tái)。阿里云歡迎更多大模型上架,百煉將進(jìn)一步支持三方模型的微調(diào)訓(xùn)練和云上專屬部署,幫助大模型生態(tài)中的企業(yè)提供商業(yè)化服務(wù)。