4月26日，“合肥造”認(rèn)知大模型——訊飛星火大模型V3.5（以下簡稱“訊飛星火”）春季“上新”。面向用戶高效準(zhǔn)確知識(shí)獲取的痛點(diǎn)，科大訊飛發(fā)布業(yè)界首個(gè)長文本、長圖文、長語音大模型，不僅能夠把各種信息來源的海量文本、圖文資料、會(huì)議錄音等進(jìn)行快速學(xué)習(xí)、歸納總結(jié)，還能夠在各種行業(yè)場(chǎng)景中給出專業(yè)、準(zhǔn)確回答。

為什么科大訊飛要推出長文本、長圖文、長語音的大模型？科大訊飛董事長劉慶峰介紹，通過訊飛星火APP收集到的用戶數(shù)據(jù)，大部分用戶在知識(shí)獲取和學(xué)習(xí)的過程中，拿到的資料往往是報(bào)刊書籍等長文本，還有各種會(huì)議的PPT、筆記、錄音和視頻等。

能不能把這些文本、圖片、語音等都上傳到訊飛星火中，快速地獲取知識(shí)？對(duì)此，科大訊飛推出首個(gè)支持長文本、長圖文、長語音的大模型，來解決用戶真實(shí)場(chǎng)景中多源信息的獲取需求。

本次訊飛星火長文本功能全新升級(jí)后，具備長文檔信息抽取、長文檔知識(shí)問答、長文檔歸納總結(jié)、長文檔文本生成等能力，總體已經(jīng)達(dá)到GPT-4 Turbo 4月最新長文本版本的97%水平。值得一提的是，在銀行、保險(xiǎn)、汽車、電力等多個(gè)垂直領(lǐng)域的知識(shí)問答任務(wù)上，訊飛星火長文本總體水平已經(jīng)超過GPT-4 Turbo。

面對(duì)上百萬甚至上千萬的文字，長文本大模型消耗的運(yùn)算資源非常大。為了解決大模型應(yīng)用效率和準(zhǔn)確率問題，劉慶峰介紹，基于訊飛星火V3.5對(duì)長文本的理解、學(xué)習(xí)、回答能力，科大訊飛進(jìn)行了重要的模型剪枝和蒸餾，從而推出業(yè)界性能最優(yōu)的130億參數(shù)的大模型，在效果損失僅3%以內(nèi)的情況下，使得星火在文檔上傳解析處理、知識(shí)問答的首響時(shí)間以及文字生成方面都獲得了極大的效率提升。

測(cè)試顯示，在保障長文本效果的情況下，無論是10K、64K、128K token，還是更長的文本上，星火大模型的性能都做到了業(yè)界最優(yōu)。

此外，這次訊飛星火的升級(jí)，還首發(fā)了多情感超擬人合成，具備情緒表達(dá)能力，并推出一句話聲音復(fù)刻功能，讓科技更有溫度。

合肥通客戶端—合報(bào)全媒體記者 劉小容