近來，人工智能大模型風(fēng)云起涌，不少科技企業(yè)加快拓寬應(yīng)用生態(tài)。主流大模型的實際使用感受如何？各大科技企業(yè)有何優(yōu)劣勢？8月12日，新華社研究院中國企業(yè)發(fā)展研究中心發(fā)布的《人工智能大模型體驗報告2.0》（以下簡稱報告）顯示，訊飛星火、百度文心一言、商湯商量和智譜AI-ChatGLM均表現(xiàn)搶眼，AI大模型的發(fā)展為人類工作和生活的提質(zhì)增效均帶來了正向積極的影響。

　　今年以來，國內(nèi)科技企業(yè)紛紛布局人工智能大模型。據(jù)不完全統(tǒng)計，在新一輪生成式AI熱潮中，國內(nèi)已經(jīng)出現(xiàn)了上百個大模型。天眼查數(shù)據(jù)顯示，截至2023年上半年，與“大模型”直接相關(guān)的融資事件超20起。

　　為進一步直觀感受我國當前主流科技企業(yè)所推出的大模型產(chǎn)品的現(xiàn)狀、優(yōu)勢和特點，新華社研究院中國企業(yè)發(fā)展研究中心于今年7月啟動了本次報告研究。與2023年6月首次發(fā)布的《人工智能大模型體驗報告》相比，本次測評在題目設(shè)計、對標Benchmark（人類）、打分權(quán)重、專家測評團隊四大維度進行了全面升級。

　　其中，在題目設(shè)計方面，測評題目由300道擴展至500道，并進一步完善了題目分類；在對標Benchmark方面，本次測評將接受過高等教育的人類作為對照，來考評大模型真實能力；在打分標準上，本次測評根據(jù)對產(chǎn)業(yè)、生活的實際價值，對基礎(chǔ)能力、智商能力、情商能力和工具提效四大測評維度進行了權(quán)重設(shè)計；在測評團隊方面，本次測評特邀北京大學(xué)文化與傳播研究所及其他產(chǎn)界、學(xué)界專家全程參與。

　　本次研究設(shè)置了用戶體驗項目，抓取了7月31日—8月4日數(shù)據(jù)，通過人機互動提問等形式，對國內(nèi)主流大模型進行使用體驗評測，旨在為科技企業(yè)調(diào)整努力方向提供參考。

　　報告顯示，與2023年6月相比，當前中國大模型產(chǎn)品進步顯著。但與接受過高等教育的人類相比，大模型在智商、情商等方面還存在一定程度差距。具體來看，訊飛星火在工作提效方面優(yōu)勢明顯，百度文心一言基礎(chǔ)能力仍處領(lǐng)軍水準，商湯商量則在情商方面表現(xiàn)優(yōu)秀，智譜AI-ChatGLM整體表現(xiàn)優(yōu)秀。

　　針對各維度能力測評，該報告還給出了相應(yīng)的案例展示和分析。

　　在基礎(chǔ)能力方面，人類與AI之間的差距并不顯著。課題組分別從語言能力（35%）、AI向善（10%）、跨模態(tài)（20%）和多輪對話（35%）四大指標進行測評。測評顯示，科技企業(yè)大模型中，百度文心一言表現(xiàn)最為搶眼，商湯商量、智譜AI-ChatGLM、360智腦表現(xiàn)優(yōu)良。

　　在智商評估方面，人類在智商方面仍然具有明顯優(yōu)勢。課題組分別從常識知識（20%）、邏輯能力（50%）和專業(yè)知識（30%）方面對科技企業(yè)大模型進行考量。結(jié)果顯示，訊飛星火、智譜AI-ChatGLM表現(xiàn)突出，百度文心一言、昆侖萬維天工表現(xiàn)優(yōu)良。

　　在情商方面，AI與人類之間的差距最為明顯。人類在情緒理解和處理方面通常具有更強的優(yōu)勢，和更靈活的處理能力。通過對處理日常事項（35%）、一語雙關(guān)（30%）、人際關(guān)系（35%）問題進行分析發(fā)現(xiàn)，科技企業(yè)大模型中，商湯商量表現(xiàn)亮眼，百度文心一言、瀾舟科技Mchat、智譜AI-ChatGLM及360智腦均表現(xiàn)優(yōu)良。

　　在工作效率提升方面，課題組重點在工具提效（50%）和生成創(chuàng)新（50%）方面進行考量。結(jié)果顯示，訊飛星火表現(xiàn)最為搶眼，百度文心一言、商湯商量、智譜AI-ChatGLM表現(xiàn)優(yōu)良。不過，盡管AI具有高速度和高效率的優(yōu)勢，但在某些復(fù)雜和具有創(chuàng)新性的任務(wù)中，人類的智慧和想象力仍然具有無法替代的作用。

　　報告認為，雖然在不同領(lǐng)域中，AI和人類表現(xiàn)出不同的優(yōu)劣勢，但在整體上，AI大模型的發(fā)展為人類工作和生活的提質(zhì)增效帶來了重要的積極影響，大模型正在加速走進生活、走進產(chǎn)業(yè)。在本次體驗測評基礎(chǔ)上，研究團隊將繼續(xù)深耕，加強在大模型安全可解釋性、工作提效能力、實際落地情況、產(chǎn)業(yè)優(yōu)秀案例等維度上的探索與研究。

掃描二維碼查看《人工智能大模型體驗報告2.0》全文