一、大模型時(shí)代，AI 技術(shù)在金融行業(yè)的應(yīng)用趨勢(shì)

首先，介紹一下 AI 技術(shù)的發(fā)展歷程，及其在金融行業(yè)的應(yīng)用趨勢(shì)。

從機(jī)器學(xué)習(xí)與 AI 工程化開(kāi)始，企業(yè)通過(guò)構(gòu)建各類(lèi)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)場(chǎng)景，逐步實(shí)現(xiàn)數(shù)字化創(chuàng)新。隨著場(chǎng)景復(fù)雜度的提升和多模態(tài)模型以及融合模型的出現(xiàn)，出現(xiàn)了更多 OCR 結(jié)構(gòu)化數(shù)據(jù)與自然語(yǔ)言數(shù)據(jù)結(jié)合的場(chǎng)景，以及機(jī)器學(xué)習(xí)預(yù)測(cè)與運(yùn)籌優(yōu)化相匹配的場(chǎng)景。這些模型結(jié)合的場(chǎng)景使我們對(duì) AI 基礎(chǔ)平臺(tái)的要求從模型開(kāi)發(fā)升級(jí)到了 ModelOps 階段。在構(gòu)建 ModelOps 系統(tǒng)時(shí)，企業(yè)的數(shù)智化能力也達(dá)到了新的高度。近期，AIGC 的出現(xiàn)利用自然語(yǔ)言而非機(jī)器代碼構(gòu)建數(shù)據(jù)和信息搜索、分析和挖掘，為企業(yè)以 AI 低門(mén)檻進(jìn)入數(shù)智文化新階段鋪平了道路。

可以看到，AIGC 的出現(xiàn)，使得企業(yè)原本分散的 AI 能力開(kāi)始向上發(fā)展到企業(yè)經(jīng)營(yíng)的各個(gè)方面，甚至決策層。這種變革是自頂向下的，是前所未有的。隨著人工智能技術(shù)的發(fā)展，AI 在金融行業(yè)的應(yīng)用也逐漸成為了一個(gè)行業(yè)熱點(diǎn)。從智慧營(yíng)銷(xiāo)、智慧風(fēng)控到信貸審批，AI 技術(shù)正在改變金融行業(yè)的傳統(tǒng)業(yè)務(wù)模式，提高服務(wù)效率，降低運(yùn)營(yíng)成本，同時(shí)為消費(fèi)者帶來(lái)更加便捷和個(gè)性化的金融服務(wù)。

例如，在營(yíng)銷(xiāo)領(lǐng)域，AI 技術(shù)通過(guò)大數(shù)據(jù)及機(jī)器學(xué)習(xí)方法分析營(yíng)銷(xiāo)客戶的消費(fèi)行為和購(gòu)買(mǎi)歷史，更好地了解客戶需求，制定更準(zhǔn)確的營(yíng)銷(xiāo)策略，并向客戶提供更有針對(duì)性的產(chǎn)品和服務(wù)，從而提高了客戶滿意度和營(yíng)銷(xiāo)效果。

在風(fēng)控領(lǐng)域，AI 技術(shù)通過(guò)知識(shí)圖譜及機(jī)器學(xué)習(xí)方法，實(shí)時(shí)分析海量的交易數(shù)據(jù)，挖掘潛在的異常交易行為，從而有效識(shí)別欺詐風(fēng)險(xiǎn)。相較于傳統(tǒng)的人工審核方式，AI 技術(shù)在反欺詐領(lǐng)域的應(yīng)用大大提高了識(shí)別速度和準(zhǔn)確性，降低了金融風(fēng)險(xiǎn)。

而在運(yùn)營(yíng)領(lǐng)域，AI 技術(shù)通過(guò)對(duì)借款人的信用報(bào)告、消費(fèi)行為等數(shù)據(jù)進(jìn)行深度挖掘，實(shí)現(xiàn)快速準(zhǔn)確的信用評(píng)估。這不僅有助于金融行業(yè)降低壞賬率，提高貸款審批效率，還能為借款人提供更加公平合理的貸款利率。隨著 AI 技術(shù)的不斷演進(jìn)，近期大模型技術(shù)的出現(xiàn)將對(duì)金融行業(yè)的未來(lái)應(yīng)用產(chǎn)生深遠(yuǎn)的影響。

下面從三個(gè)方面分析大模型技術(shù)如何影響金融行業(yè)的場(chǎng)景應(yīng)用。

首先，大模型技術(shù)變革的核心對(duì)象是知識(shí)，它將降低知識(shí)的獲取成本，提升知識(shí)的應(yīng)用能力，并輻射到更廣泛的專(zhuān)業(yè)領(lǐng)域。對(duì)于金融行業(yè)這樣一個(gè)知識(shí)密集型行業(yè)來(lái)說(shuō)，這將帶來(lái)巨大的影響。

其次，大模型的應(yīng)用將逐步滲透到包括客服、營(yíng)銷(xiāo)、風(fēng)控等業(yè)務(wù)創(chuàng)新的多個(gè)領(lǐng)域。大模型表現(xiàn)出的上下文學(xué)習(xí)泛化性以及復(fù)雜推理能力，將重塑文字、數(shù)據(jù)、圖像等處理工具，帶來(lái)支持工作者的效率、體驗(yàn)以及價(jià)值的提升。這也意味著金融從業(yè)人員的專(zhuān)業(yè)工作方式和方法可能會(huì)發(fā)生很大的變化。通過(guò) AI 大模型賦能金融從業(yè)者，可以提高工作效率并降低成本。

最后，大模型的出現(xiàn)大幅降低了 AI 技術(shù)的應(yīng)用門(mén)檻，這也可能重塑未來(lái)的人機(jī)交互體驗(yàn)。在金融行業(yè)，大模型未來(lái)可能將提供更智能、個(gè)性化、高效的交互方式，甚至顛覆金融行業(yè)的客戶服務(wù)模式。

從宏觀角度看，通過(guò)大模型助手的應(yīng)用，銀行業(yè)在單人節(jié)、單人、單人產(chǎn)能等核心競(jìng)爭(zhēng)力環(huán)節(jié)有望實(shí)現(xiàn)大幅提升。微觀層面上，大模型可以在銀行業(yè)的前中后各個(gè)環(huán)節(jié)實(shí)現(xiàn)規(guī)模化降本增效。

具體來(lái)說(shuō)，在前臺(tái)，大模型可以應(yīng)用于分支行人員的聊天機(jī)器人和知識(shí)中心，幫助他們減少業(yè)務(wù)制度和業(yè)務(wù)條款的搜索時(shí)間。在中臺(tái)，大模型可以為運(yùn)營(yíng)和風(fēng)控人員生成風(fēng)險(xiǎn)報(bào)告，使他們能夠更高效地訪問(wèn)數(shù)據(jù)和分析報(bào)告來(lái)進(jìn)行決策。在后臺(tái)，大模型可以作為代碼生成工具，幫助科技人員提升開(kāi)發(fā)效率和質(zhì)量。

傳統(tǒng) AI 模型與大模型在金融行業(yè)中的應(yīng)用各有優(yōu)劣。傳統(tǒng) AI 模型在處理特定任務(wù)時(shí)表現(xiàn)出較高的精確度，且訓(xùn)練和運(yùn)行所需的計(jì)算資源相對(duì)較少。相比之下，大模型在學(xué)習(xí)能力和泛化能力上具有顯著優(yōu)勢(shì)，可以處理更復(fù)雜的任務(wù)，甚至可以處理多類(lèi)型的多模態(tài)任務(wù)。然而，大模型的劣勢(shì)在于其參數(shù)量巨大，導(dǎo)致訓(xùn)練和運(yùn)行需要大量的計(jì)算資源。此外，大模型的工程化難度也遠(yuǎn)高于傳統(tǒng) AI 模型。因此，在實(shí)際應(yīng)用中，選擇使用傳統(tǒng) AI 模型還是大模型需要進(jìn)行全面的權(quán)衡和評(píng)估。

大模型在金融行業(yè)的實(shí)際應(yīng)用中存在三個(gè)主要難點(diǎn)。首先，大模型的工程化難度較高，目前尚無(wú)成熟的技術(shù)框架可供參考。其次，由于金融行業(yè)對(duì)應(yīng)用的可靠性和準(zhǔn)確性要求極高，大模型在這方面的表現(xiàn)可能會(huì)受到影響。第三個(gè)問(wèn)題是性?xún)r(jià)比。大模型的資源消耗巨大，但其單個(gè)應(yīng)用的用戶量可能受限，因此如何平衡大模型的投入與產(chǎn)出關(guān)系需要仔細(xì)衡量。為了實(shí)現(xiàn)大模型在金融行業(yè)的廣泛應(yīng)用，我們需要盡量降低大模型落地的難度，以實(shí)現(xiàn)規(guī)模化的產(chǎn)業(yè)應(yīng)用。

·

金融行業(yè) AI 基礎(chǔ)軟件的演進(jìn)路線可劃分為四個(gè)階段。早期階段，AI 能力零散，應(yīng)用建設(shè)與垂直領(lǐng)域建模能力逐步加強(qiáng)。隨后，逐漸更加關(guān)注并加強(qiáng)工具能力平臺(tái)建設(shè)，統(tǒng)一數(shù)據(jù)算力、工程化能力、資產(chǎn)和運(yùn)營(yíng)，實(shí)現(xiàn) AI 體系的治理和運(yùn)營(yíng)。

隨著大模型的出現(xiàn)，我們已進(jìn)入第四個(gè)階段，即大模型適配的 AI 基礎(chǔ)軟件。通過(guò)建設(shè)白盒大模型訓(xùn)練和微調(diào)能力，企業(yè)可以持續(xù)構(gòu)建 AI 和 AIGC，將智能化作為企業(yè)持續(xù)創(chuàng)新的核心競(jìng)爭(zhēng)力。這有助于降低 AI 建設(shè)與應(yīng)用的門(mén)檻，逐步轉(zhuǎn)向智能化，并引領(lǐng)金融行業(yè)的經(jīng)營(yíng)與運(yùn)營(yíng)。

二、大模型時(shí)代，AI 基礎(chǔ)軟件在金融行業(yè)的設(shè)計(jì)思路

金融行業(yè) AI 技術(shù)軟件在進(jìn)入大模型時(shí)代后，需要一種新的設(shè)計(jì)思路，以適應(yīng)大模型在金融行業(yè)的應(yīng)用需求。

在金融行業(yè) AI 技術(shù)軟件演進(jìn)的第四個(gè)階段，我們提出了一種基于大模型的新的 AI 設(shè)計(jì)模式，主要包括以下四個(gè)方面：

• AIaaS 和數(shù)據(jù)驅(qū)動(dòng)：大模型強(qiáng)調(diào)數(shù)據(jù)驅(qū)動(dòng)，因此整個(gè) AI 基礎(chǔ)軟件的架構(gòu)需要構(gòu)建一個(gè)數(shù)據(jù)管道清洗系統(tǒng)，以支持模型的訓(xùn)練和更新。
• 知識(shí)管理系統(tǒng)：通過(guò)知識(shí)圖譜或知識(shí)庫(kù)來(lái)支持模型的知識(shí)獲取和沉淀。
• 可解釋性工具：由于大模型需要可解釋性，而生成結(jié)果存在不可靠性，需要可解釋工具來(lái)支持大模型的可解釋性和監(jiān)督工作。
• 調(diào)優(yōu)自動(dòng)化：大模型需要通過(guò)自動(dòng)機(jī)器學(xué)習(xí)的方式來(lái)實(shí)現(xiàn)模型的優(yōu)化和智能化調(diào)優(yōu)。

為了應(yīng)對(duì)大模型對(duì)數(shù)據(jù)驅(qū)動(dòng)的需求，在原有的基礎(chǔ)平臺(tái)中增加了向量數(shù)據(jù)庫(kù)，構(gòu)建了大模型所需的知識(shí)管理能力，并增強(qiáng)了數(shù)據(jù)準(zhǔn)備、標(biāo)注以及數(shù)據(jù)增強(qiáng)能力。為了更好地服務(wù)基礎(chǔ)模型層，我們搭建了一套大模型工具鏈，其中包括提示詞管理、多種 PEFT 微調(diào)方法的集成以及一鍵式 RLHF。這些工具旨在構(gòu)建大模型的自動(dòng)化調(diào)優(yōu)能力。最后，在模型服務(wù)模塊中，我們?cè)黾恿舜竽K的支持，以便保證大模型的可解釋性和監(jiān)督。這些工具的增加使得我們的 AI 基礎(chǔ)軟件設(shè)計(jì)目標(biāo)更加完善，為大模型的應(yīng)用提供了強(qiáng)有力的技術(shù)支持。

為了實(shí)現(xiàn)上述 AI 基礎(chǔ)軟件設(shè)計(jì)目標(biāo)，我們構(gòu)建了一套完整的 AI 基礎(chǔ)軟件設(shè)計(jì)架構(gòu)。該架構(gòu)的底層是算力資源層，包括各類(lèi)高性能異構(gòu) GPU 資源、高性能存儲(chǔ)資源和高性能網(wǎng)絡(luò)資源。之上是功能強(qiáng)化的 AI 技術(shù)平臺(tái)，包括算力資源存儲(chǔ)和管理調(diào)度模塊，以及從數(shù)據(jù)標(biāo)注到模型訓(xùn)練再到模型推理的全套 ModelOps 九章云極DataCanvas APS 機(jī)器學(xué)習(xí)產(chǎn)品模塊。這兩個(gè)模塊確保了 AI 模型在開(kāi)發(fā)和訓(xùn)練過(guò)程中的穩(wěn)定高效，構(gòu)成了 AI 中臺(tái)的初始兩層模塊。

為了使大模型更好地支持業(yè)務(wù)場(chǎng)景應(yīng)用，增加了模型能力層、模型工具層和應(yīng)用支撐層。模型能力層包括已引入的基礎(chǔ)開(kāi)源或商用大模型、未來(lái)可能引入的行業(yè)大模型以及根據(jù)行內(nèi)語(yǔ)料預(yù)訓(xùn)練的企業(yè)大模型。這些大模型為上層大模型應(yīng)用提供了基礎(chǔ)支撐。大模型工具層則包含大模型優(yōu)化及應(yīng)用擴(kuò)展能力，使大模型能夠更有針對(duì)性地服務(wù)特定應(yīng)用。應(yīng)用支撐層最上層，提供了一個(gè)大小模型結(jié)合乃至多個(gè)大模型返回結(jié)果的決策引擎，使多個(gè)大模型能夠支撐業(yè)務(wù)應(yīng)用并返回最佳結(jié)果。小模型輔助大模型生成結(jié)果，從而提高大模型生成結(jié)果的準(zhǔn)確性和可控性。

大模型工具層的 6 個(gè)主要功能模塊包括：提示詞管理器、微調(diào)訓(xùn)練工具、樣本數(shù)據(jù)生成器、大模型后評(píng)估、向量數(shù)據(jù)庫(kù)、大模型訓(xùn)練框架。

上圖展示了整個(gè) AI 基礎(chǔ)軟件如何通過(guò)大模型的語(yǔ)言能力、知識(shí)能力、邏輯與復(fù)雜問(wèn)題推理能力，以及通用任務(wù)能力等關(guān)鍵能力，實(shí)現(xiàn)敏捷業(yè)務(wù)賦能。通過(guò)上述 AI 基礎(chǔ)軟件的架構(gòu)和大模型擴(kuò)展能力，進(jìn)一步創(chuàng)造出服務(wù)于場(chǎng)景的協(xié)同辦公、知識(shí)管理、內(nèi)容生成以及數(shù)據(jù)分析能力。這些能力在營(yíng)銷(xiāo)、風(fēng)控、運(yùn)營(yíng)、研發(fā)、財(cái)務(wù)以及投顧等場(chǎng)景中實(shí)現(xiàn)了業(yè)務(wù)的敏捷賦能。

三、大模型時(shí)代，AI 基礎(chǔ)軟件在金融行業(yè)的部署應(yīng)用暢想

在 AI 基礎(chǔ)軟件的應(yīng)用過(guò)程中，我們不僅使用了大型模型，還使用了小型模型。通過(guò)大小模型的結(jié)合，能夠更好地服務(wù)金融行業(yè)，實(shí)現(xiàn) AI 基礎(chǔ)軟件對(duì)金融業(yè)務(wù)的快速賦能。

展望未來(lái)，大模型時(shí)代的 AI 基礎(chǔ)軟件將在金融行業(yè)部署應(yīng)用方面產(chǎn)生深遠(yuǎn)影響。我們可以預(yù)見(jiàn)，AI 技術(shù)軟件將在交互方式變革、產(chǎn)品種類(lèi)豐富以及商業(yè)模式創(chuàng)新三個(gè)方面，進(jìn)一步對(duì)金融行業(yè)產(chǎn)生影響。通過(guò)構(gòu)建一個(gè)新興的生態(tài)平臺(tái)，實(shí)現(xiàn)一個(gè)超級(jí)應(yīng)用，該應(yīng)用可以覆蓋金融行業(yè)的所有應(yīng)用場(chǎng)景，提供統(tǒng)一的入口，從而實(shí)現(xiàn) AI 技術(shù)軟件對(duì)金融行業(yè)的迅速賦能。