可利邦助力農(nóng)商銀行首席信息官聯(lián)席會(huì)，首次發(fā)布大模型應(yīng)用實(shí)驗(yàn)室創(chuàng)新方案
在金融科技不斷革新的背景下，面對(duì)大模型、生成式AI等全新的行業(yè)浪潮，如何在這波數(shù)字化浪潮中精準(zhǔn)出擊，已成為農(nóng)信機(jī)構(gòu)的廣泛共識(shí)。北京可利邦信息技術(shù)股份有限公司憑借其在數(shù)字金融領(lǐng)域的深厚積淀和技術(shù)優(yōu)勢(shì)，正成為這一領(lǐng)域的關(guān)鍵推動(dòng)者。
8月20日，農(nóng)商銀行首席信息官聯(lián)席會(huì)2024-2025年度課題開題會(huì)暨農(nóng)信機(jī)構(gòu)大模型實(shí)驗(yàn)室服務(wù)與產(chǎn)品方案發(fā)布會(huì)在廣東深圳隆重召開。此次會(huì)議由中國農(nóng)村金融雜志社主辦，北京可利邦信息技術(shù)股份有限公司承辦，由來自18個(gè)省級(jí)聯(lián)社（農(nóng)商銀行）的近50位科技領(lǐng)域的領(lǐng)導(dǎo)和專家參與，共同探討如何在數(shù)字金融時(shí)代推動(dòng)行業(yè)創(chuàng)新和科技進(jìn)步。
課題開題環(huán)節(jié)
在課題開題環(huán)節(jié)，北京農(nóng)商銀行、陜西省聯(lián)社、湖北省聯(lián)社、山東省聯(lián)社、吉林省聯(lián)社、貴州省聯(lián)社6家課題牽頭單位的代表分別匯報(bào)了各自的研究進(jìn)展和初步成果。隨后進(jìn)入的交流討論環(huán)節(jié)，各省科技相關(guān)負(fù)責(zé)領(lǐng)導(dǎo)就今年的課題調(diào)研內(nèi)容、成果共享機(jī)制、成果適用性等方面提出了觀點(diǎn)與建議，并得到了參會(huì)領(lǐng)導(dǎo)和專家的高度認(rèn)可。
農(nóng)金大模型實(shí)驗(yàn)室發(fā)布
會(huì)議第二部分，北京可利邦信息技術(shù)股份有限公司技術(shù)中心總經(jīng)理蔣堃發(fā)布了“農(nóng)信機(jī)構(gòu)大模型應(yīng)用實(shí)驗(yàn)室服務(wù)與產(chǎn)品”。這一創(chuàng)新實(shí)驗(yàn)室由中國農(nóng)村金融雜志社與北京可利邦信息技術(shù)股份有限公司及各省級(jí)農(nóng)信機(jī)構(gòu)和縣市農(nóng)商銀行共建，旨在為農(nóng)商銀行及相關(guān)行業(yè)提供高效的數(shù)字化解決方案。實(shí)驗(yàn)室以“共建、共享、共贏”為理念，圍繞四大方向——算力資源整合與共享、聯(lián)合建模與協(xié)作、隱私計(jì)算與數(shù)據(jù)安全、業(yè)務(wù)模式創(chuàng)新與優(yōu)化，提供定制化的產(chǎn)品和服務(wù)，以滿足農(nóng)信機(jī)構(gòu)及相關(guān)行業(yè)的多樣化需求。
蔣堃詳細(xì)介紹了農(nóng)金實(shí)驗(yàn)室提供的服務(wù)，包括
1.場(chǎng)景試用與驗(yàn)證：實(shí)驗(yàn)室開放大模型技術(shù)的業(yè)務(wù)場(chǎng)景供農(nóng)信機(jī)構(gòu)試用，幫助評(píng)估技術(shù)在實(shí)際業(yè)務(wù)中的可行性和效果，降低應(yīng)用風(fēng)險(xiǎn)。
2.實(shí)戰(zhàn)培訓(xùn)與體驗(yàn)營(yíng)：實(shí)驗(yàn)室定期舉辦培訓(xùn)和體驗(yàn)營(yíng)，提供大模型開發(fā)、部署與應(yīng)用的全面培訓(xùn)，提升技術(shù)人員的核心技能。
3.概念驗(yàn)證（POC）測(cè)試：提供POC測(cè)試服務(wù)，支持農(nóng)信機(jī)構(gòu)在實(shí)施前進(jìn)行小規(guī)模驗(yàn)證，以評(píng)估技術(shù)方案的實(shí)際效果和適配性，為后續(xù)部署提供數(shù)據(jù)支持。
4.定制化大模型一體機(jī)解決方案：實(shí)驗(yàn)室提供涵蓋硬件和軟件的定制化大模型一體機(jī)解決方案，滿足金融行業(yè)的私有化部署和合規(guī)要求，降低開發(fā)門檻，提升部署效率，具體產(chǎn)品包括：
? 征騰?智信服務(wù)器(6U) RH系列——高性能智能計(jì)算一體機(jī)：搭載8塊寒武紀(jì)MLU590-M9（96G）智算智能卡，專為大規(guī)模大模型訓(xùn)練和推理設(shè)計(jì)。單臺(tái)設(shè)備即可滿足百億級(jí)大模型的微調(diào)訓(xùn)練需求。支持通過高速ROCE或IB網(wǎng)絡(luò)實(shí)現(xiàn)訓(xùn)練集群擴(kuò)展，具有高擴(kuò)展性、靈活性和魯棒性。
? 征騰?智信服務(wù)器(4U)RH系列——高性價(jià)比智算一體機(jī)：搭載寒武紀(jì)MLU370-X8（48G）智算智能卡，提供較高的性價(jià)比，能夠支持十億級(jí)大模型的微調(diào)訓(xùn)練，適合中小規(guī)模的業(yè)務(wù)應(yīng)用。
? 征騰?智信服務(wù)器(2U)RH系列——輕量級(jí)推理一體機(jī)：搭載2塊寒武紀(jì)MLU370-X8（48G）智算智能卡，設(shè)計(jì)用于簡(jiǎn)單的大模型推理場(chǎng)景，尤其適用于如RAG（檢索增強(qiáng)生成）模型等應(yīng)用場(chǎng)景，兼顧性能與成本。
同時(shí)，為了滿足農(nóng)信機(jī)構(gòu)不同應(yīng)用場(chǎng)景的需求，實(shí)驗(yàn)室定制的大模型場(chǎng)景應(yīng)用方案涵蓋智能營(yíng)銷、公文助手、知識(shí)助手等多種應(yīng)用場(chǎng)景，為農(nóng)信機(jī)構(gòu)提供全方位的技術(shù)支持。
最后，蔣堃回答了與會(huì)嘉賓提出的關(guān)于技術(shù)細(xì)節(jié)和未來合作的提問，進(jìn)一步闡明了實(shí)驗(yàn)室在推動(dòng)農(nóng)商銀行數(shù)字化轉(zhuǎn)型中的關(guān)鍵作用。通過這些服務(wù)，可利邦將幫助農(nóng)信機(jī)構(gòu)更好地應(yīng)對(duì)數(shù)字化轉(zhuǎn)型中的挑戰(zhàn)，實(shí)現(xiàn)技術(shù)創(chuàng)新與業(yè)務(wù)增長(zhǎng)的雙重目標(biāo)。
大模型一體機(jī)展示
為了進(jìn)一步展示大模型技術(shù)的實(shí)際應(yīng)用，可利邦在會(huì)議外場(chǎng)專門設(shè)置了大模型應(yīng)用場(chǎng)景一體機(jī)的演示展臺(tái)，并安排了現(xiàn)場(chǎng)展示環(huán)節(jié)。通過直觀展現(xiàn)智能客服、公文助手等多個(gè)應(yīng)用場(chǎng)景的實(shí)際效果，充分展示了大模型技術(shù)在實(shí)際工作和業(yè)務(wù)中的應(yīng)用價(jià)值和技術(shù)潛力。這一展示受到了與會(huì)嘉賓的高度關(guān)注，吸引了眾多嘉賓駐足體驗(yàn)，并引發(fā)了廣泛討論。
此次會(huì)議匯聚了多省省級(jí)聯(lián)社（農(nóng)商銀行）首席信息官及科技條線領(lǐng)導(dǎo)與負(fù)責(zé)人，聚焦行業(yè)科技熱點(diǎn)，充分發(fā)揮了“農(nóng)商銀行首席信息官聯(lián)席會(huì)”在行業(yè)交流中的重要作用?？衫顚l(fā)揮其在數(shù)字金融創(chuàng)新與進(jìn)步中的引領(lǐng)作用，進(jìn)一步與農(nóng)信機(jī)構(gòu)共同加快數(shù)字化轉(zhuǎn)型進(jìn)程。
本文部分內(nèi)容來源于：https://mp.weixin.qq.com/s/mgMObK_ptNhBbA182mcXrA
京ICP備2021033509號(hào)