金融大模型应用的机遇与挑战

汪照辉
大模型到行业应用通常需要基于行业数据进行再训练和调整,称为垂直行业大模型。大模型就类似于一个普通人,而行业大模型类似于行业专家,需要学习行业的专业知识。

本文来自微信公众号“twt企业IT社区”,作者/汪照辉,中国银河证券架构师,专注于容器云、微服务、DevOps、数据治理、数字化转型等领域,对相关技术有独特的理解和见解。擅长于软件规划和设计,提出的“平台融合”的观点越来越得到认同和事实证明。发表了众多技术文章探讨容器平台建设、微服务技术、DevOps、数字化转型、数据治理、中台建设等内容,受到了广泛关注和肯定。

近期每场会议和活动都少不了大模型的话题。毫不夸张地说,大模型在开创一个新的时代,不久的将来势必会带来质的变化。

大模型本质特征

大模型通常指大语言模型(Large Language Model,LLM),是基于深度学习算法的自然语言处理技术,是通用大模型。大模型也在从单一自然语言处理模态向语音、图像等多模态大模型演进。目前国内外推出了众多的大模型,国内就不下上百款,也因此被称为“百模大战”或“千模大战”。但很多所谓的“大模型”仅是叫“大模型”而已,不管参数量多少,都不能称为真正的大模型。参数量是大模型的一个特征,但不是本质特征。大模型的本质特征是涌现性,是真正实现了数据量从量变到质变的过程,就像人生顿悟,达到了一种新的境界,是经历经验(数据)和不断思考(训练)的结果。因此,不具备涌现性能力的大模型可以说都是伪大模型。

大模型说到底还是个工具。不能小看它,也无需神话它。大模型是数据训练从量变到质变的结果,就像人从小不断地学习、思考,最终成为了大家和圣贤。它的应用也会带给我们量变到质变的结果。

从通用大模型到企业大模型

大模型到行业应用通常需要基于行业数据进行再训练和调整,称为垂直行业大模型。大模型就类似于一个普通人,而行业大模型类似于行业专家,需要学习行业的专业知识。而企业又各有自己的特点,因此从行业大模型到企业业务大模型应用,也是一个需要调整和学习的过程。也因此,我也非常同意工行夏总的观点,企业大模型落地可能需要遵循通用大模型——行业大模型——企业大模型的模式。通用大模型加行业专业知识训练为行业大模型,而行业大模型加企业特色知识微调为企业大模型,应用于企业业务。

640 (1).png

国内大模型厂商的出路可能也在于和行业协会或监管机构合作,促进行业通用大模型的落地,然后到企业终端应用。跨过行业通用大模型直接应用通用大模型到企业业务,不是不可以,而是成本和效果会事倍功半。

金融大模型应用面临的挑战和机遇

“金融”关系国计民生,因此金融行业是个严监管的行业,合规和安全是金融人时刻紧绷的弦。不过在金融行业积极进行金融科技转型,实现数字化和智能化过程中,大模型无疑是一个高效的赋能工具。因此,大模型在金融行业的应用,既面临着众多的挑战,同样也是历史的机遇。

目前,大模型已经在金融行业有了众多的应用尝试,比如在客服、文档生成、代码生成等方面。但大模型的应用也面临着数据、算力、合规和安全、人才、架构等问题和挑战。

算力是现实情况,但对信创算力是个很好的机遇。通过异构GPU卡构建算力资源池,有效复用算力资源无论从架构或收益等方面,都是需要考虑的问题。数据是生产资料,适用于金融行业的金融大模型可能需要基于金融行业数据进行模型训练。一家企业数据量有限,而且每家企业不可能去训练自己的大模型,至多进行微调,这也是目前众多金融机构利用开源大模型或采购商用大模型在尝试的工作。但这样直接应用通用大模型到金融业务,往往并不能得到理想的结果,面临着大模型错误输出和幻觉等问题。因此,金融大模型可能需要金融监管机构或行业协会等来牵头基于通用大模型加通用金融数据进行训练。这对大模型厂商来说也是个机遇。金融大模型是金融行业的垂直大模型,至少在金融行业通用的合规、安全、反洗钱、风险管控等方面有所作为。当前众多金融机构使用的开源大模型面临着开源本身所带来的严重的安全问题:一方面利用开源大模型,企业往往不具备代码的掌控能力,仅仅是应用,对代码内漏洞和风险几乎无所知,对金融安全是巨大的隐患;另一方面,开源模型也面临着随时闭源和无人维护的困境;再者,大模型的不可解释性,也是大模型在金融行业应用面临的一个合规问题。因此通过监管机构和行业协会来牵头训练金融行业大模型也许可以避开这样的合规问题。

大模型是工具,工具怎么用取决于用它的人。因此合适的人才是大模型应用的关键角色。我曾经说过,在数字化时代,数据和人才是企业和核心资产。数据作为基础生产要素,是AI和大模型的原料,缺数据则巧妇难为无米之炊。这也是目前很多大模型效果不好的重要原因,在于数据量不足和数据质量不高。其实,大模型在企业的应用可能缺少了一环,就是企业和行业知识库的建设。知识库代表着经过处理和沉淀的知识集,是高质量数据的组成部分,但目前鲜有企业构建成熟的知识库体系。有了数据,但数据怎么用取决于人才、取决于人才的思维。有数据无人才就像有米有面却没有厨师,依然难有可口的饭菜。虽然有些唯心,但同样的数据在不同的人手里,其体现价值是不一样的,因此数据人才和大模型人才等的培养是大模型应用的关键。

生成式AI场景和交叉领域创新

大模型应用场景在于生成式AI场景,比如金融客户服务,能和金融客户无障碍地沟通并解答客户的问题;比如投研报告生成,基于基础材料自动生成投研报告;比如数字人、数字员工用于直播业务等等。这都需要强大、专业的知识库的支持,甚至是跨领域知识库的支持。因此大模型的应用往往意味着不是单一的、隔离的业务,区别于单一领域判定式AI的对数据的分类或预测,而需要融合性或交叉性的知识,需对数据进一步的加工处理。既需要通用性能力,也需要专业性知识,还需要业务特色性知识。典型的既要、也要、还要。其实,在数字化阶段的创新,也往往在业务交叉领域。没有业务交叉,很难有创新,至多是优化而已。就像没有碰撞就没有火花一样,大模型的应用的机遇在于业务交叉领域,同时挑战也在于业务交叉领域,包括多业务复合型人才的培养和生产关系架构的调整,都是不小的挑战。

说起架构,其实也在于大模型应用需要全局的思维和系统性的视角。架构是系统的结构和支持动态变化的能力,也是对系统的各种元素、组件等之间关系的设计和组织。技术是生产力,体现在生产工具IT系统上,而对技术、流程和人力等组织的架构就是一种生产关系。大模型作为一种新质生产力,决定了要有一种新质生产关系与之适应。企业大模型是基于通用大模型和行业大模型上的进一步补充和训练,所以它不是某个单一领域的模型,而是具备行业全面的知识体系。通过应用金融大模型进行创新,就需要系统性的思维和体系化的能力支撑。比如说从算力资源池到中台可复用能力建设及对各类应用的敏捷支撑,以大模型赋能从前台到后台,这其实和IT架构分布式融合演进趋势是一致的,和社会的专业化分工协作的演进是一致的。

大模型应用尝试才刚刚起步,真正的金融大模型尚未真正构建。大模型在金融行业的应用前景广阔,但目前也面临着算力、数据、人才、合规等众多挑战。不过这些挑战反过来对于金融企业、行业机构和供应商等也是创新的机遇。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论