保险业大语言模型的应用场景分析与规划

陈萍春
在人工智能领域,数据通常被表示为高维空间中的向量。这些向量通过模型参数的向量计算,实现了从原始数据到预测结果的转换。

本文来自微信公众号“twt企业IT社区”,作者/陈萍春。

一、大模型的技术原理

LLM,即大语言模型,指的是通过大规模文本数据训练后,能够理解和生成自然语言的模型。尽管对大部分人来说,大模型像是一个黑盒,但为了更有效利用这些技术,理解其背后的技术原理至关重要。下文将结合个人的理解,对一些技术原理进行简要解读。

向量与向量计算:在人工智能领域,数据通常被表示为高维空间中的向量。这些向量通过模型参数的向量计算,实现了从原始数据到预测结果的转换。

Transformer架构:Transformer架构是一种基于自注意力机制的神经网络架构。自注意力机制使得模型能理解不同位置的短语之间的依赖关系,同时能更好地支持并行计算,提升大规模数据处理效率。因此,Transformer架构已成为构建大型模型的事实标准。

大模型训练过程:训练过程主要包括前向传播、损失计算、反向传播和参数优化四个步骤,前向传播根据现有模型参数计算预测结果;损失计算衡量预测结果与真实值之间的差距;反向传播则利用这个差距值,通过梯度下降算法进行反向计算,确定如何调整模型参数以更接近真实值;参数优化基于梯度的方法修改模型参数值。不断迭代四个训练步骤,逐步缩小预测结果与真实值之间的差距,从而完成大模型的训练。

大模型推理过程:相比之下,推理过程相对简单。输入数据经过模型计算后产生输出结果,输出结果随后作为新的输入继续迭代,使推理结果逐渐收敛。因此,在使用类似ChatGPT的应用时,我们通常会看到逐词流式输出的现象。

利用判别模型优化基座模型:根据特定的评价标准,对大模型模型的回答进行排序,再用这些排序数据去训练出一个独立的判别模型。利用判别模型去评估基座模型的表现,进而帮助大模型模型更新模型参数,生成更高质量的回答。

策略精调(Fine Tuning):对于中小企业来说,不具备训练基座大模型的算力、数据等资源。为降低训练成本,往往在基座大模型基础上,采用精调方法来增强特定领域的专业能力。为提升模型生成内容的准确性,需要使用一定规模的高质量人工标注数据集(格式为<指令,答案>),确保指令覆盖各种实际场景和应用领域。

二、大模型的能力分析

自ChatGPT问世以来,资本市场热情高涨,众多企业纷纷涉足大模型应用。然而对于企业端的应用,技术人员应更务实,更关注实用性,明确新技术的局限性,并警惕技术泡沫。

语言理解能力

大模型经过超大规模文本数据的训练,因此能够理解绝大多数的词汇、语境和语义。然而,其局限性在于:语言是不断发展的,一些新名词、专业词汇可能并不被大模型完全理解;语言理解需要结合具体的语境或上下文,否则很容易产生误解。为避免语言理解出现偏差,一方面,大模型需要不断更新和进化,吸收新知识;另一方面,对于特定领域,大模型需要针对该领域的知识进行强化学习。此外,记忆多轮对话作为语义理解的上下文,以及引入反馈确认过程,也是避免误解的有效手段。

内容生成能力

大模型能够高效地生成高质量的文本内容,涵盖文章、故事、诗歌、代码等。尽管大模型展现了多样性和创新性的内容生成能力,但其生成内容的质量和准确性在某些领域,特别是那些不擅长的领域,仍有待提高。此外,生成的内容也可能受到训练数据的影响,涉及版权、知识产权和隐私保护等问题。因此,在专业领域应用大模型时,也应审慎看待其生成的内容,做好审核与验证工作,避免出现严重错误。

推理能力

推理能力是大模型智能水平的重要体现,它使大模型能够理解复杂指令,将复杂问题分解为简单步骤,实现多步骤推理。然而,目前大模型的推理能力尚不完善,其内部推理过程缺乏解释性。因此,在应用过程中需要人工介入,并注重添加前置引导、推理审核、结果修正等环节,不能完全依赖大模型的自动化执行。

工具协同能力

大模型能够与现有工具和平台协同工作,共同提高工作效率。通过提供API等接口,大模型可以与其他工具进行交互;同时,大模型也可以通过训练或Agent增强的方式,调用其他工具和平台的接口。工具协同被视为大模型应用的一个重要研究方向,但在这一过程中,数据安全与隐私保护应成为重点考虑的因素。

多模态能力

大模型不仅限于处理文本,还能理解和生成图像、视频等多媒体内容,这被称为多模态能力。然而,多模态技术更具挑战性,且可能放大大模型在内容理解和生成方面的缺陷。

三、保险业应用场景分析

尽管现有大模型的能力仍有待完善,但其快速的进化迭代预示着其巨大的应用潜力。对于保险业而言,深入分析和挖掘应用场景,对于推动业务创新与智能化转型具有重要意义。

用户分析

对企业内部员工,大模型可扮演工作助理的角色。根据员工的角色、需求和权限,为其提供定制化的服务功能;对保险客户,通过在业务系统内嵌大模型接口服务,进一步提升保险服务水平,优化客户体验。

独立应用场景

该场景对应于在企业内部构建基于大模型的类ChatGPT人机对话系统。相较于个人使用,企业端应用更注重特定业务领域、私有数据与应用定制化。针对特殊业务领域和私有数据的特点,可采用RAG(检索增强生成)方案,整合内部知识库、互联网等信息源,为大模型提供更为准确和全面的信息支持;针对应用定制化的特点,借助Prompt工程定制符合企业需求的AI Agent,确保大模型能够与企业业务无缝对接。

在独立应用场景中,大模型可为企业提供多种类型的AI助手,如营销助手、文本分析助手、文档编写助手等,助力企业员工高效完成各项工作任务。

工具协同场景

此场景主要关注大模型与企业现有工具和平台的协同工作。通过用户驱动,实现工具间的协同,进而达到更高维度的自动化。协同方式主要包括大模型调用其他系统API、其他系统调用大模型API以及与大模型结合实现RPA自动化。大多数系统有开放API,特殊系统则通过RPA方式,最终实现各类型系统间的协同。

基于用户权限实现通用级与专用级两类工具链服务,通用级工具链服务与员工办公系统相结合,如OA、财务报销、视频会议、员工培训等,提升员工工作效率;专业级工具链服务与保险业务系统深度结合,实现更个性化的智能问答、应用导航等功能。同时,在业务系统中内嵌大模型服务,使客服、财务、资管、风控、产品等部门能够更便捷地完成数据处理分析工作。

在这种工具链服务场景中,由于涉及多个工具和平台的协同工作,因此风险相对较高。为确保稳定运行,需考虑用户角色访问控制、输出标准化、用户确认与反馈环节、全过程监控、回溯与回退、禁止特殊操作等功能。这些措施将有助于降低误解和输出不稳定性的风险,确保应用场景的顺利实施。

应用风险与防范

对于保险业而言,大模型技术的应用既带来了机遇,也伴随着风险和挑战。

首先是隐私安全风险,对于金融行业来说,无论是算力、模型还是数据,都期望是独享的,但也需要平衡风险与收益,做好权衡与取舍。因此,保险业应根据应用场景做分类,并结合技术和管理手段进一步降低安全风险。

其次是可能存在投入大、价值小的风险,大模型的应用落地对算力、算法和数据都提出了较高的要求,大多数中小保险公司往往需要从零开始建设,但技术应用本身还尚未成熟,技术如何赋能公司业务是难题。因此,保险业要重点做好赋能业务价值的评估,明确高价值的大模型应用场景。

最后是技术风险高,大模型不仅需要投入大量资源,大多数企业缺乏自研基座大模型能力,技术门槛高,相关技术也还在加速迭代。因此,保险公司要优先在一些难度低、价值高的场景下做试点应用,做好人才储备与培养。

四、选型与规划

近年来,随着国内经济的放缓和长期利率的下降趋势,保险业面临着日益加剧的经营压力。新形势下,保险公司坚守稳健经营的原则,注重价值创造,并致力于走高质量发展的道路。在技术层面,保险公司需要更加敏锐地关注新技术的迭代,并加强新技术在业务赋能方面的价值评估。

在新技术规划落地的实践中,通常有两种方式可供选择:“小步快跑”和“长远布局”。对于大模型的落地,更推荐“小步快跑”,即先以小成本进行试点应用,再根据实际效果逐步推广。这主要是因为GPU算力成本高昂,模型算法需要不断迭代,而企业在经验和高质量标注数据方面相对不足。此外,大模型在企业端的应用尚未形成规模,缺乏成熟的应用案例,应用场景与其价值也尚未完全明确。

大模型根据应用场景和训练数据的不同,可分为通用大模型和垂直领域大模型;根据部署方式的不同,又可分为在线大模型和私有部署大模型。每种类型的大模型都有其独特的优缺点,因此,企业应根据自身的需求、资源和目标来制定具体的方案规划。

640 (1).png

表1大模型方案的比较

对于保险业而言,专业领域大模型的需求迫切,但目前尚缺乏合适的定制方案。同时,由于隐私安全的要求,保险业需要考虑私有部署的方式,但在线大模型在技术领先方面尚具有明显的优势。因此,大规模私有化部署的时机可能尚不成熟。

综上所述,我们建议现阶段以在线调用LLM API为主、私有部署为辅的通用大模型方案。在应用场景的选择上,应重点关注实现难度低、价值较大的场景进行试点应用,如智慧办公、智能客服、代码生成和企业知识库等:

1)智慧办公,在企业日常办公软件中嵌入AI助理,如OA、邮件、视频会议、聊天软件、Office等,让员工更高效地完成工作沟通、会议纪要、文档编写等工作;

2)智能客服,相比于其他智能模型,大模型能提供更个性化的定制服务;

3)代码生成,企业IT团队采用类GitHub copilot这样的代码生成工具,大大提升编程、测试效率;

4)企业知识库,引入RAG(检索增强生成)技术,集成企业现有的文档数据,构建企业知识库。

为降低成本,私有部署方面,初期可以考虑租赁算力;而在大模型的选型方面,可以参考SuperCLUE的中文大模型基准报告。该报告采用多维度、多视角的综合性测评方案,对国内外的大模型进行了全面的评估。从2024年2月的测评结果来看,虽然国内外存在一定差距,但国内的大模型如文心一言4.0、GLM-4和通义千问2.1等也取得了较高的分数。因此,在选型时,企业可以综合考虑部署方式、大模型的特点和优势,针对实际业务需求进行模型选型。

640 (1).png

图2国内外大模型SuperCLUE基准得分(来源:SuperCLUE,2024年2月报告)

五、总结与展望

短期来看,保险公司应更多聚焦在文本理解和内容生成等通用场景的应用,并逐步在保险销售与客户服务场景中试点应用;长期来看,随着技术的持续进步和应用场景的日益拓展,大模型会与保险业务深度融合,有望为保险业带来更大的业务效率提升和服务质量改善,成为企业重要的IT基础设施之一。同时,保险行业也应密切关注技术发展动态,制定合理的应用策略,并注重风险防控和合规性管理,以确保大模型技术的健康、可持续发展。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论