本文来自学习时报，作者/侯莹、毋立芳。
随着大数据和深度学习的发展，生成式人工智能技术给世界政治、经济、文化领域带来极大冲击，技术创新进入新一轮活跃期。生成式人工智能技术在促进新质生产力发展，带来巨大商业价值的同时，也存在深度伪造、虚假信息、广告欺诈等问题，可能为不法分子提供新的技术工具，成为诈骗活动的“新武器”。预防、监测和治理生成式人工智能诈骗，保护公众免受智能诈骗行为的影响，促进人工智能技术健康发展和规范应用具有重要意义。
生成式人工智能技术基于迁移学习和人工神经网络，使用深度学习模型，传输和处理现有文本、图像和音视频信息，自动创建出新内容、新方法和新方案。随着生成式人工智能技术的发展，诈骗形式从线下诈骗、电话诈骗扩展到网络诈骗。常见的网络诈骗包括以下几种形式：网络购物诈骗，诈骗者使用虚假网站、虚假商品和虚假促销信息，诱骗消费者购买商品，通过虚假支付链接欺诈消费者；网络投资诈骗，诈骗者以高收益低风险为诱惑，通过虚假网站参与虚拟货币投资、股票期货等投资活动，骗取消费者钱财；网络视频诈骗，诈骗者利用提前录制的真人视频和盗录的视频影像，合成为欺诈视频，向视频被盗录者的好友借钱，开展诈骗行为。
防止生成式人工智能成为诈骗新工具是一项系统工程，存在三大监控治理难点。一是全链路信息监管难。诈骗者通过短信、电话、互联网等通信渠道，与受害者联系，基于获取的个人信息和事前准备好的诈骗脚本，骗取受害者的信任，诱导受害者使用银行转账、网上支付、手机支付等方式向指定账户转款，并快速完成资金转移，获取非法经济利益。二是个人信息保护难。诈骗分子通过非法渠道窃取或购买个人信息，包括身份证信息、电话号码、家庭住址、网络账号、银行卡账号等，精准获取社会上各行各业人员的个人信息，为实施诈骗构建个人信息基础数据库。三是智能生成产品识别破解难。诈骗分子基于开放数据流和获取的个人信息，使用深度合成技术，篡改图片或者视频信息，对原始信息进行深度伪造，获得人工智能生成产品，通过“换脸”“换声”等方式实施违法犯罪行为。因此，要坚持目标导向和问题导向，在全链路信息监管、个人信息保护和智能生成品鉴别技术上深耕细作，建立健全政策法规，切实将发展与安全相结合，持续推动科技创新，不断增强防诈能力。
首先，建设公共算力和算法平台是防止诈骗的基础，应研发全链路的信息监管技术。一方面，政府部门牵头建立公共算力基础设施，采用安全可信的芯片、软件和工具，统一收集人工智能算法、鉴别算法和检测算法模型，形成算法数据库，规范人工智能服务提供者预训练、优化训练等数据处理行为，提升算力资源利用效能。另一方面，研发可溯源的网关类设备监管技术，基于分类分级监管规则，全链路监管查询、下载、使用和修改个人生物识别信息的行为。并且要提供各类已被识别的合成品，积累识别样本，提升诈骗电话检测、恶意网址拦截、诈骗文本识别和诈骗风险预警的精准度。
其次，避免个人信息泄露是治理诈骗的根源，应研发个人信息保护技术。一方面，生成式人工智能服务提供者应对服务使用者信息的输入和使用记录依法履行保护义务，严禁采集非必要个人信息，不得非法向他人提供使用者的个人信息及使用记录，规范个人信息采集与共享行为。另一方面，采用匿名化、去标识化技术和加密技术，处理使用者个人信息，对个人信息的获取进行监测，确保使用者个人同意且符合法律法规。通过虚拟私人网络，建立信息安全通道，规范数据传输、处理与存储行为，监管信息使用情况，标注并拦截诈骗信息。
再次，鉴别生成产品是治理诈骗的关键，应研发人工智能生成品的识别破解技术。一方面，规范人工智能合成品的制作流程，扩大信息源取证范围，在信息采集设备中采用水印技术，对原始信息增加“数字水印”，保证源头信息的真实性。使用区块链和智能合约技术，运用数据加密、时间戳和分布式共识手段，在生成品中加入元数据，实现去中心化信用的点对点交易与协作，完成溯源防伪。另一方面，基于递归神经网络和胶囊网络，提取空域、时域和频域特征，通过检测合成品的混合边界及肉眼难辨的灰度元素，对图像和视频进行反向破解，解析图像和视频代码，判断人物与场景的一致性，鉴别原始信息和合成品。
最后，建立健全政策法规，增强公众风险教育，对于防止生成式人工智能诈骗至关重要。一方面，政府应制定针对生成式人工智能犯罪的法律规范，界定滥用生成式人工智能进行诈骗的法律责任，严格监管和执法，明确处罚措施，确保公共安全不受威胁。此外，鉴于数字诈骗的特殊性，还应加强国际合作，加大联合执法力度，打击跨境诈骗。另一方面，政府、企业和各级教育机构应大力宣传防诈知识，普及人工智能技术的潜在风险，提升大众的防范意识，提高识别和防诈技能。并且，应增加对未来科技从业者的教育，使其能够规范开发和使用人工智能技术。
生成式人工智能是一项前沿技术，对于提升多个领域的生产效率至关重要。然而，如果不加约束地滥用，可能会成为欺诈者手中的危险工具。只有通过不断研发防诈技术，采取多管齐下的管理政策，才能够助推科技跨越式发展，有效防止生成式人工智能成为诈骗“新武器”。
