本文来自人民邮电报，作者/蔡恩泽。
在近日举行的伯克希尔·哈撒韦公司2024年度股东大会上，巴菲特表示，AI诈骗可能成为“有史以来最具增长潜力的行业”。此前，巴菲特曾警告说，AI有助于提高经济效率，但具有“巨大的破坏性”。
伯克希尔·哈撒韦公司股东大会被视为“投资界年度盛宴”，其释放的信号被全球投资人奉为圭臬。一名投资者在大会的问答环节向巴菲特提问：如何看待生成式AI的潜力？巴菲特在表示自己对这项新技术了解不多之后，进一步表示，有一天我们可能会后悔将精灵从瓶子里放出来，就像许多人后悔核武器的出现一样。
据史册所载，所罗门王是史上最富裕的君王，他有72个装着魔鬼的小瓶子。巴菲特所说的“瓶子”，显然就是装魔鬼的瓶子。他的意思是，不能把类似魔鬼的AI精灵从魔瓶中放出来。巴菲特讲述了自己的亲身经历：“我在屏幕上看到一个图像，有着我的声音，穿着我穿的那种衣服，就连我的妻子或女儿都不会察觉到任何区别，但它传递的信息绝不是我发出的。”他警告说，AI诈骗可能成为“有史以来最具增长潜力的行业”。
AI诈骗，以高度仿真性、隐蔽性、快速传播性、智能化的方式挑战着社会的安全与稳定，通过语音合成、图像伪造、社交工程学、自动化诈骗，给人们带来了巨大的经济损失和心理创伤，破坏人与人之间的信任关系，影响社会和谐稳定，阻碍科技发展，可能会让人们对人工智能技术产生恐惧和抵触心理，阻碍其进一步发展。
防范AI诈骗面临多重挑战。一是技术更新快，AI技术发展迅速，不法分子的诈骗手段也在不断更新，防范难度加大，防不胜防。二是公众防范意识不足，许多人对AI诈骗的认识不够深刻，缺乏有效的防范意识和技能。三是法律监管滞后，目前针对AI诈骗的法律法规还不够完善，对不法分子的惩处力度不够，致使违法成本低下。
值得关注的是，AI诈骗正成为一种行业，甚至开始通过商业化、产业化运作牟利。有人把AI拖入歧途，令人痛心又震惊。
目前不仅需要对AI加强监管，加大对违法行为的打击力度，更要从源头上提升人们对科技风险的认知。防范AI诈骗，科技伦理极其重要，我们在推动科技进步的同时，要不断提升防范技术和手段，确保其不被用于违法犯罪活动。
当AI诈骗成为行业常态，我们不得不反思科技与社会的关系，以及如何更好地引导科技为人类服务，而非成为犯罪的工具。有鉴于此，我们要针对AI诈骗的行业“增长潜力”，研究应对AI诈骗的策略。
首先，要加强技术研发。投入更多资源进行反诈骗技术的研发，提高识别和防范AI诈骗的技术能力，给AI技术添加“牛栏”，勿使其溜到“菜园”中践踏青苗。
其次，要加强公众教育。通过多种渠道向公众普及防范AI诈骗的知识和技巧，增强公众的防范意识。比如，AI再“逼真”也会露馅，毕竟AI无法模仿人类的感情，可从情感交流中识破其骗术。同时，要推动全社会共同参与、共同努力，遏制AI诈骗蔓延，保护人民群众生命财产安全，确保社会和谐稳定。
再次，要加大监管力度。通过完善相关法律法规，加大对AI诈骗的震慑、打击力度，提高不法分子的违法成本，让其倾家荡产。
最后，要加强国际合作。AI诈骗往往具有跨国性特征，需要加强国际合作与交流，共同应对这一挑战。如中美之间已就AI达成共识，双方宣布将举行中美“人工智能政府间对话”首次会议，进一步推进中美人工智能合作。
未来，随着人工智能技术的不断发展，我们要与时俱进，不断更新防范策略。我们也期待科技的进步能够为我们提供更多更好的解决方案，让我们能够更加安全地享受科技带来的便利。
