本文来自极客网。
据报道，英国电信数字部门日前推出了名为“GenAI Gateway”（生成式AI网关）的管理平台，该平台可以采用Anthropic、Meta、Cohere和亚马逊等公司提供的一系列大型语言模型（LLM）。
英国电信可以将这个平台应用在任何用例中，完成了大量复杂且繁重的任务，为该平台的顺利运行奠定了坚实的基础。值得注意的是，AWS在这一过程中发挥了至关重要的作用，表面其可能是主要技术提供者。
据悉，该平台是使用Amazon Bedrock(这一套GenAI应用开发服务)和Amazon Sagemaker(一种托管机器学习服务)开发的，使企业能够针对任何数量的用例训练和定制机器学习模型。此外，AWS还为英国电信提供专业服务以确保顺利运行。
GenAI Gateway的首个测试版用例已经开始运行。英国电信网络部门Openreach正在利用该平台来整理以太网和全光纤工作相关的工程说明，从而帮助简化流程，提升内部高团队及其通信服务提供商（CSP）客户的生产力。
此外，英国电信的业务、法律和采购团队也开始使用GenAI Gateway来改进合同分析。
英国电信在一份声明中明确表示，GenAI Gateway是该公司一项“All in”的举措，公司不会尝试开发其他不同的AI解决方案。部署这个平台将减少重复工作和浪费资源的风险。这也意味着API、安全配置和基础设施管理都可以集中管理，从而降低错误风险或为不同的用例维护单独的LLM。
英国电信还在回答相关问题时指出，虽然临时使用多个LLM适合用于测试和开发，但不适合大规模使用。采用支持多种模型的灵活解决方案意味着英国电信的团队可以为合适的用例使用正确的模型，而不会出现成本增加和效率低下的问题。
此外，采用多LLM的方法还可以提供安全保障，以防其中的一个模型出现编造虚假信息（称为幻觉）或停止预期的行为。
GenAI Gateway还采用了几项保障措施确保符合所有重要的“道德AI”标准。这些措施包括过滤掉个人身份信息，使用在英国本土处理和存储的数据，以及将经过训练的模型相互隔离，以防止它们过于自由地共享数据。同时GenAI应用还受到了一定的限制，以降低有害交互的风险，并过滤与其特定用例无关的查询。这些举措可以强化其在实际应用中的可靠性和稳定性。
英国电信数字部门数据和AI总监Deepika Adusumilli表示，“AI正在帮助我们重新构想公司的未来发展。我们认为，在数据不变的情况下，我们需要LLM更具灵活性。GenAI Gateway正是我们实现这一目标的强大工具，它让我们能够以安全、负责、灵活且可扩展的方式大规模地利这一前沿技术，充分释放英国电信集团内部员工的潜力，无论是现在还是未来。”
AWS EMEA地区电信业务总经理Fabio Cerone补充说：“英国电信的GenAI Gateway展示了企业如何有效地大规模和快速部署GenAI。这是一次具有开创性的绝佳合作机会，我们可以携手客户，采用逆向工作法，通过嵌入式安全性和合规性，加速将GenAI用例部署到生产的进程。GenAI Gateway将推动GenAI的采用，为英国电信及其客户带来更为迅速且显著的成效。”
毋庸讳言，像英国电信这样的运营商大规模部署GenAI，是AI走向主流应用和建立可信度等的重要里程碑。当然对于那些独立LLM提供商来说，每家分到的机会和蛋糕就减少了。
