GPT-3.5和GPT-4行为的变化凸显了持续评估和评估LLM在生产应用中的行为的必要性。当我们构建使用LLM作为组件的软件系统时，需要开发新的开发实践和工作流程来确保可靠性和责任。
与其说我们面临的是机器人问题，不如说是潜在的数据泄露问题。这就是我们最担心的，不受限制地访问数据。作为一家能源公司，我们掌握了大量的个人信息。
43%的受访者表示，API占公司收入的四分之一以上。对于少数几家公司来说，API创造了超过75%的总收入。报告指出，这些公司属于金融服务业的可能性几乎是其他行业的两倍。
API网关将API请求从客户端路由到适当的服务。但对这个简单定义的一个很大误解是，API网关是一种独特的技术。
近年来，在系统边缘实施流量镜像已变得越来越流行。APISIX提供了代理镜像插件来镜像客户端请求。它将真实的在线流量复制到镜像服务，并能够在不中断在线服务的情况下对在线流量或请求内容进行特定分析。
