本文来自网络研究院。
想象一下人工智能自动解释并执行法律的未来。
每一天，您都会不断收到由政府和执法部门直接发送的高度个性化的如何遵守法律的指示。我们会告诉您如何过马路、上班路上开车的速度以及您可以在网上说什么或做什么——如果您遇到任何可能产生法律影响的情况，我们会实时准确地告诉您该做什么。
想象一下，大规模制定这些个人法律指令的计算机系统是如此复杂，以至于没有人能够解释它是如何推理或工作的。但是，如果您忽略指令，系统就会知道，并且它将被用作肯定会发生的起诉中的证据。
这个未来可能并不遥远——自动检测违法行为并不是什么新鲜事。超速摄像头和交通信号灯摄像头已经存在多年。这些系统根据车牌自动向车主发出罚单。在这种情况下，被告被推定有罪，除非他们通过点名并通知司机来证明其他情况。
在纽约，企业正在使用配备面部识别技术的人工智能系统来识别商店扒手。澳大利亚和英国的零售商正在使用类似的人工智能系统来识别商店扒手，并向员工或保安人员提供实时定制的警报。正在尝试更强大的自动执法和有针对性的监视形式。
呼吸分析仪是自动检测的另一个例子。他们通过电化学反应或红外分析（基本上是带有燃料电池或光谱仪的计算机）计算呼吸中的酒精分子数量来估计血液中的酒精含量。而且它们并非没有争议：全国各地的法院都发现呼吸分析仪设备及其驱动软件存在严重缺陷和技术缺陷。
尽管如此，刑事被告仍难以获得设备或其软件源代码的访问权限，呼吸分析仪公司和法院经常拒绝授予此类访问权限。在少数情况下，法院确实下令此类披露通常是在持续多年、代价高昂的法律斗争之后发生的。
人工智能将使这个问题变得更加复杂，并可能大大扩展可以以这种方式执行的法律类型。一些法律学者预测，计算个性化法律及其自动执行是法律的未来。这些将由安东尼·凯西和安东尼·尼布利特所说的“微指令”进行管理，它为特定情况下的法律合规性提供个性化的指令。
由于监控、通信技术和大数据分析的进步，微指令将成为一种主要由机器塑造的新的主要法律形式。它们是“微观的”，因为它们不是客观的一般规则或标准，而是针对一种特定情况量身定制的。它们是“指令”，因为它们规定了法律要求的行动或不行动。
数字千年版权法删除通知是当今微指令的一个例子。DMCA的执行几乎是完全自动化的，版权“机器人”不断扫描互联网以查找侵犯版权的材料，并每天自动向平台和用户发送数亿条DMCA删除通知。
DMCA删除通知是根据收件人的具体法律情况量身定制的。它还根据法律指导采取行动——删除目标内容或证明其不侵权。
很容易看出零售商部署的用于识别商店扒手的人工智能系统可以如何重新设计以使用微指令。除了向企业主发出警报外，系统还可以向已识别的人员本身发送警报，并附有定制的法律指示或通知。
未来，人工智能在社会范围内解释、应用和执行大多数法律，这将成倍放大公平、透明度和自由方面的问题。忘掉软件透明度吧，资源丰富的人工智能公司，比如今天的呼吸分析仪公司，毫无疑问会出于竞争原因而猛烈地保护他们的系统。
这些系统可能非常复杂，甚至连它们的设计者也无法解释人工智能如何解释和应用法律——我们已经在当今的深度学习神经网络系统中看到了这一点，这些系统无法解释它们的推理。
甚至法律本身也可能变得极其庞大和不透明。针对无数场景集体发送的法律微观指令，每一个都代表了由不透明的计算过程制定的权威法律结论，可以创建一个广泛且日益复杂的法律体系，并无限增长。
这将我们带到了问题的核心：如果您被计算机指控，您是否有权审查该计算机的内部运作并可能在法庭上质疑其准确性？当检察官的证人是电脑时，交叉询问会是什么样子？您如何访问、分析和理解与您的案件相关的所有微观指令，以挑战人工智能的法律解释？
法院如何能确保法律的平等适用？就像《审判》中弗朗茨·卡夫卡寓言中的乡下人一样，你会在等待法律的过程中死去，因为法律是无限的且难以理解的。
这一制度将对自由构成前所未有的威胁。要实现这种自动化执法，社会中无处不在的人工智能监控是必要的。
最重要的是，研究包括我们之一进行的实证研究表明，来自权威来源（国家或企业）的个性化法律威胁或命令可能会对人们自由言论或行动的意愿产生强大的寒蝉效应。
想象一下，从执法部门收到关于在某种情况下该说什么或该做什么的非常具体的法律指示：您是否觉得自己可以选择自由行动？
这是人工智能对未来的侵入性和拜占庭法则的愿景，令人不寒而栗。这将不同于我们在人类历史上见过的任何其他法律体系，并且对我们的自由来说更加危险。
事实上，一些法律学者认为，这个未来实际上将是法律的死亡。
但这并不是我们必须忍受的未来。对面部识别系统等监控技术的拟议禁令可以扩大到那些能够实现侵入性自动化执法的技术。法律可以强制人工智能系统具有可解释性和可解释性，以确保每个人都能理解和解释系统如何运行。
如果一个系统太复杂，也许不应该在法律环境中部署它。个性化法律程序的执行需要受到严格监管，以确保监督，并且只应在不太可能产生寒蝉效应的情况下使用，例如在基本权利和自由不会受到威胁的良性政府管理或监管环境中。
人工智能将不可避免地改变法律进程。已经有了。但我们不必接受它最极端和最大的实例，无论是今天还是将来明天。
