本文来自微信公众号“人工智能与物联网”，作者/chris han。
算法对于物联网至关重要。
联网设备自动驾驶我们的汽车;控制我们家的光、热和安全;并为我们购物。可穿戴设备监测我们的心率和氧气水平，告诉我们什么时候起床以及如何走动，并详细记录我们的行踪。智能城市由大量物联网设备和应用程序提供支持，通过指挥交通、卫生、公共管理和安全来控制全球数百万人的生活。如果没有算法，物联网在我们日常生活中的影响力是不可想象的，但我们对算法功能、逻辑和安全性了解多少?
大多数算法的计算速度和复杂性都妨碍了有效的人工审查。他们在一个黑匣子里工作。最重要的是，大多数物联网应用算法都是专有的，并在双黑匣子中运行。如果结果是积极的，那么这种现状可能是可以接受的，并且算法没有危害。不幸的是，情况并非总是如此。
当黑匣子算法出错并造成物质、物理、社会或经济损害时，它们也会损害物联网运动。这些错误削弱了该行业确保更广泛采用智能设备所需的社会和政治信任，这是推动该领域向前发展的关键。
不透明的算法可能代价高昂，甚至是致命的
黑盒算法可能会导致重大的现实世界问题。例如，加利福尼亚州优胜美地山谷有一段不起眼的道路，一直让自动驾驶汽车感到困惑，目前，我们仍然没有答案。开阔的道路自然充满了风险和危险，但你自己的家呢?智能助手可以倾听您的声音，并满足您在购物、供暖、安全以及几乎任何其他适合自动化的家庭功能方面的愿望和命令。然而，当智能助手开始装傻，不听你，而是听电视时会发生什么?
网上流传着一则关于许多智能家居助理发起不想要的网上购物的轶事，因为圣地亚哥CW6新闻的主持人吉姆·巴顿(Jim Patton)说出了这句话：“Alexa给我订了一个玩具屋。”这是否以如此大规模发生是无关紧要的。真正的问题是玩具屋事件听起来很有道理，并且再次引发了人们对物联网设备内部运作的怀疑，我们将日常生活、舒适性和安全性委托给了这些设备。
从物联网的角度来看，此类事件的无形损害是相当大的。当一辆自动驾驶汽车出现故障时，所有自动驾驶汽车的声誉都会受到影响。当一位智能家居助理做出愚蠢的事情时，所有智能家居助理的智能都会受到质疑。
房间里的数据大象
每次算法做出错误决定时，其提供者都会承诺进行彻底调查并迅速纠正。然而，由于所有这些算法的专有性、营利性，当局和公众无法验证发生了哪些改进。最后，我们必须相信公司的话。屡次犯错使这成为一个困难的问题。
公司不披露其算法内部运作的一个主要原因——在他们可以理解的范围内——是他们不想展示他们使用我们的数据进行的所有操作。自动驾驶汽车会记录每次旅行的详细日志。家庭助理跟踪房子周围的活动;记录温度、光线和音量设置;并保持不断更新的购物清单。所有这些个人身份信息都是集中收集的，让算法学习并将信息传输到目标广告、详细的消费者档案、行为推动和彻头彻尾的操纵中。
回想一下，剑桥分析公司(Cambridge Analytica)将8700万毫无戒心的用户的社交媒体档案信息有效地武装起来，误导选民，并有助于扭转整个美国总统选举的局面。如果你的朋友列表和一些在线讨论小组足以让一个算法确定影响你的信念和行为的最佳方式，那么你的心率、运动和睡眠模式的详细记录可以实现什么样的更深层次和更强的操纵?
向“透明互联网”的过渡。
最紧迫的重点应该是让算法做什么更容易理解和透明。为了最大化信任并消除算法不透明的不利影响，物联网需要成为“透明的互联网”。该行业可以通过将AI与集中式数据收集分离并尽可能多地开源算法来创造透明度。蒙面联邦学习和边缘人工智能等技术使这些积极的步骤成为可能。我们需要有追求它们的意愿。这并不容易，一些大型科技公司不会不战而降，但我们都会在另一边过得更好。
