亚马逊的panopticon

去年，“亚马逊员工与ICE官员会面......推销公司的面部识别技术”，ACLU通知我们。亚马逊副总裁Brad Huseman后来说：“我们相信政府应该拥有最好的技术。”然后，上个月，Motherboard透露，亚马逊已与全国各地的警察部门合作，创建了Ring产品的“自我延续监控网络”。

请允许我无数次说：亚马逊到底是什么?

亚马逊股东，技术员工，仓库员工和客户都在抗议Rekognition对ICE的营销，以及亚马逊为臭名昭着的Palantir提供的服务。特别是超过500名亚马逊技术员工签署了抗议信 - 但亚马逊的领导层似乎还不愿意真诚地与他们接触。

相反，亚马逊为自己辩护了一个“人工智能的面部识别事实”页面，他们似乎认为他们的技术唯一可能的问题是误报的可能性，并提供半心半意的措施“在所有公众安全和执法方案，像Amazon Rekognition这样的技术只应用于缩小潜在匹配领域......面部识别软件不应该自动使用。“

技术问题是真实的，正如奥兰多取消他们的飞行员Rekognition计划所示。但我厌倦了科技公司表现得好像他们对公众没有责任，除了修复他们的错误并让他们的技术按预期工作。有时意图本身就是问题所在。

“我觉得社会最终会对新技术的不良用途产生免疫反应，但这需要时间，”杰夫贝索斯说。这就是事实。但一个必然结果是，在此期间，虽然社会尚未形成免疫反应，但我们应该对滥用行为特别谨慎。另一个原因是世界上最富有的人不应该放弃自己在优化社会对新技术的反应方面的重要作用。

问题不在于Rekognition的技术问题是否可以解决。问题是，为了实现无处不在的全景监视，向政府和执法部门推销它是否对世界上的任何社会都有好处。说“如果它现在合法，它必须是好的”，或者“民主制度将保护我们免受伤害，因此作为一个技术专家，我不需要思考或担心任何后果，这在理智上是懒惰的。”

在现实中，法律对新技术的反应极其缓慢，而且我们的机构也越来越硬化和瘫痪 - 正如硅谷在其他情况下急于告诉你的那样。依靠它们进行“免疫反应”是故意疏忽。是的，技术，如火，可以用于好的和坏的;但我们对于火药箱条件下的火灾比雨季更加谨慎，我们相应地调整风险评估。科技公司不愿意对他们所造成的风险承担任何责任，这是令人担忧的。

正如我之前所说，对科技公司的唯一真实或至少是实时检查是他们自己的员工。因此，看到AWS员工反对公司政策令人鼓舞 - 并且担心亚马逊拒绝真诚地与他们接触。世界期待贝索斯和亚马逊的好处，而不是躲避关于他们技术风险的重要问题，同时将这些问题作为别人的部门传递出去。

Facebook提供了另一个警示故事。现在很难相信，不是很久以前，他们受到广泛的尊重，信任，甚至心爱。对亚马逊和Facebook这类公司的强烈反对最初似乎是来自极端主义者边缘的一些小气管......但有时候，抱怨的卵石突然陷入了蔑视的压倒性优势。让我们希望亚马逊能够看到光线，然后又将另一位昔日的英雄变成了一个彻底的现代恶棍。