随着人工智能（AI）技术在全球迅速扩散，越来越多的州正在部署先进的人工智能监测工具来监测、跟踪和监视公民，以实现一系列政策目标。一些是合法的，另一些是侵犯人权的，其中许多都落入了一个灰色的中间地带。
为了解决这一问题，本文提出了人工智能全球监测（AIGS）指数 ，该指数汇编了全球176个国家AI监测使用的经验数据，而不对AI监视的合法或非法进行区分。相反，研究的目的是展示新的监控能力如何改变政府监控和跟踪个人或系统的能力。
报告将主要围绕以下三个问题展开：（1）哪些国家采用人工智能监控技术？（2）政府部署哪些特定类型的AI监控？（3）哪些国家和公司正在提供这项技术？
报告主要结论一览
1. 人工智能监测技术在圆球范围传播的速度已经大大超出专家的预测。全球176个国家中，至少有75个国家正在大力推动利用人工智能技术进行各种监测。这包括：智能城市/安全城市平台（56个国家），面部识别系统（64个国家）和智能警务（52个国家）。
2. 中国是全球人工智能监测的主要推动者。与中国公司相关的技术（特别是华为，海康威视，大华和中兴通讯）的人工智能监控技术已经遍布全球63个国家和地区，其中36个国家签署了中国的“一带一路”倡议（BRI）。仅华为就负责向全球至少50个国家提供人工智能监控技术。第二大非中国人工智能监控技术供应商是日本的NEC公司（14个国家）。
3.中国的产品投资往往伴随着软贷款，以鼓励政府购买他们的设备。这些策略在肯尼亚，老挝，蒙古，乌干达和乌兹别克斯坦等国家尤为重要，否则这些国家可能无法使用这项技术。这引发了一些令人不安的问题，即中国政府在多大程度上补贴购买先进的压制技术。
4. 美国公司也积极参与这一领域。美国公司提供的AI监控技术出现在32个国家。最重要的美国公司是IBM（11个国家），Palantir（9个国家）和Cisco（6个国家）。其他以自由民主国家为基地的公司 - 法国，德国，以色列，日本 - 也在扩大这项技术方面发挥着重要作用。民主国家没有采取适当措施来监测和控制与一系列违法行为有关的尖端技术的传播。
5. 自由民主国家是人工智能监测的主要用户。该指数显示，51％的先进民主国家部署了AI监控系统。相比之下，37％的封闭专制国家，41％的选举专制/竞争专制国家，41％的选举民主国家/非自由民主国家部署了AI监控技术。完全民主国家的政府正在部署一系列监视技术，从安全的城市平台到面部识别摄像机。这并不意味着民主国家滥用这些制度。决定政府是否将此技术用于压制目的的最重要因素是其治理质量。
6.专制和半专制国家的政府比自由民主国家的政府更容易滥用人工智能监督。一些专制政府 - 例如俄罗斯，沙特阿拉伯等 - 正在利用人工智能技术进行大规模监视。其他拥有令人沮丧的人权记录的政府正在以更有限的方式利用人工智能监测来加强镇压。然而，所有政治背景都存在非法利用人工智能监测技术以获得某些政治目标的风险。
7. 一个国家的军事支出与政府使用人工智能监视系统之间存在着密切的关系：全球五十个军费开支国家中的四十个（基于累计军事支出）也使用人工智能监视技术。
8.“2018年网络自由”报告指出，65个国家中有18个国家访问过中国公司开发的人工智能监控技术。AIGS指数显示，2019年，在65个国家中，访问中国人工智能监测技术的国家数量已增加到47个。
报告主要内容摘编如下
“时至今日，AI的影响已经远远超出了个人消费者的范畴，而是开始改变最为基本的政府治理模式，一方面可以通过为政府权力来监督公民，另一方面甚至还可以破坏选举，使民主话语跨界合法化。”
01
AI全球监控指数
本报告的重点是：揭示政府使用人工智能监测的具体方式，包括：面部识别系统、大数据平台、预测性警务算法等。重要的是，该指数并未区分AI数字监视的合法性进行讨论或区分，而是旨在揭示新的AI监视能力。
AIGS指数描述了全球人工智能监测趋势的详细实证图，以及全球政府如何使用该技术。它解决了以下三个主要问题：
（1）哪些国家采用人工智能监控技术？
（2）政府部署哪些特定类型的AI监控？
（3）哪些国家和公司正在提供这项技术？
AIGS指数包括75个国家的详细信息，并将AI监控工具分解为以下子类：1）智能城市/安全城市，2）面部识别系统，以及3）智能警务。
AIGS指数无法提供在特定国家/地区运营的AI监控公司的完整列表。一些公司可能淡化他们与监控技术的关联，故意将文件保存在公共领域之外。
完整版本在线访问：
https：//carnegieendowment.org/files/AI_Global_Surveillance_Index1.pdf。
可视化AI监控技术全球传播交互式地图：
https：//carnegieendowment.org/publications/interactive/ai-surveillance。
所有参考源材料都已编译到一个开放的Zotero库中：
https：//www.zotero.org/groups/2347403/global_ai_surveillance/items
02
三个关键结论
调查结果表明，全球176个国家中至少有75个国家正在积极利用人工智能技术进行监测。这包括：智能城市/安全城市平台（56个国家），面部识别系统（64个国家）和智能警务（52个国家）。AIGS指数的调查结果得出三个关键结论。
结论1：AI监测在全球范围内迅速增加
首先，全球范围内人工智能监测的采用在全球范围内迅速增加。75个国家（占评估国家总数的43％）正在以合法或非法的方式部署人工智能监测。这些国家囊括了封闭的独裁国家以及先进的民主国家。据报道，在65个被评估国家中，有18个国家正在使用中国公司的人工智能监控技术。
海湾国家以及东亚、南亚、中亚的许多政府正在采购先进的分析系统，面部识别摄像头和先进的监控功能。欧洲的自由民主国家也正在竞相安装自动边境控制，预测性警务，安全城市和面部识别系统。事实上，华为网站上发布的许多安全城市监控案例研究与德国，意大利，荷兰和西班牙的市政当局有关。
从地区来看，存在明显的差异。东亚/太平洋和中东/北非地区是AI监测工具的主要用户，其次是南亚，中亚和美洲地区，也采购了大量了的人工智能监测仪器。而撒哈拉以南非洲只有不到四分之一的国家投资于人工智能监测。这很可能是由于技术不发达（非洲国家正在努力扩大其人口的宽带接入;该地区有20个国家中有18个互联网普及率最低）。鉴于中国公司通过BRI进入非洲市场的积极性，未来几年这些数字可能会上升。图1显示了采用AI监测的国家按地区划分的百分比。
结论2：中国是AI监测技术的主要供应商
第二，中国是人工智能监测的主要供应商。与中国公司相关的技术遍布全球至少63个国家。仅华为就负责向至少50个国家提供人工智能监控技术。中国的“一带一路”倡议与人工智能监测之间也存在相当大的重叠 - 在86个BRI国家中，有36个国家持有重要的人工智能监测技术。但是，中国并不是唯一提供先进监控技术的国家。法国，德国，日本和美国也是该领域的主要参与者。例如，美国公司在32个国家/地区开展业务。图2为该领域的领先公司。
结论3：自由民主国家是AI监测的主要用户
第三，自由民主国家是人工智能监测的主要用户。该指数显示，51％的先进民主国家部署了AI监控系统。相比之下，37％的封闭专制国家，41％的选举专制/竞争专制国家，41％的选举民主国家/非自由民主国家部署了AI监控技术。自由民主政府正在积极利用人工智能工具来监管边界，逮捕潜在的罪犯，监视公民的不良行为，并从群众中拯救可疑的恐怖分子。但这并不一定意味着民主国家非法使用这种技术。决定政府是否将此技术用于镇压目的的最重要因素是其治理质量，如：监测过程中是否侵犯人权？是否有强大的法治传统和独立的问责机构？
美国：居民的日常监视
在美国，越来越多的城市采用了先进的监控系统。例如，Axios的Kim Hart在2016年进行的一项调查显示，巴尔的摩警方秘密部署了空中无人机，对城市居民进行日常监视：“从城市上空飞过，并拍摄整个城市的航拍图像。照片每秒拍摄一次，飞机可以每天在城市上空盘旋10个小时。“ 巴尔的摩的警察还部署了面部识别摄像头来监视和逮捕抗议者，特别是在2018年的城市骚乱期间。美国公民自由联盟（ACLU）谴责这些技术是“技术等同于在巴尔的摩为每个人设置GPS监视器。”
智能围栏，合法吗？
在美墨边境，一系列高科技公司也提供先进的监控设备。据卫报报道，以色列国防承包商埃尔比特系统公司在以色列建立了一个“智能围栏”，将耶路撒冷与西岸分开。另一家公司Anduril Industries“开发了具有激光增强型摄像头、雷达和通信系统的塔”，扫描半径2英里以检测运动。捕获的图像“使用人工智能进行分析，从野生动物和其他移动物体中锁定目标人群。” 目前尚不清楚这些监视部署在多大程度上涵盖在美国法律中，更不用说这些行动是否符合必要性和相称性标准。
法国第一个“安全城市”
此外，在法国，马赛于2016年与中兴通讯建立了合作伙伴关系，以建立公共安宁大数据项目。该计划的目标是通过建立一个庞大的公共监控网络来减少犯罪，该网络包括一个情报中心和近千台智能闭路电视摄像机（这个数字将在2020年翻一番）。地方当局宣称这一制度将使马赛成为“法国和欧洲的第一个'安全城市” 。同样，2017年，华为为法国北部城镇瓦朗谢讷（Valenciennes）展示了一个展示其安全城市模型的展示监控系统。该套装包括升级的高清监控和由算法驱动的智能指挥中心，以检测异常运动和人群形成。
AI监测，与军费密切相关
政府是否会采购这项技术的更好预测因素与其军费开支有关。2018年的军费开支细分显示，军费开支排名前50的国家中有40个也拥有人工智能监测技术。其中包括法国，德国，日本和韩国等主要经济体，以及巴基斯坦和阿曼等较贫穷的国家。这一发现并非完全出乎意料; 对军队进行大量投资的国家往往具有较高的经济和技术能力以及特别关注的威胁。如果一个国家认真对待其安全并愿意投入大量资源来维持强大的军事安全能力，那么该国寻求最新的人工智能工具应该不足为奇。虽然欧洲民主国家获得人工智能监视（控制移民，追踪恐怖主义威胁）的动机可能与埃及或哈萨克斯坦的利益不同（关注内部异议，在他们达到临界质量之前打击激进运动），但仪器非常相似。因此未来的研究可能会涉及到国家级内部安全数据，并将其与人工智能监测水平进行比较。
03
合法/非法监督
国家监督本质上不是非法的，前提是：政府有合理的理由进行监督，而这种监督并非根植于强制实施政治镇压和限制个人自由的愿望。比如，跟踪工具可以防止恐怖主义，并帮助安全部队阻止不良行为、处理案件等。AI监测工具可以使当局能够监控关键威胁并做出及时反应。然而与此同时，这一技术也改变了政府监督的方式以及他们选择监控的内容。
通信数据有可存储、可访问、可搜索的特点。因此，对通信数据的分析既可以是高度启发性的，也可以是侵入性的。因此，越来越多的国家利用通信数据来支持执法或国家安全调查。甚至强制要求保存和保留通信数据，以使其能够进行历史监测。
不言而喻，这种做法深刻地影响了个人的隐私权。根据《国际人权法》，以下三项原则对于评估特定监视行动的合法性至关重要。
原则1：国内法律允许
首先，国内法是否允许监督？2019的一份报告确认法律规定应“足够精确地制定，以使个人能够相应地规范其行为，并且必须让公众可以获得。”法律要求不应该“模糊或过于宽泛”，这将允许政府官员无拘无束的自由裁量权。法律框架本身应该是“公开访问，清晰，准确，全面的和非歧视性的。”
原则2：必要性
第二，监督行动是否符合国际法律标准中的“必要性和相称性”要求。
原则3：有正当合法的利益
第三，监督行为是否有正当且合法的利益吗？此外，又该如何定义合法监视以及滥用权力？合法监督要求各国证明“具体表达对国家安全或公共秩序产生明确利益影响的风险”，以及确实有“强有力且独立的监督制度”，即委托司法机关批准相关监督措施并提供补救措施。
“技术进步意味着国家监督的有效性不再受规模或持续时间的限制。技术和数据存储成本的下降已经消除了进行监视的财务或实际抑制因素。因此，国家现在比以往任何时候都更有能力进行有针对性和广泛的监视。”
AI监控能够提升政府的两项主要功能：
其一，人工智能监控允许政权自动执行许多跟踪和监控功能，而节省了人力。这无疑大大节省了成本效率，减少了对安全部队的依赖，并且解决了人工忠诚度的问题。
其二，人工智能技术可以比传统方法投入更广泛的监控网络。与“时间和注意力有限的”人类操作员不同，AI系统永远不会疲劳或疲劳。因此，即使不诉诸身体暴力，也难免会产生实质性的“寒蝉效应”; 公民永远不知道自动机器人是在监控他们的短信，阅读他们的社交媒体帖子，还是在城镇周围进行地理标记。
然而，本研究认为：人工智能监测技术是“价值中立的”。这些工具本身与政府出于何种目的使用它们，并不直接相关。相反，研究中AI监测指数（AIGS）的目的是确定哪些国家拥有足够先进的工具，使其能够实现一系列监测目标。
04
中国的推动作用
中国究竟在多大程度上推动了人工智能监测的传播？
AIGS指数显示，由华为领导的中国公司是全球领先的人工智能监控供应商。总的来说，中国正在持续推动人工智能的领导力和首要地位。一些专家声称，中国公司正在与中国国家当局直接合作，向志同道合的政府出口“专制技术”，以传播影响力并推动替代治理模型。但这种说法真的准确可信吗？
中国监测技术出口的多样化
一方面，这个论点有一定的道理。中国出口的一部分直接流向津巴布韦和委内瑞拉这样的国家。但人工智能监视不仅仅是从中国转向其他威权国家，相反，中国也在向自由民主国家出口监控技术。同样，以自由民主国家为基础的公司（例如德国，法国，以色列，日本，韩国，英国，美国）也在积极向出售先进设备。
技术进口+外交平衡
沙特阿拉伯就是一个很好的例子。华为正在建设其安全城市，谷歌在搭建云服务器，英国武器制造商BAE向其出售大规模监控系统，NEC出售其面部识别摄像头，亚马逊和阿里巴巴都在沙特阿拉伯拥有云计算中心，可能会共同支持一个主要的智慧城市项目……该指数表明，压制性国家很少从单一来源采购此类技术。在泰国，政府官员一再强调“外交政策平衡”的重要性，而不是仅与其中一方联系：“这就是为什么我们仍然是一个王国。我们妥协，我们谈判，我们平衡。”
为何对华为进行“特殊审查”？
“ 华尔街日报”最近的一份调查报告令人瞠目。报道称，乌干达和赞比亚的华为技术人员帮助政府官员监视政治对手。这包括“拦截他们的加密通信和社交媒体，并利用手机数据追踪他们的下落。”华为员工不仅在“政府拦截反对者私人通信的过程中发挥直接作用”，而且还鼓励乌干达安全官员前往阿尔及利亚，这样他们就可以学习在阿尔及尔运营的华为“智能视频监控系统”。乌干达随后同意从华为购买类似的面部识别监控系统，耗资1.26亿美元。
澳大利亚战略政策研究所关于中国的研究表明，华为正在负责75个“智慧城市-公共安全项目”，并且其业务还在大幅扩大。据报道，2017年，华为列出已经引入智能城市的40个国家；2018年这一覆盖范围增加了一倍多，已达到90个国家的230个城市。华为正在向国家安全机构直接推销安全城市模式，而中国的进出口银行似乎正在加大与补贴贷款的协议。结果就是，像毛里求斯这样的国家获得了中国政府的长期融资，并与中国公司签订合同。然后，毛里求斯政府将华为作为主要承包商或次级受益者，建立安全城市并实施先进的监控措施。
华为的独立性堪忧？
一些媒体抨击像华为这样的公司运营的独立性堪忧。华盛顿邮报的 Anna Fifield 指出，华为的创始人任正非曾在人民解放军“军事技术部门”工作，更有报道称华为获得了中国政府的大量补贴。
此外，华为的领导层与中国的安全和情报设备之间似乎也有很强的联系。例如，孙亚芳，1999年至2018年华为董事会主席，曾在中国国家安全部工作。然而，华为公开表示，对于中国政府交出用户数据的任何要求，他们“肯定会拒绝”。但这违反了2015年《中国国家安全法》中要求公司允许第三方访问其网络，并根据要求交付源代码或加密密钥的法规要求。此外，华为声明的所有权结构非常不透明。克里斯托弗·巴尔丁（Christopher Balding）和唐纳德·克拉克（Donald C. Clarke）最近的一项学术研究得出结论，99％的华为股份由“工会委员会”控制，这很可能是中国国家控制公司的代理人。“
05
AI监控的类型
以下部分将介绍关键的AI监控技术以及全球政府如何部署这些技术以支持特定的政策目标。
本节详细介绍了AIGS指数中包含的三种主要AI监控工具：智能城市/安全城市平台，面部识别系统和智能警务。还介绍了必备的技术支持，如云计算和物联网（IOT）网络等，这些技术是AI监视工具运行所不可或缺的。
重要的是，人工智能监视不是一种独立的工具，而是作为一套数字压制工具的一部分。信息和通信技术用于监视，恐吓，胁迫和骚扰对手，以便对目标施加惩罚并阻止挑战国家的特定活动或信仰。表1总结了每种技术及其相应的全球部署级别。
5.1智慧城市/安全城市
世界银行将智能城市描述为“技术密集型”城市中心，其中包含一系列传感器，可以从“数千个互连设备”实时收集信息，以促进改善服务提供和城市管理。它们帮助市政当局管理交通拥堵，将紧急车辆直接送到所需地点，促进可持续能源使用，简化行政流程。
IBM智能城市
但人们越来越担心智能城市也会使公共监控和侵入式安全隐患大幅增加。IBM设计了一个类似大脑的市政模型，可以集中处理和分析与城市运营相关的信息。IBM智能城市的一个关键组成部分是公共安全，它包含一系列传感器，跟踪设备和监控技术，以提高警察和安全部队的能力。
华为“平安城市”
华为一直致力于为智能城市宣传公共安全技术。大力推广“平安城市”，协助执法部门“预测，预防和减少犯罪”并“应对新出现的威胁。” 在《2016年白皮书》中，华为介绍了整套的技术组成，包括：视频监控，紧急视频通信，综合事件指挥和控制，大数据，移动和安全的公共安全云等，以支持当地执法和警务以及司法和惩戒系统。华为明确将其安全城市技术与面对地区安全挑战联系起来，并指出在中东地区，其平台可以防止“极端主义”; 在拉丁美洲，安全的城市使政府能够减少犯罪; 而在北美，其技术将有助于美国推进“反极端主义”计划。
这些平台如何在实践中发挥作用以推进监控目标？
Gartner提供了一个例子：
沙特：人群控制系统
沙特阿拉伯麦加地区发展局（MRDA）建立了一个人群控制系统，以提高朝觐朝圣者的安全和保障。通过嵌入身份信息，特殊医疗保健要求和GPS的腕带收集数据。此外，还安装了监控摄像头，用于收集和分析Al Mashaaer Al Mugaddassah地铁南线（MMMSL）以及圣地大清真寺，阿拉法特山，贾马拉特和米纳等圣地的实时视频。
华为安全城市效益，竟引发愤怒？
最近，华为在塞尔维亚的安全城市项目计划在贝尔格莱德的800个地点安装1000台具有面部识别和车牌识别功能的高清（HD）摄像机，引发了全国性的愤怒。华为发布了一份关于安全城市效益的案例研究（自此删除），并描述了类似的监控技术如何帮助逮捕一名逃离中国城市的塞尔维亚肇事逃亡者：“基于图像由塞尔维亚警方提供……[当地]公安局在三天内使用新技术逮捕了他们。“但是，塞尔维亚评论员没有对该制度的效率表示赞赏，而是指出，在一个遭受地方性腐败和侵犯威权主义的国家，这种技术为塞尔维亚当局遏制异议和实施侵权行为提供了强有力的工具。
5.2 面部识别系统
面部识别是一种生物识别技术，它使用摄像机（视频或静止图像）将个人的存储或现场镜头与数据库中的图像进行匹配。并非所有面部识别系统都通过数据库匹配来关注个体识别。一些系统旨在评估总体人口趋势或通过面部识别人群扫描进行更广泛的情绪分析。
与普通闭路电视不同，面部识别摄像机更具侵入性。他们可以扫描独特的面部特征，以便在未获得同意的情况下创建详细的个人生物特征图。面部识别监控摄像机通常是可移动且可隐藏的。例如，马来西亚的安全部队已与中国科技公司Yitu建立合作伙伴关系，为军官配备面部识别车身摄像头。这将使安全官员能够“快速将活体摄像机拍摄的图像与来自中央数据库的图像进行比较。”
华为是面部识别视频监控的主要提供者，特别是作为其安全城市平台的一部分。它描述了肯尼亚安全城市项目中该技术的优势：
作为该项目的一部分，华为在全国首都内罗毕部署了1,800台高清摄像机和200台高清交通监控系统。建立了一个国家警察指挥中心，为9000多名警察和195个警察局提供支持，以实现监测和解决问题。该系统在教皇弗朗西斯于2015年访问肯尼亚期间工作，借助华为的高清视频监控和可视化的集成指挥解决方案，警务工作效率和滞留率大幅提升。
专家详述了与面部识别相关的几个问题：
问题1：缺乏规则管理，使用不透明
首先，很少有规则管理图像数据库的访问和使用。政府如何使用这些信息，图像存储的时间以及当局首先获得此类图像的地方是不透明的问题，因管辖区而异。据华盛顿邮报报道，美国联邦调查和移民和海关执法局在没有事先知情或同意的情况下，通过状态驾驶执照数据库扫描了数百万张照片，这一点并不令人意外。法律制衡的真空导致了“监视优先”的制度。
问题2：准确性差异大
其次，面部识别技术的准确性差异很大。某些测试已经公开了不可接受的高错误匹配率。最近英国大都会警察局的一份独立报告发现，其面部识别技术的错误率非常高，达到81％。同样，美国领先的警用摄像机供应商Axon宣布将停止在其设备上提供面部识别。Axon的独立道德委员会表示：“人脸识别技术目前还不够可靠，无法从道德上证明其使用。”
而也有一些评估结果比较乐观。美国国家标准与技术研究院对来自39位开发人员的127种算法进行的2014年至2018年间的评估表明，“面部识别软件在搜索数据库时找到匹配的照片的效果要好20倍。”同样的失败率期间从4.0％下降到0.2％。
识别的局限与偏见
造成这种差异的一个原因是，在理想条件下面部识别可以很好地发挥作用，但是当出现意外变量，如恶劣天气或模糊数据库图像时，失败率开始大幅上升。此外，纽约时报也报道称，面部识别技术也无法撼动一致的性别和种族偏见，导致少数民族和女性的识别偏见：“皮肤越黑，出现的错误就越多，对于肤色较深的女性的图像，误差可达35％”。
公民的反击
公民开始反击面部识别系统。例如，香港的抗议者掩盖了他们的脸，并禁用了他们的智能手机面部识别登录，以防止执法。他们还通过拍摄未成年军官的照片并使用面部识别图像搜索在网上揭露警察的身份，从而扭转了警察的局面。
5.3智能警务
智能警务背后的想法是将大量数据输入算法 （地理位置，历史逮捕水平，犯罪类型，生物识别数据，社交媒体）以预防犯罪，应对犯罪行为，甚至制造关于未来犯罪活动的预测。因此，一个主要智能策略是创建自动化平台，可以分解大量的材料，促进来自多个来源的数据，并允许微调个人信息的收集。
预测性警务
最近受到关注的一个领域是预测性警务。在美国国家司法研究所于2009年开始为试点预测性警务项目发放补助金后，该技术在美国得到加速。这些项目的核心是，基于大规模数据汇总，将会非常准确地预测未来即将发生的犯罪行为，以及哪些人可能犯下这些罪行。预测性警务也因此非常受到欢迎。
偏见与预测的有效性
但人们越来越关注算法偏见和偏见，以及这些预测的有效性。Caroline Haskins最近针对Vice的报道描述了PredPol预测犯罪预测算法的运作方式。Predpol的软件为警察制作犯罪预测，可将规模缩小到500乘500平方英尺，甚至可以查明特定的房屋。PredPol揭示了“历史事件数据集用于训练每个新城市的算法（理想情况下为2到5年的数据）。当然，PredPol每天也会根据从部门收到的新事件更新算法。“新的预测会在Google地图上叠加的特殊红色框中突出显示，这些红色框表示需要警方巡逻特别关注的高风险区域。
PredPol方法的一个关键缺点是，它根据过去犯罪活动和逮捕的数据生成未来的预测。在PredPol的仪表板中，某些遭受“过度监管”和有偏见的警察行为的少数民族社区的出现率更高。这可能并不代表微调的算法犯罪预测，因为它涉及结构偏见的警务的长期存在。
06
AI监控启用技术
如果视频监控是“眼睛”，那么云服务就是“通过5G网络将摄像头和硬件连接到云计算模型”的“大脑” 。
6.1自动化边境控制系统
这些主要存在于国际机场和过境点。根据埃森哲咨询公司的说法，ABC系统使用“多模式生物识别匹配”（面部图像识别与电子护照或其他生物识别文件相结合）来处理乘客。当乘客踩到多摄像机墙前时，该过程开始。位于相机附近的数字反射镜吸引乘客的眼睛进行图像捕捉。然后通过针对个人护照和某些安全监视列表的身份自动测试来执行风险评估。
政府正在ABC系统中试用新功能，如自动谎言检测技术。例如，欧盟正在三个国家（希腊，匈牙利和拉脱维亚）测试一项名为iBorderCtrl的技术，以筛选边境口岸的移民。向个人询问有关其原籍国和离境情况的问题。然后通过基于AI的谎言检测系统评估答案。被检测有诚实回答问题的旅行者会获得一个允许他们穿越的代码。所有其他人都转移到人类边防卫队接受进一步询问。
iBorderCtrl背后的技术基于“影响识别科学”，其旨在阅读面部表情并推断情绪状态，以便做出法律判断或政策决定。心理学家对这些工具进行了广泛的批评，认为很难单独依靠面部表情来准确地确定一个人的心理状态。尽管科学界对这些技术持怀疑态度，但各国政府仍在继续探索这些技术。
6.2云计算
政府和公司越来越多地将数据存储在“云”上。云计算是一种通用技术，包括GPS地图，社交网络和电子邮件通信，文件存储和流媒体内容访问等所有内容。美国国家标准与技术研究院将云计算定义为“可以对可共享的可配置计算资源（例如，网络，服务器，存储，应用程序和服务）共享池进行无处不在，便捷，按需网络访问的模型”通过最少的管理工作或服务提供商互动来快速配置和发布。“
从基本的角度来说，云计算数据中心是互联网的支柱，可以即时存储，传输和传输所产生的信息。因此，云计算对于有效运行AI系统至关重要。微软，IBM，亚马逊，华为和阿里巴巴都建立了云数据中心，以促进人工智能的运营。
越来越多的国家完全接受云计算，并将所有数据存储需求外包给单一的企业平台。例如，2018年，冰岛与微软签署了一项服务协议，该公司将成为该国整个公共部门的唯一IT供应商。
云计算的趋势并非没有问题。首先，云服务器为网络黑客提供了诱人的目标。像NSO集团这样的安全公司声称他们能够渗透云服务器并访问目标的“位置数据，存档消息或照片”，这使许多人质疑云计算公司是否可以保存个人信息，公司机密，机密政府材料或健康记录安全。其次一个问题是强制数据披露，即使云服务器在技术上保持安全，政府也可能强迫公司披露云中保存的某些数据（如电子邮件通信或政权批评的短信）。
6.3 物联网
IOT基于这样的现实：越来越多的设备将通过互联网相互连接，允许共享数据以便在云中进行分析处理。一个主要的物联网障碍是设备之间缺乏互操作性。目前，iPhone，Alexa扬声器，Nest恒温器和OnStar自动系统可以在不同的平台上运行，并使用不同的信息源。虽然物联网将带来更高的效率，但它也可能将传统的非联网设备（如智能扬声器）转变为无所不在的监控仪器：
例如，当电视机具有麦克风和网络连接，并且可由其供应商进行重新编程时，它可用于收听在其房间内进行的电话交谈，无论电话服务本身如何加密。这些无疑带来更多的监视机会。
围绕物联网技术的争议正在增长。在2019年初，亚马逊透露，数千名员工听取了Echo智能扬声器录制的对话。在某些情况下，其工作人员辩论是否应将可能犯罪的录音交给执法当局。亚马逊在未经客户知情或同意的情况下分析了这些材料。同样，谷歌和Facebook的承包商也经常在他们的平台和个人消费者之间收听录音。
物联网驱动的移动监控是这类技术的另一种可能性。最近的一款新设备被证明可插入特斯拉Model S或Model 3汽车，并将其内置摄像头“变成一个随着时间的推移发现、跟踪和存储车牌和面板的系统”。当车主停放车辆时，“它可以跟踪附近的车辆以查看哪些车辆反复出现。”该设备的目的是警告车主免受盗贼和破坏者的攻击。但正如该设备的发明者杜鲁门凯恩所承认的那样，“它将你的特斯拉变成了一个由人工智能驱动的监控站”，并提供了“另一组眼睛，帮助并告诉你，你看到一个牌照跟随你多天，甚至多个转一圈。“
07
结 论
人工智能监测的传播继续有增无减。专制政权使用它来对目标人群进行打击已经敲响了警钟。但即使在法治传统较强的国家，人工智能也会产生麻烦的道德问题。专家表达了对面部识别错误率和少数民族人群误报率的担忧。公众越来越意识到AI培训数据集中的算法偏差及其对预测性警务算法和执法使用的其他分析工具的偏见影响。即使是良性的物联网应用 - 智能扬声器，遥控无钥匙进入锁，汽车智能仪表板显示器 - 也可能为监控提供麻烦的途径。
尽管这些批评基于的都是未经证实的研究，但关于先进监视技术的准确性，公平性，方法一致性和偏见影响等等，令人不安的问题正在浮出水面。政府有义务就如何使用这些新的侵入性工具提供更好的答案和更全面的透明度。
该指数和研究报告的目的是突出这一技术的新兴趋势，及其对现代生活的影响。庆幸的是，有足够的时间发起急需的公众辩论，关于人工智能技术、政府监督和公民隐私权之间的适当平衡。但随着这些技术越来越多地融入治理和政治，变革的窗口必将不断缩小。
学术plus授权转载
