使AI符合GDPR

As one of the strictest regulations related to data protection and 隐私, 欧盟的《澳门赌场官方软件》(GDPR)引起了世界各国的关注. 同时, 金融业, 尤其是互联网金融机构, 已经开始探索和投资人工智能(AI), 具体地说, 一种设计算法的方法，可以自动改进和优化提供给客户的服务或产品.g., 在开立银行账户时应用面部识别技术(FRT)，在评估信用评级时应用机器学习(ML)。.

如何使AI符合GDPR成为一个主要的讨论. Will GDPR result in the prohibition of AI for use with EU individuals’ data? 一个无法解释其决策标准的人工智能算法如何获得知情同意? If a user opts out, is an alternative human-based decision system available?

人工智能与GDPR之间的冲突

On 8 April 2019, the European Commission released “Ethics Guidelines for Trustworthy AI,”¹ 其中就四项道德原则(i.e., 尊重人的自主性, 预防危害, 公平性和可解释性)以及人工智能系统应该为一个值得信赖的环境实现的七个关键要求. 指南中的“公平”和“可解释性”原则是与“合法性”原则相一致的, 公平和透明”. 指南中“隐私和数据治理”和“透明度”的要求也符合GDPR的规定. 因此，在考虑人工智能GDPR合规解决方案时，该指南值得参考.

Consider an organization adopting AI represented as a self-driving car. 数据就是汽油, which provides the driving force to the car; ML is the automobile engine, which determines the performance of the car; and AI operates as the role of the sensor in the car, 有助于自动决策的过程. 一辆性能良好的自动驾驶汽车需要更多的数据输入来获得持续的驱动力，从而变得更有竞争力，并做出更准确的分析和预测. 然而, 尤其是对一家互联网金融机构来说, multiple relational data sets can easily result in “isolated islands of information,”² which make it difficult to connect the data sets so they can talk to each other. 如何在不违反GDPR规定的情况下有效实施数据共享，成为人工智能GDPR合规的最大关注点之一.

GDPR的人工智能限制条款

采用人工智能可能违反GDPR关于两项数据主体权利和两项GDPR原则的规定. 可能被侵犯的权利包括不受自动决策约束的权利和删除权. The two GDPR principles that may restrict the use of AI are transparency and data minimization.

不受自动决策支配的权利
只有当决策完全基于自动化处理并对数据主体产生法律影响或同样显著影响时，才禁止不受自动化决策约束的权利.³ 然而, 如果该过程是在数据主体明确同意的情况下完成的，或者控制者已经采取了足够的保障措施，那么这是允许的.⁴ 在这个场景中, the safeguards provided by the newly released trustworthy AI assessment list include:

• 以意想不到的方式获得人为干预. The way in which AI systems are developed incorporates unfair biases. 这可以通过放置人工监督过程来分析和处理系统的目的来抵消, 约束, 要求和决定以清晰和透明的方式进行. 为了遵守GDPR和提高人工智能结果的准确性，人工干预是必要的. 以互联网金融机构为例. Because of their heavy reliance on AI to provide services or products to customers, 他们必须手动执行信用检查，为客户提供适当的信用评级.
• 在隐私政策中明确说明自动决策，以便在处理客户数据之前通知客户. 《澳门赌场官方软件》(WP29)就GDPR第13条或第14条规定必须向数据主体提供的信息提供了指导.⁵ WP29 requires that the existence of automated decision-making including profiling, 有关所涉及的逻辑的有意义的信息, 对数据主体进行此类处理的重要性和预期后果将在隐私政策中说明. 除了, 在网站或移动应用程序中应该有清晰的标识，以突出显示这些详细信息的获取位置.
• 获得明确的同意，通知数据主体一个决策是算法决策的结果，他们正在与人工智能代理(例如)进行交互.g.(聊天机器人或机器人)或其他会话系统.⁶ 例如, 在使用人工智能服务之前，建议使用一个弹出窗口来征求客户的明确同意.

透明的处理
两个GDPR⁷ 还有指导方针⁸ 有共同的透明原则吗, 哪些规定应告知数据主体处理的存在及其目的,⁹ especially when the data processing activities involve automated decision-making. 关于逻辑的有意义的信息, 这种处理的意义和设想的后果应对用户明确透明. 人工智能服务提供商应避免“黑匣子”¹⁰ 通过向所有相关用户提供一个解释，说明为什么一个模型产生了一个特定的输出或决策(以及输入因素的哪些组合促成了这一结果)。, 这并不总是可能的. 增加数据处理中使用的人工智能算法的可解释性的另一个好处是增加用户的可信度.

删除权
因为数据共享和数据开放是人工智能的核心概念, a large amount of data may be stored in a third party’s data server or deployed in the cloud. 结果是, 数据控制器很难确保服务器执行删除操作，或者需要擦除的数据是否已从其他联合控制器或数据处理器中完全删除. 英国上议院指出，数据链终端(DLT)通过授权或访问指定的DLT，有助于遵守GDPR法规.¹¹ 变化的网络, 哪个是由节点组成的公共网络，由参与者在严格的政策下运营，不同网络服务对个人数据的处理有明确的规则, could contribute to GDPR compliance with respect to the right to erasure.¹²

数据最小化
De-identification (pseudonymization) allows more data to be used, processed and analyzed in AI. 假名化符合GDPR的数据最小化原则, 不同于匿名化, which means that the data subject is no longer or not identifiable. 如果互联网金融机构想要推荐定制的金融产品，而没有兴趣了解个人的实际身份, 它可以用一个简单的参考编号取代姓名或电子邮件地址等明显的标识符，从而对客户的个人数据进行假名化. GDPR提倡假名化，作为组织在没有额外同意的情况下重新利用数据的适当保障.¹³ 结果是, 假名化是一种通过不同程度的去身份化，使人工智能提供商在处理个人数据方面具有灵活性的方法.

GDPR Compliance Approaches for AI Application in an Internet Finance Organization

在互联网金融机构, 开设银行账户时采用了FRT，评估个人贷款申请时采用了ML等许多人工智能应用. The application of AI adds a number of risk factors including data accuracy, 黑客/不良行为者和预期用例. 为了降低风险, 组织可以通过设计实现隐私措施, security by design and trust by design; data protection impact assessment (DPIA); and trustworthy AI assessment.

以下场景涉及人工智能应用程序，并详细说明每个场景如何符合GDPR.

场景1:面部识别技术
Facial- and image-recognition technology can help analyze huge volumes of crime video footage, narrowing down the search and showing where people should focus their attention. FRT涉及的风险因素包括:

• 数据的准确性—The risk of data accuracy may include, but is not limited to, the following scenarios:
  
  • 背景相似或面部表情相似的照片可以被识别为同一个人.
  • The system has difficulty recognizing facial features in low light conditions.
  • 这一制度存在固有的种族或性别偏见.
  These risk factors are often caused by a small training data set scope, inappropriate training data collection approaches or inappropriate training data labeling. 可以通过收集更多的数据来降低风险. 然而, 它可能违反GDPR的数据最小化原则, 哪项规定数据控制者只能收集和处理相关的个人数据, necessary and adequate to accomplish the purposes for which they are processed.¹⁴ GDPR does not promote data sharing with third parties unless adequate safeguards exist. 第28(3)条对与外包处理商签订的合同中必须包括哪些信息有严格的规定.¹⁵ 为了解决这个问题, 联邦学习提供了一些技术支持，可以在不安全的情况下在不同组织之间传输数据，从而提高数据的开放性.¹⁶
  
  GDPR合规方法包括确保程序到位，以监控人工智能代理的性能，并响应与预期性能的偏差，包括对抗性输入, out-of-distribution错误, 学习过程中的错误, 意外的快速能力获得和其他大的上下文变化. 它们还涉及采用严格的安全和控制措施，以防止药剂的失控演变.
• 黑客/坏演员-另一个风险是由黑客/不良行为者带来的，其中对现实生活场景和对象的精心操纵可能导致意想不到的结果, 即使在对手无法访问训练中使用的基础数据或假设的情况下. Because of the strict regulations of GDPR, beyond encryption, there are many other 事实上的 必备的安全增强技术，如防病毒, 垃圾邮件, 防火墙, 身份和访问管理, 和数据丢失预防(DLP), to ensure that training and input data are stored in a secure 环境.
  
  严格的测试也是必须的. 使AI符合GDPR的其他可能方法包括限制授权用户访问AI代理生产环境，并对AI代理进行渗透测试和网络安全控制评估. “以毒攻毒”,“组织应该利用技术来解决在广泛的技术创新中出现的网络安全问题.
• 预期用例(e.g.、直销)—When processing an individual’s personal data in the context of direct marketing activities, GDPR要求数据控制者履行该法规规定的所有合规责任, 包括合法处理和透明度要求. 使AI符合GDPR的可能方法包括，设计或选择的AI模型与考虑其目标的AI代理的可解释性或审讯要求相称, 环境, 法律或法规要求, 利益相关者的期望. 有一个流程可以获得数据主体或组的同意，以便根据需要将数据用于拟议的人工智能代理.

场景二:ML在个人贷款中的应用
互联网金融机构发放的贷款金额是根据定制的评分模型决定的, 业务算法和预测分析. 人工智能通过利用算法和直接从借款人或第三方收集不同来源的数据来监测风险. GDPR要求明确同意(e).g., a 隐私 policy) to inform customers of the legal basis of their personal data use. Organizations can implement the following AI-GDPR compliance measures:

• 隐私由设计，安全由设计，信任由设计-GDPR要求IT系统收集, 处理和存储个人数据涉及开发的持续操作和管理，使组织能够有效地处理数据的整个生命周期.¹⁷ 道德准则要求人工智能在其过程中是安全的, 数据和结果, and it should be designed to be robust against adversarial data and attacks.¹⁸
• Data protection impact assessment (DPIA) and trustworthy AI assessment-GDPR要求DPIA是澳门赌场官方下载系统评估和识别其提供的任何产品和服务的隐私和数据保护影响的过程.¹⁹ 类似的, 美国国会表达了对亚马逊面部识别技术的担忧，并要求亚马逊对一系列问题做出书面回应，这是一项值得信赖的人工智能评估的一部分.²⁰ 亚马逊的评估包括准确性和偏见测试, 一种自动删除未使用数据的机制, 等.

谷歌、微软和SAP的GDPR-AI合规性

新发布的道德准则要求技术安全, 隐私, 以及数据治理的透明度和公平性.²¹ 谷歌, 微软和SAP在其人工智能原则中提到了公平性(避免制造或强化不公平的偏见)和安全性.

谷歌将为用户提供三个月后自动删除搜索和位置记录的选项.²² Microsoft has been a leader in applying innovative techniques for protecting 隐私, 比如差别隐私, 同态加密和将数据与个人识别信息分离的技术.²³ In 2018, SAP创新中心网络发布人工智能指导原则, which places data protection and 隐私 at its core by applying homomorphic encryption.

新兴技术, 比如同态加密, 可以帮助组织分析共享的加密数据池，而不必相互披露信息吗, taking advantages of ML and cryptography to protect special category of data. 越来越多的组织开始采取适当的措施，使用新的元数据管理工具来遵守GDPR.

人工智能的应用将出现爆炸式增长. Although two data subject rights and two main GDPR principles may limit the use of AI, 本文提出了相关的建议. 只要澳门赌场官方下载采取适当的保障措施(图1), 实施新技术, and refer to the Ethics Guidelines for Trustworthy AI and GDPR provisions to protect 隐私, it is possible for the best utilization of AI under the strict GDPR regulations.

图1 显示了人工智能计划与GDPR之间的一些潜在冲突，并建议采取补救措施.

结论

人工智能和GDPR法规似乎相互冲突. 这是否意味着欧盟国家必须限制人工智能的使用? 随着颠覆性技术在大数据时代的发展, 现代澳门赌场官方下载无法避免采用新技术. 澳门赌场官方下载应该使用先进的元数据管理工具和技术，尽量减少人工智能在后gdpr时代的风险.

尾注

¹ European Commission, “Ethics Guidelines for Trustworthy AI,” Belgium, 8 April 2019, http://ec.Europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
² 华莱士,N.; D. Castro; “The Impact of the EU’s New Data Protection Regulation on AI,” 信息技术 & 创新基金会，2018年3月26日 http://itif.org/publications/2018/03/26/impact-eu-new-data-protection-regulation-ai
³ 《澳门赌场官方软件》(GDPR)第2条. 22 GDPR: Automated Individual Decision-Making, Including Profiling,” Intersoft Consulting, http://gdpr-info.eu/art-22-gdpr/
⁴ Ustaron E.; “GDPR—A New Age for Data Protection,” 隐私 Perspectives, 23 May 2019, http://iapp.org/news/a/gdpr-a-new-age-for-data-protection/
⁵ European Commission, Guidelines on Transparency Under Regulation 2016/679 (wp260rev.2018年8月22日，比利时; http://ec.Europa.欧盟/NEWSROOM/第二十九条/项目细节.cfm?item_id=622227
⁶ 欧罗巴, “Ethics Guidelines for Trustworthy AI,” European Commission, 8 April 2019, http://ec.Europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
⁷ GDPR,“艺术. 5 GDPR: Principles Relating to Processing of Personal Data,” Intersoft Consulting, http://gdpr-info.eu/art-5-gdpr/
⁸ Op cit 欧罗巴
⁹ GDPR,“艺术. 13-15，朗诵60,71，“Intersoft Consulting，” http://gdpr-info.eu/art-13-gdpr/
¹⁰ 张,我.; 人工智能时代的人工智能经理实践手册，电子工业出版社，2018年6月
¹¹ 《澳门赌场官方下载》杂志, “区块链应用与法律风险分析”,2019年5月5日, http://www.btb8.com/blockchain/1905/47094.html
¹² Elec Fans, “Relationship Between DLT and Blockchain,” 22 April 2019, www.elecfans.com/blockchain/916000.html
¹³ GDPR,“艺术. 6:处理的合法性，Intersoft咨询， http://gdpr-info.eu/art-6-gdpr/
¹⁴ Op cit GDPR,“艺术. 5:处理个人资料的原则
¹⁵ GDPR,“艺术. 28(3) GDPR: Processor, Intersoft Consulting， http://gdpr-info.eu/art-28-gdpr/
¹⁶ 杨问.; “GDPR Issued a Challenge to AI and Federated Transfer Learning,” FedAI Ecosystem, 31 August 2018
¹⁷ GDPR,“艺术. 25: Data Protection by Design and by Default,” Intersoft Consulting, http://gdpr-info.eu/art-25-gdpr/
¹⁸ Op cit 欧罗巴
¹⁹ GDPR,“艺术. 《澳门赌场官方下载》，Intersoft Consulting; http://gdpr-info.eu/art-35-gdpr/
²⁰ Suppe R.; “Amazon’s Facial Recognition Tool Misidentified 28 Members of Congress in ACLU Test,” 《澳门赌场官方软件》， 2018年7月30日， http://amp.usatoday.com/amp/843169002
²¹ Op cit 欧罗巴
²² 西蒙,米.; “How to Automatically Delete the Web Activity and Location History Data in Your 谷歌 Account,” PCWorld的这个清单2019年7月9日 http://www.pcworld.com/article/3405850/how-to-automatically-delete-the-web-activity-and-location-history-data-in-your-google-account.amp.html
²³ 微软公司, The Future Computed—人工智能 and Its Role in Society，美国，2018