为什么我们需要对人工智能和快速的监管和立法

人工智能 (AI) 是全球技术浪潮，毫无疑问，它已经进入印度市场。印度在赋予机器人公民权方面还没有取得进展 (例如沙特阿拉伯的索菲亚)，但个性化聊天机器人已经涌入市场，人工智能已经涉足医疗领域，它也被用来保护网络空间。

随着对人工智能领域的更大探索，世界正在朝着服务近乎完全自动化的目标迈进。加拿大等大多数人工智能先进国家一直坚持端到端 “人类参与” 的要素，以确保人工智能系统的问责制和安全性。人工智能完全基于从各种来源生成和收集的数据。因此，有偏见的数据集显然可能导致系统做出有偏见的决策或聊天机器人的错误响应。

<iframe src = "// players.brightcove.net/5757251836001/zyu0hpzif_default/index.html？视频id = 5763430182001" allowfullscreen = "" webkitallowfullscreen = "" mozallowfullscreen = "></iframe>

基于古尔冈的ai初创公司Morph.AI的联合创始人pratik Jain表示，如果聊天机器人在业务部署后无法正确响应，则会提供人工回退以根据业务生成和提供的数据纠正错误。

另请阅读: 随着AI进军律师事务所，应届法律毕业生的工作受到威胁

2018年2月01日，财政部长阿伦·贾特利 (Arun Jaitley) 表示，政府智囊团Niti Aayog将领导国家人工智能计划。为了实现这一目标，政府将在人工智能培训和研究活动方面支持初创企业和卓越中心。因此，人们已经确定，人工智能将长期存在，无论是像Alexa这样的智能助手，自然语言处理 (NLp) 来处理句子形成和情绪，甚至机器学习平台。

然而，尽管所有既定的进入全球市场的模式，人工智能还没有一个路标，被监管，甚至被法律理解。让我们以索菲亚 (Sophia) 为例: 根据管理沙特阿拉伯公民的法律授予公民身份，她会被允许从2018年6月开车吗？她会被允许购买房产吗？如果她犯了罪，等于她显然是错误地说的，她想摧毁人类，将受到什么惩罚？

关键是，人工智能正在发展多方面，我们仍然不知道与之相关的所有优势或陷阱，这就是为什么建立两层保护模式至关重要的原因: 一是技术监管机构; 二是控制人工智能行动以及错误责任的法律。

<iframe src = "// players.brightcove.net/5757251836001/zyu0hpzif_default/index.html？视频id = 5763429787001" allowfullscreen = "" webkitallowfullscreen = "" mozallowfullscreen = "></iframe>

让我们以个性化聊天机器人的形式为例。聊天机器人是基于聊天的界面，会在客户可以与之交互的网站上弹出。这些聊天机器人可以遵循脚本文本或通过机器学习 (ML) 和增加的交互偏离标准问题，以提供更像人的交互。在与聊天机器人通信的过程中，如果一个人出于任何原因想要获取敏感的个人信息，这些数据会发生什么？

2011，在信息技术 (合理的安全实践和程序以及敏感的个人数据或信息) 规则的范围内披露数字空间中的敏感个人信息。《2011规则》第5(3) 条规定，

“在直接从有关人员收集信息时，法人团体或代表其的任何人应…… 确保有关人员知道- (a) 正在收集信息的事实; (b) 收集信息的目的; (c) 信息的预期接收者; (d)- (i) 收集信息的机构的名称和地址; (ii) 将保留信息的机构。

因此，对于ML聊天机器人，它不能按照脚本文本工作，并且已经收集了敏感的个人信息，如果违反了规则5(3)，谁负责？最明显的答案是业务部门/公司，因为2011规则中的规则规定 “法人团体或代表法人团体的任何人……” 收集信息。但是，企业是否可以通过声称它不知道聊天机器人由于其机器学习的AI能力而收集了敏感和个人信息来避免责任？

对于无法在脚本文本上工作的高级聊天机器人，我们没有任何明确的规定。由于法律缺乏明确的规定，问责制可能会受到打击。此外，如果人工智能机器人在印度获得公民身份，会发生什么？谁对他们的行为负责？或者在发生自主车祸的情况下，谁应对财产损失或造成的伤害或死亡负责？

总体而言，我们的法律最终将需要修改，或者需要采用针对人工智能技术和流程的新法律，以填补不断增长的人工智能领域中的现有空白。然而，在承担这项艰巨的任务之前，形成任何人工智能活动都应该在国家层面上满足的基本准则会更简单 -- 本土的、外国的，甚至是对开源人工智能的修改。该指南将作为法律或全新人工智能法律任何修订的基础。

目前关于人工智能的争论是在人类冗余和技术进化之间。不管怎样，现实是人工智能已经进入市场，撇开利弊不谈，现在需要的是估计问题并提前解决问题。