上世纪五十年代，艾萨克•阿西莫夫在其科幻著作《I,Robot》中首次提出了“机器人学三定律”，历史性地开启了人们对于人机伦理的思考。随着人工智能技术的快速进步，人们不断赋予机器人更多的独立技能，而当人工智能更深入地渗透进人类生活中时，机器自主的趋势给人类带来更多可能性的喜悦的同时，也不免让人们忧虑：在即将可触及的高阶智能时代，我们应该如何与机器无伦理障碍地相处？
人类创造了智能机器，如何让机器能够按照符合人类社会伦理和法律要求的方式造福人类，这是不可回避的现实问题。从技术角度而言，在智能机器的底层算法融入伦理要素，是预防和解决未来可能出现的人机伦理冲突的最有效的方法。
电气电子工程师学会（IEEE）针对自主系统设计规范于2016年底发布了《以伦理为基准的设计》，旨在解决将人类规范与价值嵌入智能系统的问题，这一途径的核心在于广泛讨论形成一套标准，指导人们在智能系统的设计构成中充分参考并融入人类的伦理价值。与愿景文件制定同时进行的还有IEEE 7000TM系列标准项目。
2017年12月，IEEE发布第二版的《人工智能设计的伦理准则》，对文档结构、内容等进行了大幅更新，仍然强调的是：自主与智能系统不应只是实现功能性目标和解决技术问题，而且应造福人类……伦理思考有助于我们确立理想的生活方式，实现亚里士多德所阐述的“幸福（Eudaimonia）”——将人类福祉定义为社会最高美德的实践。
为此，我们专门采访了IEEE标准协会首席执行官康斯坦丁诺•卡拉卡琉斯博士，对IEEE自主与智能系统伦理全球倡议、最新版愿景、系列伦理设计标准等关键问题进行了权威解读。在此特别感谢IEEE自主与智能系统伦理全球倡议项目中国委员会主席王亮迪博士与项目经理张文瀚在采访过程中给予的支持。
IEEE于两年前发起了针对自主与智能系统伦理的全球性倡议（Global Initiative on Ethics of Artificial Intelligence and Autonomous Systems）。IEEE是出于怎样的背景考虑适时启动了这方面的工作？
点击空白处查看答案
IEEE自主与智能系统伦理全球倡议项目的目标非常明确，就是在自主与智能系统设计与制造中嵌入以为人类福祉为本的伦理准则，不然，人们目前还不大可能自发地这么做；同时，IEEE这个倡议项目志在重新定义成功的概念，使得个人、社群和社会伦理价值的优先关注能被有意识地纳入人类进步的考量范围。
这项倡议早在2016年4月就已启动，那时这些新事物还没有获得如此广泛的关注，发起倡议的本意也并不是借着自主和智能系统中的技术来哗众取宠或让人盲目崇拜。人们普遍觉得一切正常，没有必要采取什么行动，但IEEE却认为这个时候科技界与其他相关方应该来明确解决与这项技术演化相关的一些重大议题。同时，我们也相信让技术发展与应用符合伦理价值基准将有助于促进技术创新，并减少可能没有意识到的负面后果。
为什么是由IEEE来发起这样的倡议？担负着什么样的使命？
点击空白处查看答案
必须强调一点，IEEE全球倡议中的参与者压根就没有、也不会定义一套放之四海而皆准的价值观。因为，伦理价值观，即便在个人或社会生活最基本的层面上，也是彼此有差异的，无论身处哪种文化或哪个地区。
我们想做的只是为专业人士提供务实的操作指南，指导他们如何在事前而非事后就在技术系统的设计中融入其用户群的伦理价值准则。
而且，我们所谓的“伦理”或“符合伦理”是一个广义的概念。例如，我们相信对人的尊严的维护既属伦理范畴，又属政治范畴，在这方面两者之间的界限不尽分明。因此，对于工程领域来说，必须事先解决一些关键问题，比如对大型技术平台缺乏信任的问题，比如互联网的透明度和我们个人信息的管理，以及我们失去对自己个人身份的控制。所以，IEEE全球倡议目前启动的13个标准化项目中绝大多数都是针对上述这些问题的，这也并非巧合。
新出现的技术，比如情感计算、虚拟或混合现实、伴侣或护理机器人等，将给立法部门与政府部门的工作带来两难。因此，作为技术人员，我们必须尽量从根源上解决问题，就是少出问题，让系统功能可以被预知、被理解，为监管部门和立法部门搭建起双向沟通的桥梁。
最后，IEEE全球倡议的使命，就是确保涉及到自主和智能系统设计与开发的相关方在优先考虑伦理与社会价值准则方面，都能得到尽如人意的教育、培训和授权，使这些技术进步真正能够造福人类。
倡议的整体工作框架是什么？除了愿景发布、设立技术委员会、专家招募、标准制定等，还包括哪些内容？
点击空白处查看答案
IEEE全球倡议是IEEE标准协会开展的项目，主要基于“产业互联”((industry connection)的框架，便于相关方在正式标准化工作之外达成必要的共识。该项目包括一个执行委员会，目前十三个负责具体内容的委员会，还有一些辅助性的委员会。项目汇集了来自全球的几百位成员，并且参与人数正在快速增加，项目面向所有对我们工作感兴趣的人都是开放的。
目前，项目主要有两方面的成果：一是推出并积极推广《人工智能设计的伦理准则（EAD）——在人工智能及自主系统中将人类福祉摆在优先地位的愿景》；二是识别并提出了围绕以伦理基准来设计的标准项目建议。
2016年12月，IEEE发布了EAD愿景，之后得到了哪些反馈信息？
点击空白处查看答案
第一版和新版的《人工智能设计的伦理准则》都是明确基于“征求反馈”的思路来设计和架构的。第一版发布后，我们收到来自全球的反馈意见超过两百页，并且已经全部公布，这些意见具有高度相关性且很有价值。其中大量反馈意见是有关具体委员会的，同时也有一些意见认为，上一版本过度侧重于西方伦理传统。因此，IEEE全球倡议邀请了几十位来自中国、日本、韩国和巴西（以及很多其它国家）的新成员加入到我们的委员会中。我们将吸纳第一版和第二版的反馈信息，制定出最终版本的EAD愿景，预计在2019年初发布。
2017年12月12日刚刚发布了新版EAD愿景，结构上进行了较大的调整，层次更加明晰，不变的是仍然体现了以人类福祉为本的理念，并强调了培训教育的重要性。请介绍新版本新增加的内容。另外，能否阐述一下五项一般性原则中体现的内在逻辑？以及对相关方进行教育培训的必要性？
点击空白处查看答案
第二版EAD愿景中增加了五个新的委员会，都是第一版未能涉及的领域，包括情感计算、政策、经典伦理学、ICT混合现实与人类福祉。增加新委员会的逻辑在于这些议题对于社会关注和解决人工智能系统伦理问题来说都很重要。
根据五项基本原则，我们希望确保全球就这个重要框架达成一致意见，至少在相关领域中形成共识。在新版愿景中把这五项原则单独提出来，可以让我们的重要关切、优先事项以及核心理念更加明晰，更便于读者理解。读者也更加容易参与并表达他们是否赞成。整体来说，我们希望这是一场全球性的民主思辨，而不是所谓的权威机构来宣扬某个封闭群体的一套信条或臆想。
愿景对于未来IEEE的技术标准的制定有哪些影响？IEEE在推动制定IEEE P7000等一系列约10项标准，目前在标准制定中如何具体参考符合伦理要求的设计（EAD）理念？请举例说明。
点击空白处查看答案
IEEE全球倡议的一个关键目标，就是启发后续IEEE标准的制定。需要说明的是，IEEE标准是通过公开、透明和规范的流程而形成的自愿性的、自下而上的技术建议，由全球工程领域主导制定并共同使用。尽管这些标准不是自上而下的法规文件，却很有用，能够实现先进技术与实用性的最佳平衡，因此得到了非常广泛的应用。
目前，IEEE全球倡议的成员已经着手开展IEEE P7000TM等整个系列标准项目的研制工作。几百位专家都加入各工作组，形成了一个全新的、独别的标准化生态系统，其中，工程师与哲学家、伦理学家、社会学家和非政府组织同台共舞。这些工作组面向全球公开，无论是否属于IEEE会员，任何人都可以免费参与。有意思的是，这些项目中大多数是由女性专家来牵头或共同牵头来推进的，这与IEEE等标准组织的其他领域标准化情况大不相同。
举例来说，IEEE P7000是正在制定的系列标准的首个项目，正是维也纳大经济与商业大学Sarah Spiekermann教授基于自身工作并牵头开展的。标准中所涉及的想法最初源自EAD伦理研究与设计指导方法委员会。这个委员会意识到目前系统设计领域的技术专家急需一项关于优先运用伦理（或价值驱动）设计方法的标准来指导实践。因此，该委员会起草了一份标准化项目提案（立项书），提交到IEEE标准协会的标准委员会，后者批准了这一项目，并组建标准化工作组。目前该工作组的工作已经取得了较大的进展。欢迎任何人加入其中。
目前中国专家和业界对于EAD的反应如何？IEEE如何评估来自中国的参与情况？
点击空白处查看答案
从中国人工智能伦理领域的反馈情况来看，我们非常荣幸看到一些专家和学者把第一版和新版的EAD愿景的综述部分翻译成了中文（中文版翻译）。我们的执行主任近期也到北京与中国人工智能领域的三十几位专家进行了会谈，专家们表示愿意加入中国工作组。这个工作组的目标不仅包括收集业界对新版EAD愿景的反馈意见，还将提供独特的内容，汇总并融入《人工智能设计的伦理准则》的最终版本。
-THANKS FOR READING-
来源 | 《中国标准化》2018年第1期
|
长按二维码，关注 “中国标准化” |
「中国标准化」旗下刊物 《中国标准化》 《中国标准化》海外版 《标准科学》 《标准生活》 《产品安全与召回》 |
|
关注「中国标准化 」微信公众号，获取更多标准化重要信息！