南开法律评论·总第十四辑

　　《南开法律评论·总第十四辑》：　　（一）现有伦理准则无法解决自动驾驶汽车道德决策难题　　2018年，我国发布了《人工智能标准化白皮书（2018版）》，其中论述了人工智能的安全、伦理和隐私问题，认为设定人工智能技术的伦理要求，要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则。欧盟于2019年出台了可信赖人工智能的伦理准则，明确了可信赖的人工智能的定义。欧盟准则中值得信赖的人工智能包括两部分：一是它的开发、部署和使用应符合基本权利和适用的法规，并尊重核心原则和价值观，确保“道德目的”；二是它在技术上应该强大可靠。俄罗斯则起草了世界上**部关于智能机器人法律地位的“格里申草案”。同时，诸多国际组织也纷纷参与倡导人工智能伦理准则或框架，如2018年电气和电子工程师协会（IEEE）发布《人工智能设计的伦理准则（第2版）》，全面阐述人工智能13个方面的伦理事项；2016年世界科学知识和技术伦理委员会发布了《机器人伦理报告初步草案》，既探讨了涉及社会、医疗、监控、工作等方面的机器人伦理问题，同时还探讨了机器伦理制造道德机器的应用。　　从上述规定可以看出，当前各政府及社会组织制定人工智能伦理准则或框架的主要目标和愿景是为人工智能的设计伦理提供框架，而非为人工智能的具体应用场景和具体决策提供详细指导。也就是说，以上的伦理准则或框架依然无法解决以具体应用场景和决策为目的的自动驾驶汽车所面临的“电车困境”。无论是《人工智能标准化白皮书（2018版）》或是相关国际组织准则，都没有针对自动驾驶汽车的专业化伦理准则，同时，自动驾驶汽车应遵循何种伦理被设计出来和其是否应承担自主伦理决策权是两个不同的问题，现有伦理准则无法回答是否应对自动驾驶汽车赋予道德地位的疑问。　　（二）现有伦理准则对自动驾驶汽车设计伦理和道德地位概念界定不清　　已发布的伦理准则并未明确自动驾驶汽车具备道德能力和赋予自动驾驶汽车道德地位是不同的概念。现有伦理准则主要约束的是道德机器的设计过程，在技术伦理准则监督和规制下所生产的智能机器不因其生产过程符合伦理准则而天然地具备伦理地位，此项概念的厘清并未包含在已发布的伦理准则中。当前，自动驾驶汽车企业正在努力攻克的L3/IA层级尚不具备完全自主决策的能力，技术尚无法达到超级人工智能的要求，诚然，随着人工智能技术的发展，自动驾驶汽车在未来具备道德决策能力是可能的。然而，即便技术上达到L5层级，但是否应该赋予自动驾驶汽车主体资格依然是一个值得商榷的问题。人类在实际生活中面临的道德决策是复杂且多元的，如何用算法学习人类复杂且多元的伦理准则进而作出决策是非常具有挑战性的。自动驾驶汽车具备道德决策能力并非不可达成，道德决策同其他运算一样，都是智能机器所要执行的算法，只要设计者在编程算法的过程中符合相关伦理准则，那么这一算法就是符合伦理要求的。但若将自动驾驶汽车赋予自主道德决策权，就意味着其要为自身的道德决策负责，在本质上相当于要解决自动驾驶汽车是否能够具有法律主体资格的问题。　　事实上，对于“弱人工智能”，即使机器在运行算法的过程中由于算法的模糊性，产生的结果和设计者所设想的并不完全相同，但算法运行的基础依然是以人类意志为代表的结果。目前的人工智能技术无法设计出一套自上而下的伦理决策系统以进行完全自主的道德决策，这种决策路径下，不是人工智能的创造者在特定条件下运行人工智能，而是人工智能基于植入的既定关于哲学道德的人工智能程序作出决定。在此种情况下，机器所作出的伦理决策并非源于机器的自我意识，其决策过程受到人类编写代码控制，也应由其设计者或发行者承担相应责任，设计者或发行者在编写代码或命令的过程中应该遵循本国或本区域的伦理准则。因此，机器应遵循何种伦理被设计出来和机器是否应具备自主伦理决策能力是两个不同的问题。　　……