人工智能视域下的伦理挑战与应对——以无人驾驶作为分析对象

随着科技的不断进步,人工智能是社会发展的必然趋势。关于人工智能的话题,还得从 2016 年阿尔法以 4 比 1 大胜围棋世界冠军李世石说起,这场人机大战的结果让人不寒而栗,由此也引发了一系列关于机器人的讨论。甚至有人抛出,未来人类将会被机器人取代的言论。2016 年 5 月在美国一辆电动车与无人驾驶汽车相撞,造成电动车司机死亡。2018 年 3 月一辆 Uber 自动驾驶汽车撞到一名女行人并致其死亡。关于人工智能诸如此类的消息,不得不让人去反思人工智能给人类带来的挑战。为了解决此问题,笔者借助了当年本科在汽车领域所做的相关研究,再三思索,便选择了人工智能视域下无人驾驶对人类伦理道德挑战与应对的课题,提出无人驾驶的开发者是否能开发出“道德代码”①、是否要规避安全风险、以及应当如何免受隐私泄露与产权如何保护等相关问题,并从多角度、多层次、全方位来分析这些问题,并对这些问题做出合理的、具有可行性的应对方案。

一、无人驾驶的概念及现状

无人驾驶,又称无人驾驶技术、自动驾驶系统,它是基于传感技术( 利用摄像头、雷达等检测车辆周围的环境) 、通信技术( 利用网络信号实现车与路之间的通信) 以及控制技术( 利用中央决策系统来实现路径规划和轨迹跟踪) 开发出来的一种新兴的自动驾驶系统,它不需要人来操纵车辆,便能对车辆运动及环境做出准确的判断,实时地改变车辆运动,完成车辆驾驶任务的一项新技术。相对传统的汽车驾驶而言,无人驾驶具有更安全、油耗更低、污染物排放更少的显著优势。研究表明,无人驾驶诸多优势表现在: 第一,无人驾驶能使交通事故率降低至 90% ,道路通行利用率提高 10% ①,这不仅减少了交通事故所给人带来的生命财产损失,而且还可以有效地避免堵车给人们带来的烦恼。第二,绿色环保,低耗降排。尤其是在油耗方面,它不仅提高了 20% ~ 30% 的汽车燃油经济性,还能够在高速公路上编队行使降低 10% ~ 15% 的油耗②。第三,给社会带来显著的经济效应,带动整个互联网、通信、汽车业的发展。第四,改变传统驾驶模式,减轻驾驶员负担。第五,对国防建设也意义重大,如无人驾驶战机、坦克、车辆等。基于如此多的优势,汽车企业和 IT 企业开启了对无人驾驶的研发。例如,在国外,谷歌公司早在 2010 年就公布了无人驾驶汽车项目,并取得一定的研究成果。此外,雷克萨斯、沃尔沃、宝马、通用汽车、奔驰、福特、奥迪等汽车公司也对无人驾驶进行了投入和研发。其中在无人驾驶方面,奥迪是继谷歌之后第二家拿下美国无人驾驶测试的厂家,足见其无人驾驶的成熟; 在国内,众多的汽车企业和 IT 企业也积极参与无人驾驶的研发,如百度在 2015 年就开启了无人驾驶汽车的研发计划,该汽车可自动识别交通指示牌和车辆信息,具备雷达、相机、全球卫星导航等电子设施,并安装同步传感器。车主只要向导航系统里输入目的地,汽车即可自动驾驶,并前往目的地。在汽车企业方面,由一汽公司和国防科技大学研制的无人驾驶红旗 HQ3,在 2011 年就通过了试验; 北汽公司在 2014 年不仅进行了无人驾驶示范运营,还研发出自适应防碰撞、道路识别系统、自我纠正系统、自适应巡航等技术; 北京现代与军事交通学院合作研发的无人驾驶汽车业已顺利试验,并推出面向普通民众的体验计划,等等。

从学界来看,关于人工智能给学者带来的伦理思考方面的研究不胜枚举,其中比较有代表性的是甘绍平在其著作《应用伦理学前沿问题研究》中第四章责任伦理: 科技时代的伦理,不仅对科技伦理做出明确的概念界定,而且对国内外关于科技伦理前沿问题进行了深入剖析; 比较有代表性的论文有徐英瑾的《具身性、认知语言学与人工智能伦理学》( 《上海师范大学学报•哲学社会科学版》2017 年第 6 期) 、史南飞的《对人工智能的道德忧思》( 《求索》2000 年第 6 期) 、杜严勇的《机器人伦理中的道德责任问题研究》( 《科学学研究》2017 年第 11 期) 以及陈静茹的《人工智能技术的伦理问题及其对策研究》( 《学理论》2018 年第 12 期) 等等。总体上,他们详细地分析了人工智能在宏观层面上给社会带来的伦理问题,为后辈学者继续研究人工智能微观方面的伦理问题奠定了基础。由于人工智能在宏观上包括机器人、语言识别、图像识别、自然语言处理以及专家系统( 自动驾驶系统) 等方面,每个方面都有其要面对的伦理问题,所以有必要对细化人工智能伦理问题的研究。因此,本文就针对无人驾驶这方面的伦理问题开展研究工作。目前,仅有谢惠媛教授从科技伦理的角度,反思与民用无人驾驶伴随的问题,由此辩证地审视科技进步对道德观念的影响。本文在此基础上,不仅分析、反思无人驾驶为什么会造成伦理难题,而且提出应对无人驾驶造成伦理困境可操作性的建议与方案。

二、无人驾驶对伦理的挑战

随着我国北斗导航系统的完善,基于导航技术的无人驾驶也会得到国家以及相关部门的重视和支持,保证我国无人驾驶与国际研究水平接轨,推动无人驾驶产业化、标准化。但无人驾驶在产业化的过程中仍有一定的技术难题,不但受到成本、法律、社会等因素的制约,还给人类的伦理道德带来一定程度的威胁与挑战。

1. 无人驾驶难题与研发者之间的“道德困境”

无人驾驶是基于各种技术而开发出来的智能系统,其核心部分在于中央处理器对车辆的控制,而要控制车辆必须有相应的程序设计。作为中央处理器的研发者,他们将特定的程序编入芯片,使中央处理器按固定的程序执行任务,这就涉及个体道德价值判断与群体道德价值判断的冲突问题。不妨先想象一个场景试验,再来分析二者冲突。假如,在同等的条件下,一辆由司机驾驶的汽车和一辆无人驾驶的汽车同时行驶在高速公路上,突然两辆车发生同样的车祸,司机会做出何种反应,无人驾驶的汽车又会怎么样? 一般而言,人在驾驶的过程中,一旦发生交通事故,是来不及理性地分析和判断的,因为这是由事故的瞬时性决定的,但人是出于本能的反应,而这种本能就是立即停止伤害他人或自我保护。相较无人驾驶而言,由于汽车是利用计算机编程,把预设到事故多种可能结果用精细的程序代替,通过对事故现场的程序分析,并做出相应的处理指令。但问题是,程序是由程序员所设定,且他所设定的程序又并非事故现场的真实状况,如何保证程序能够及时止损或很好自动处理好事故现场呢? 换言之,程序是否应该具备道德判断的功能,或者说此程序是否为“道德代码”。若程序具备道德代码,那么它代表的是程序员的价值判断和理性抉择,并非是汽车本身的价值判断,在此意义上说,它就是个体的道德价值,即是作为司机这个群体的人对此事故做出的价值判断。

当事故的发生危及生命或基本权利时,无论是司机还是程序都必须做出回应。作为群体价值判断①,司机会基于本能的求生欲望中权衡自己的损失而做出回应,其结果无非就是主动承担、肇事逃逸。很显然,司机的选择正如“囚徒困境”一样,做出对自己最有利的选择,即主体价值权衡。相反,程序则不会思考,不会进行道德判断,面对出现的事故,其结果可能是继续伤害,因为一旦程序受损,无论是对人还是对车的伤害都是无法停止的。那么,问题来了,若无人驾驶出现因程序问题发生的事故,主体责任应该是车还是程序,抑或是程序员,这就给交警处理交通事故时对主体责任的判断造成一定的困境。然而,有些学者已经提出将人的理性和道德融入程序的想法。如沃勒赫( Wendell Wallach) 和艾伦( Co-lin Allen) 认为道德推理之功能的主张,以及安德森( Michael Anderson) 等人关于为机器创造伦理并使计算机做出正确的伦理决定的看法。若此想法和主张能够将理性选择与道德判断完美融合,那么我们又不得不思考程序员该如何编写“道德源代码”②? 也就是说,“图灵试验”③何以可能? 换言之,当植入“道德代码”于自动驾驶的汽车当中,且能够自主地应对各种困境时,“阿西莫夫三定律”④便显得多余与无用,即机器人不得伤害人类,且当人类受到伤害时也不袖手旁观的道德定律就是无用的设定。原因在于“道德代码”已经将自动驾驶汽车未来可能出现的一切伦理问题以及出现的任何风险都化解了,使自动驾驶汽车绝对的安全、可靠。很显然,这是不可能的。由此可见,“道德代码”与“阿西莫夫三定律”是一对二律背反。

2. 无人驾驶与安全的伦理准则冲突

尽管无人驾驶自公布于世以来,受到汽车行业的追捧,宣称安全指数极高。事实上,无人驾驶真的能确保人的安全吗? 安全即不受到伤害,这是最基本的伦理准则,也是人的基本价值。尽管无人驾驶在理论上要比人为驾驶安全、可靠,但遇到不可控的因素,二者谁更安全就不言而喻了。无人驾驶所面对的环境是完全开放的,天气、光线、突发路况和有人驾驶汽车的共存等外部问题如何平衡? 谷歌无人驾驶车行驶 321 万公里就撞 18 次; 特斯拉也出现过车祸致死的事故,这些都无不是因为外部原因所导致的。无人驾驶虽然减轻了司机的负担,但并未像司机一样与外部的“生态环境”保持高度的一致。面对此种情况,无人驾驶连根本的安全都无法保证,又怎敢让人安心坐车?

众所周知,系统失控或出错是所有采用机械或电子技术产品的通病。假若碰上无人驾驶汽车系统死机了怎么办? 电脑死机犹可忍,可汽车“蓝屏死机”就绝非一句抱怨那么简单,软件延迟 0. 1 秒响应都极有可能引发交通事故。死机也罢,对无人驾驶系统最具攻击性、杀伤力的莫过于黑客植入的病毒。电脑中病毒了,有杀毒软件,汽车不也一样吗? 虽然像特斯拉给无人驾驶系统增加了秘密钥匙,谷歌也经常发布补丁来修复无人驾驶车互联网的安全漏洞,但是黑客与反黑客本身就是一种博弈,每当一个问题解决了,就会有一个新的问题出现。所以说,黑客不仅是程序员的克星,更是无人驾驶车安全问题的制造者。既然黑客无孔不入,那么消费者使用被黑客攻击的无人驾驶汽车而造成交通事故时,其主体责任是在于消费者还是开发者,或者是生产厂商? 因此,尽管无人驾驶的安全性较高,但在发生交通事故时,主体责任在于谁? 谁又能为事故者买单? 对此,美国学者 Alexander Hevelke 指出,即使无人驾驶只能减少部分道路交通的伤亡,政府也有义务推动其发展,然而一旦完全无人驾驶汽车上路,就必须明确为可能产生的交通事故负责任。事实上,无人驾驶汽车作为一项有价值的产业,推动其发展无可厚非,但可能的风险和潜在的问题,却是棘手的难题。所以,Nick Belay 提出要明确“行使权”和“驾驶权”的问题,认为无人驾驶汽车在其上市前,就必须通过法律明确“行使权”和“驾驶权”的问题。这无疑是对无人驾驶安全责任的确立。

由此可见,作为一把双刃剑,无人驾驶汽车既有助于经济的发展,但又对人类生命构成潜在的风险。尽管任何一项新技术都不可能确保人类百分之百安全,但如何让事故风险降到最低以及特殊情况下发生的事故如何负责,是人类寻找无人驾驶汽车的正确出路。

3. 无人驾驶与经济伦理中的“技术性失业”的关联

人们在享受无人驾驶带来的快乐的同时,也会造成劳动者失业,首当其冲的是司机这个职业。作为一项开车技术,驾驶对驾驶员的技术要求是比较高的,尤其是手与脚的协同配合性。一旦无人驾驶得到普及和推广,必然会引起从事司机职业的劳动者失业的现象。这里,把此等现象称之为“技术性失业 ” 所谓 “技术性失业”,是指人工智能取代了传统劳动力,并改善或改造生产方式所造成的失业。

随着科学技术的进步与应用,产业结构的变化、劳动生产率的提高,导致工业部门对劳动力的需求数量相对减少,而对劳动者的质量、技术水平要求的提高,两者都可能成为引起技术性失业的原因。换言之,在经济体内部,劳动力总需求并不因为使用技术而受到影响,除非一些特殊等级和类型的人需求会造成长期不利的影响,其数量相对有限。由于使用节省劳动力的机器和技术,劳动力可能遭遇失业。而无人驾驶不得不面对技术失业给经济伦理所带来的挑战。斯坦福大学人工智能与伦理学教授杰瑞•卡普兰(Jerry Kaplan) 在《人工智能时代》一书中指出: “人类要应对人工智能带来的重大挑战在于劳动力的变革和整个社会财富的分配方面,这将极大地影响社会的稳定。”①无疑,无人驾驶使传统汽车司机下岗的同时,也在一定程度上使整个劳动力市场失衡。世界经济论坛主编 K. 施瓦布( Klaus Schwab) 在达沃斯也传达了高科技如果广泛地应用,在今后可能导致更多的人下岗这一观点。事实上,劳动力与劳动市场该如何转型的问题也正是由科学技术点燃的。马克思指出: “技术性失业”是人被“异化”的结果,“科学对于劳动来说,表现为异己的、敌对的和统治的权利,而科学的应用一方面表现为靠经验传下来的知识、观察和职业秘方的集中; 另一方面表现为把它们发展为科学,用以分析生产过程,把自然科学应用于物质生产过程。科学的应用是建立在生产过程的智力同单个人的知识、经验和技能相分离的基础上的。正像生产的( 物质) 的集中和发展以及这些条件转化为资本是建立在使人丧失这些条件,使人同这些条件相分离的基础上的一样。” 从马克思经济学的观点来看,无人驾驶正是基于人类的驾驶知识、经验和职业秘方之中,使真正从事驾驶行业的劳动者所拥有的这些被它无情地剥夺了,从而导致技术性失业。实际上,作为无人驾驶是驾驶员被高科技“异化”的结果。所以,面对此种经济伦理困境,如何平衡传统职业与无人驾驶这种高科技驾驶员是国家在就业保障上不得不反思的一个重要问题。

4. 无人驾驶与隐私、专利之间的道德问责

面对无人驾驶与隐私、专利之间的矛盾冲突,我们不禁要问: 无人驾驶如何面对不断被赦免的隐私和知识产权侵权原罪? 隐私原本是指不受他人干涉的自由状态,后经法理学学者把隐私的立法写入法律,成为人类一项特有的权利,后引申为非经授权,个人权利、财产免受公共审查和曝光。在日常生活中,所谓的隐私就是个人信息没经过自己的允许是不准被他人收集、处理和利用的。然而,随着互联网时代的到来,网络作为一种全新处理信息的方式,难免在人际交流被不法分子窃取个人隐私,这给隐私的保护带来了极大的挑战。无人驾驶也不例外,因为无人驾驶是在网络、大数据等技术支持下运行的,也会涉及个人信息的验证,比如指纹信息、文字信息、刷脸等等。那么,如何保证开发无人驾驶的开发者遵守职业道德,保护消费者的隐私? 或言,汽车被盗或系统遭受黑客攻击时,如何有效地防止车主的信息泄露? 因此,无人驾驶与隐私,便成了一个棘手而又难以解决的道德问题。

作为一项发明和创造,无人驾驶应该加强其知识产权的保护。据统计,人工智能技术领域的相关专利申请数量已超过 2. 4 万件①。其中,美国居申请专利的榜首,在人工智能领域的企业 IBM 申请了2399件、谷歌申请了2171 件、微软申请了1544 件。相比国内,人工智能方面的专利尽管起步比较晚,但还有不少企业在申请,如百度申请了 446 件、阿里巴巴申请了 383 件、腾讯申请了 201 件。可见,无论是国外还是国内,新兴技术领域的知识产权保护呈上升趋势。虽然这些专利、发明需要法律保护,但是作为人工智能的无人驾驶,就涉及诸多伦理方面。假若两家企业同时推出无人驾驶技术,如何判定这项技术归属谁? 谁是技袭,谁又是原创? 换言之,无人驾驶涉及编程,而这个编程可能被同行所使用,这个知识产权如何界定这个程序谁先发明、谁先使用、谁侵权了,等等。可见,无人驾驶所涉及的知识产权原罪的判定在开发程序者与使用程序者之间的责任界限便提到议程上来了。

三、应对无人驾驶伦理危机的方案

无人驾驶推动社会发展进步的同时,其发展的不确定性也会给伦理道德带来新的挑战,甚至出现新一轮的道德危机。面对此一窘境,在大力发展无人驾驶的同时,需要考虑其发展可能带来: 对社会就业的冲击、对社会责任伦理的判断失准、对个人隐私及产品保护权的侵犯以及安全风险的挑战等诸多问题。有鉴于此,笔者从以下几个方面尝试拟出应对方案和措施建议:

第一,从伦理道德角度言,将人的道德理性融入程序,研发“道德代码”来明确无人驾驶道德主体责任。前文所提到的无人驾驶难题与研发者的道德困境主要原因是: 在具体、特定的情况下,无人驾驶汽车发生交通事故时,道德责任主体不明,就会催生一系列的道德问题,如“道德代码”本身存在与否、主体责任判定等难题。从科学的角度言,机器人不具备人思维的特征,但不一定不具备道德的属性。假若真如沃勒赫和艾伦两位学者所言,将理性与道德植入程序,让无人驾驶具道德判断功能,那么个体价值判断( 程序员) 与群体价值判断( 驾驶员) 之间的困境就很好地解决了。由于程序员所开发的程序具有道德价值判断,且程序员所要研发的程序必须从驾驶员的角度去考虑,所以程序员就能与驾驶员很好地展开对话,达成共识。至于意外发生交通事故,责任主体存在不明的现象也不攻自破,因为既然无人驾驶的开发者能与驾驶员达成一致,那么无人驾驶汽车名义上的司机应是程序员。显然,主体责任在于程序员,即只要程序员将个人意志与程序完美地结合而研制出“道德代码”,就能使交警更加快捷、方便地处理无人驾驶汽车突发的交通事故。

第二,从生命伦理角度言,构建无人驾驶安全检测预警机制。在生命伦理中,不伤害他人,不被他人伤害就是其最基本的伦理原则,正如阿西莫夫提出的“机器人三大定律”一样,机器人是为人服务的,不能害人类。安全作为人最基本的伦理准则,尤其是在人类过分相信高科技而忽视未来安全的情况下,有必要完善无人驾驶的安全体系,以面对外部不可控的“生态环境”,准确地做出跟踪和研判。构建无人驾驶的安全体系,不仅是企业要加强对无人驾驶发展的预测、研判和跟踪,精确地把握此技术的发展趋势,而且国家更要“构建动态的人工智能研发应用评估评价机制,围绕人工智能设计、产品和系统的复杂性、风险性、不确定性、可解释性、潜在经济影响等问题,开发系统性的测试方法和指标体系,建设跨领
域的人工智能测试平台”。由于黑客、系统漏洞给消费者带来的安全风险,应由开发者负全责。美国科学哲学家纳尔逊•古德曼( Nelson Goodman) 对此毫不犹豫地指出: “在所有的黑客入侵行为中,95%以上都是利用旧的安全漏洞进行的。同时,可以弥补这些漏洞的补丁也是现成的。因此,完美需要的软件是能够自动更新、自动弥补漏洞并阻止黑客入侵的软件。必须让软件自动实现这些功能,必须把责任落实到开发者身上,而不是消费者身上。”可见,作为无人驾驶的开发者,程序员有必要对无人驾驶的安全负全责,以便更好地激励程序员对此技术做进一步的改良和提升。

第三,从主体价值角度言,适应市场的发展,改变就业方式。在人工智能的大背景下,无人驾驶替换了驾驶员,导致从事交通业的司机下岗。司机这个职业并非是简单重复性劳动,因为从事此职业需要考取驾照。用马克思对劳动分类的观点来看,司机的驾驶技术属于复杂劳动。作为经济伦理的一个重要指标,失业率是社会经济活动中衡量经济的标准之一,尤其是新兴技术的崛起,对传统的就业有很大的冲击。在 2017 年,国家就把人工智能写入未来经济发展规划,并对其所造成的失业提出预案: “加快研究人工智能带来的就业结构、就业方式转变以及新型职业和工作岗位的技能需求,建立适应智能经济和和智能社会需要的终身学习和就业培训体系。”事实上,在汽车领域智能化是在所难免的,而无人驾驶
造成“技术性失业”也是必然。但面对此种情况,不应悲观消极应对,而是积极适应并做出相应的改变,正如《国务院关于印发新一代人工智能发展规划的通知》所提出的适应智能社会,树立终身学习的理念。如果司机下岗,可以鼓励他们去学习汽车相关知识,并从事汽修行业。或者加强失业者再就业培训指导,促进无人驾驶失业的人员顺利转岗等。

第四,从责任伦理角度言,建立追溯和问责制度。所谓问责制度,是指在使用无人驾驶时,明确相关责任主体的权利、义务和责任,一旦发生交通事故,无论是开发者、生产商还是消费者,都可以清晰明确地知道所应承担的责任。由此,笔者提出避免道德归责的两种方案: 一是补偿方案。此方案是被植入“道德代码”的无人驾驶汽车是基本完全自主,从道德上讲,无人驾驶汽车不应该被追究责任,仅是研发公司、企业担负补偿、赔偿损失的责任; 二是统一规则方案。被植入“道德代码”的汽车,由于是将全体性结构程序算法的精确化,并有统一的规则,这就有效地避免了个人归责的难题。此外,在隐私保护上,不仅要从法律上进行立法保护,更要从伦理规范上规范、约束侵害个人隐私的行为。国家对人工智能发展规划就明确提出要逐步建设并完善隐私保护等标准,制定人工智能产品研发设计人员的道德规范和行为守则。从科技伦理的角度看,建立问责制度正是解决科学共同体的道德规范和科技从业者的职行为守则业道德问题的指南针。

第五,从法律的角度言,完善知识产权的评估体系。由于无人驾驶与商业贸易日益密切,加强对自动驾驶技术知识产权的保护就显得十分必要,这有利于防止形成恶性竞争。前文所提到技术归属权的问题,实际上就是专利应该属于谁,其中最难界定的是程序最先开发者,所以解决此问题的关键在于要对“源代码”进行保护,尤其是在专利申请时,对“源代码”保护的期限、授权做出明确的规定。只有适时地完善知识产权这方面的相关法规,才能使我国的知识产权制度更好地为促进我国科技的发展服务。从开发者角度言,也只有尊重他们的科研成果、科研利益,才能充分调动他们对无人驾驶的研究和开发。随着美国国会在 1980 年《专利商标法修正案》的提出及 1986 年《联邦技术转让法案》的颁布,越来越多的国家也在制定相关的法律法规来保护专利。由此可见,我国也应不断完善相应的知识产权保护法,以确保无人驾驶知识产权不被侵害。

综上所述,随着人工智能的飞速发展,无人驾驶技术日趋成熟,使得“智能汽车”走进人们的视野,这不仅颠覆了传统的汽车功能,更是给汽车行业注入了新的活力。自动驾驶在给人们带来更多的方便、享受到更多驾驶中悠闲时间的同时,也涉及诸多方面的伦理道德难题,如何面对此难题,是摆在我们面前的一大挑战,也是值得我们深入探讨的重要课题。面对无人驾驶给我们造成的伦理困境,笔者主要剖析了无人驾驶开发者与传统驾驶之间的道德困境、无人驾驶的安全性、无人驾驶对从事驾驶业的挑战以及对免受隐私泄露和产权知识的保护等问题,并尝试综合各个角度对这些问题给出应对建议,如伦理道德、生命伦理、主体价值、责任伦理、法律等方面的方案,力求面面俱到。但不足的是,由于在应对此挑战时,涉及的范畴太广,以致应对措施不够深入。所以,笔者也只是想在对无人驾驶对伦理道德挑战上抛砖引玉,以促使更多的学者关注如何应对人工智能给人类造成的困境,规避无人驾驶给人类带来的风险,减少科技的负面影响,而不是“为问题而言问题”,不敢尝试用新的理论、方式、路径去应对此挑战。我相信,只要通过深入而广泛的研究应对措施,才能使科技具备“人文性”,更好地为人类服务。

人工智能视域下的伦理挑战与应对——以无人驾驶作为分析对象-AGV吧
人工智能视域下的伦理挑战与应对——以无人驾驶作为分析对象
此内容为付费资源,请付费后查看
20积分
付费资源
© 版权声明
THE END
喜欢就支持一下吧
点赞11 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容