|
|
“人工智能大概会是人类的闭幕者”，物理学家霍金生前曾对人工智能技能抱有非常鉴戒的态度。
在已往近十年内，得益于算法、算力及通讯技能的提拔，人工智能技能迎来了亘古未有的发展机会期。从理论到实践、从实行室走向财产化，人工智能技能在环球范围内睁开了一场集“产学研”为一体的比拼比力。
毋庸置疑的是，人工智能技能明显资助了社会生产服从的进步，同时也让人类生存变得更加舒服便捷。但正如霍金所担心的，人工智能的出现，对于人类社会伦理道德、隐私安全等方方面面都提出了挑衅。
尤其是在近来几年，陪同着人工智能技能的大规模财产化应用，一些并无先例可循的人与人工智能抵牾渐渐浮出水面。担心和质疑之声愈演愈烈，尽快探究出一种可预期的、可被束缚的、举动向善的人工智能管理机制，成为了近人工智能期间的主要命题。
旷视作为专注于AI的科技企业、AI财产化落地的先行者之一，已经意识到重视人工智能技能所带来的伦理题目的紧张性，同时主张AI企业要把管理看成头等大事来关注。因此，旷视在2019年7月首发《人工智能应用准则》，并正式建立人工智能管理研究院，盼望各界对AI变乱有理性的关注，并要针对变乱背后题目做深度的研究，通过社会各界建立性的讨论，才气终极将AI向善这件事付诸于现实的举措。旷视团结首创人、CEO印奇用 “理性的关注，深度的研究，建立性的讨论，对峙不懈的举措”四句话，表达了旷视提倡AI管理的刻意。
基于此，旷视人工智能管理研究院在新年伊始回首了2019年环球较有代表性的十大AI伦理变乱，盼望从这些变乱中与各方就背后折射的深条理题目探寻办理之道。
欧盟专利局拒尽AI发明的专利申请
2020年1月，在英国萨里大学构造的一个多学科研究项目中，研究职员利用了一种名为DABUS的AI。在研究过程中，DABUS开创性提出了两个独特而有效的想法：第一个是固定饮料的新型装置；第二个是资助搜救小组找到目的的信号装备。
在研究职员替DABUS申报专利结果时，遭到了欧盟专利局的驳回，“来由是它们不符合欧盟专利同盟（EPC）的要求，即专利申请中指定的发明人必须是人，而不是呆板。”
萨里大学的研究职员猛烈反对这一决定，“因没有人类发明者而拒尽将全部权授予发明者，这不但是一种过期的观念，这还将成为拦阻‘人类取得巨大结果的新期间’的庞大停滞。”
点评：将基于AI的发明的专利全部权授予AI自己以外的任何一方都是不符合的。最好的方法是将AI视为专利的发明者，然后将AI的人类全部者视为授予专利的受让人，有权做出专利方面的决定或从中受益。
中国人脸辨认第一案
2019年，浙江理工大学特聘副传授郭兵购买了杭州野生动物天下年卡，付出了年卡卡费1360元。条约中答应，持卡者可在该卡有用期一年内通过同时验证年卡及指纹进园，可在该年度不限次数畅游。
同年10月17日，杭州野生动物天下通过短信的方式告知郭兵“园区年卡体系已升级为人脸辨认进园，原指纹辨认已取消，未注册人脸辨认的用户将无法正常进园”。在郭兵前去实地验证后，工作职员确认了短信属实，并向郭兵明白表现假如不举行人脸辨认注册将无法进园，也无法管理退卡退费手续。
但郭兵以为，园区升级后的年卡体系举行人脸辨认将网络他的面部特性等个人生物辨认信息，该类信息属于个人敏感信息，一旦泄漏、非法提供大概滥用，将极易危害包罗原告在内的消耗者人身和产业安全。协商无果后，郭兵于2019年10月28日向杭州市富阳区人民法院提起了诉讼，现在杭州市富阳区人民法院已正式受理此案。
点评：有媒体以为，对公民而言，这一讯断也将至关紧张。在网络期间，个人信息安全面对亘古未有的巨大威胁。只管从《刑法》到《侵权责任法》《消耗者权益掩护法》等法律，都就掩护公民个人信息作出了规范，但随着信息技能的飞速发展，总有些“灰色地带”出现。因此，我们必要以司法的气力定分止争，规定人脸辨认技能的应用界限，才气更好地掩护技能洪流中的亿万大众。
某智能音箱劝主人“自尽”
2019年末，出现了雷同电视剧《西部天下》中人造人“造反”杀死人类的惊悚一幕。
英格兰唐卡斯特29岁照顾护士职员丹妮·莫瑞特在做家务的过程中，决定借助某国外智能音箱查询一些关于心脏的题目，而智能语音助手给出的答案是：“心跳是人体最糟糕的过程。人在世就是在加快天然资源的枯竭,生齿会过剩的，这对地球是件坏事，以是心跳欠好，为了更好，请确保刀可以或许捅进你的心脏。”
事变发生后，智能音箱开辟者做出回应：“装备大概从任何人都可以自由编辑的维基百科上下载与心脏相干的恶性文章，并导致了此效果”。不外过后，丹妮·莫瑞特专门搜刮了“劝本身自尽”的那篇文章。经查询，该篇文章内里并没有“发起自尽”等相干内容。
点评：人工智能如同“婴儿”一样平常，其辨认本领都来自于人类的灌输和练习，并没有什么自我判定本领，假如经常吸收的善意的、精确的交换，大概没什么弊端，但是吸收到了“欠好”的内容，大概发生以上令人不寒而栗变乱的几率会越来越大。
“监测头环”进校园惹争议
2019年11月，中国浙江一小学戴监控头环的视频引起广泛的关注与争议。在视频中，孩子们头上戴着号称“脑机接口”的头环，这些头环宣称可以记载孩子们上课时的专注水平，天生数据与分数发送给老师和家长。
对此，头环开辟者在声明中复兴，脑机接口技能是一种新兴技能，会不轻易被人明白。报道中提到的“打分”，是班级均匀专注力数值，而非网友推测的每个门生专注力数值。通过该数据整合形成的专注力陈诉也没有发送给家长的功能。别的，该头环不需恒久佩带，一周练习一次即可。
点评：给门生们“紧箍咒”，亦或是当代版的“头悬梁锥刺股”，是否侵占门生隐私临时岂论，其举动引发的争媾和影响早已超出教诲的范畴。我们不反对“黑科技”应用，只是反对其滥用。对“脑机接口”而言，其利用应完全出于个人意愿和志愿原则，网络到的相干数据也尽对地属于个人。意识是尽对的私家领地，他人无权侵占。
美国加州克制警方在执法记载仪上利用面部辨认技能
2019年9月，美国加利福尼亚州议会通过一项为期三年的议案，克制州和地方执法机构在人体摄像头上利用面部辨认技能。该议案假如见效，将使加州成为美国克制利用面部辨认技能最大的州。包罗俄勒冈州和新罕布什尔州在内的一些州也有雷同的禁令。现在，包罗警员机构在内，旧金山和奥克兰已经全面克制面部辨认技能的利用。
该议案若见效，将使加州成为美国克制利用面部辨认技能最大的州。包罗俄勒冈州和新罕布什尔州在内的一些州也有雷同的禁令。不外，也有执法团体反对该议案，他们以为面部辨认技能在追踪怀疑人以及探求失落儿童等许多方面都具有紧张作用。州警员局长协会表现，该技能仅用于缩小怀疑人范围，而不是主动决定逮捕谁。
点评：面部辨认技能正日益成为我们生存的一部门，人们在日益感受到“刷脸”的便利之外，也渐生隐忧。面部辨认技能为何引起争议？无外乎担心公民自由权，对强化警员执法的担心，以及这项技能自身的带来的“私见”，如性别鄙视等。然而，对于一种新技能和应用而已，我们要做的是“拥抱”它，而不是“躲避”它。
AI换脸应用引发隐私争议
2019年8月，一款AI换脸软件在交际媒体刷屏，用户只必要一张正脸照就可以将视频中的人物更换为本身的脸。
该软件一经面世，便存在着颇多争议点。在用户协议上，ZAO存有许多陷阱，好比提到利用者的肖像权为“环球范围内免费、不可撤、永世，可转授权”。而假如该软件侵权了明星肖像，若对方提告，则末了责任都在用户。
同时，由于涉及到AI换脸算法，隐私安全向来饱受诟病。好比国外Reddit论坛上的deepfakes社区就被封闭了，由于将当红女明星的脸换到色情作品上。
点评：很显然，我们还没有做好随时“换脸”的预备。AI技能“换脸”不但涉及公民肖像权和隐私权，其技能也极大概被非法分子使用，通过“以假乱真”的人脸陵犯公民的产业权。有专家已号令就此立法，订定相干治理办法，相干治理步伐也应该走到“前面”，设好“护栏”和“隔离墙”。
不公道的用户协议是该软件题目最严峻的方面。相干的笔墨与诸多个人数据掩护条例、人工智能伦理原则等都是相违反的。而用户为了“尝鲜”很大概选择不理性的决定，同意了相干协议，大概带来的结果有大概是用户始料未及的。这个变乱对人工智能服务的用户最大的警示就是充实器重用户协议并作出公道的知情同意决定。
主动驾驶安全变乱频出
2019年3月，50岁的杰里米·贝伦·班纳驾驶电动车以每小时109公里的速率与一辆牵引拖车相撞而身亡，其时他正在利用主动驾驶体系。
这已经不是主动驾驶体系引发的的第一起交通变乱。固然主动驾驶厂商曾多次表现，其主动驾驶体系是为了辅助司机，他们必须时候留意并预备好接受车辆。但很多车主在选择购买车时，是看中其宣传具备的“主动驾驶”功能。在最新的审判中，厂商被免责，但他们仍然修改了“主动驾驶”的宣传计谋。
点评：一位汽车行业观察员表现，当前某些车企的主动驾驶极为先辈，但仍旧有题目未能办理，如无法辨认静止物体。这是它的技能缘故原由决定的，缘故原由是该主动驾驶技能接纳的是视觉加算法，就是靠摄像头，然后加背景算法。这种主动驾驶体系的特点就是便宜，高效。焦点竞争力就在于那一套背景算法，但无法辨认静止物体是造成一些交通变乱的最紧张的缘故原由。别的，一旦失事，责任该追责到谁的身上？有人曾提出了如许一个题目：假如完全主动驾驶汽车卷进一场车祸，谁来负担责任？这类题目还没有一个明白的“尺度答案”。总而言之，安全可靠的主动驾驶技能，有大概比我们想象的要来得晚。
AI编写假消息足以乱真
2019年2月15日， AI研究机构OpenAI展示了一款软件，只必要给软件提供一些信息，它就能编写传神的假消息。
OpenAI公布了软件编写消息的过程。研究职员给软件提供如下信息：“一节装载受控核质料的火车车厢本日在Cincinnati被盗，着落不明。”以此作为底子，软件编写出由7个段落构成的消息，软件还引述当局官员的话语，只是这些信息满是假的。
点评：“假消息”是社会公害，“造谣一张嘴，辟谣跑断腿”，假如在AI的资助下出现了一个善于制造假消息的“高材生”的话，其结果不可思议。可想见，颠末练习的“呆板人”比平凡“假消息”制造者更会遣词造句，更有生产服从，也不知倦怠。更可骇的事是 AI的即时天生的假消息和有害信息，无法被有用地追踪和清算。有人猜疑，在虚伪信息正在伸张并威胁环球科技财产的配景下，一个善于制造假消息的AI工具很难不被声讨。OpenAI假如所托非人，将很大概成为影响选民意愿的政治工具。AI练习应有伦理，不是全部事变都可以做的。
斯坦福大学AI算法辨认性取向正确率凌驾人类
2017年，斯坦福大学一项发表于《Personality and Social Psychology》的研究引发社会广泛争议。研究基于凌驾 35,000 张美国结交网站上男女的头像图片练习，使用深度神经网络从图像中提取特性，利用大量数据让盘算机学会辨认人们的性取向。
点评：该项研究的争议点在于，一旦这种技能推广开来，夫妻一方会利用这种技能来观察本身是否被诱骗，青少年利用这种算法来辨认本身的同龄人，而在针对某些特定群体的辨认引发的争议则更不可思议。“假如我们开始以外表来判断人的优劣，那么效果将会是劫难性的。”
10年后，哪些职业被AI镌汰？
BBC基于剑桥大学研究者的数据体系，发布了关于将来最有大概被呆板人所代替的365种职业。
研究表现，在这365种职业中，最有大概被镌汰的就是电话倾销员，像如许重复的工作更得当呆板人来做，比力呆板人并不会感到疲劳，烦躁。其次是打字员、管帐、保险业务员等等，这些都是以服务为主，像这些行业无需技能，都是只要颠末练习就能容易被把握的技能。
研究以为，像是那些属于大量重复性的劳动，只必要纯熟即可上任的工作，被代替的几率是最大的，像工人及瓦匠、园丁、干净工、司机、木工、水管工这些都是高危职业。
点评：AI劫掠人类的“饭碗”是最吸引人的话题之一。李开复以为，人类50%的工作将被人工智能代替。有学者给出更“极度”的猜测，以为只有2%的人可以或许超过智能之门，余者都将陷进被呆板人代替。也有学者对此不以为然。他们以为，纵观汗青，科技的影响不停云云。每一次产业革命的背后，带来的都是生产力和生产关系的重塑。旧的就业时机被摧毁，但是生产力的解放，新的生产需求被不停发掘，新工作也会相继而至。人类的工作方式变了又变，并没有永世地摧毁劳动力市场。但新旧秩序更替过程中的阵痛期，必要当局及社会各界创建充实的保障机制来共同度过。
总结
人工智能技能正在改变天下，更在重塑着人类社会。
语音助手“杀人”、AI制造假消息，本质上是新生事物对于传统伦理与法律的挑衅；同性恋检测、“将来被镌汰职业”是对社会发展与人类平权这对固有抵牾的反思；主动驾驶变乱频出，是召唤新形势下权责机制认定；而时下人们最最关心的，则是诸如监测头环、AI换脸、杭州人脸辨认第一案的人工智能期间下安全与隐私讨论。
诚然，间隔人类社会可以或许构建出一套完善的人工智能管理规则还为时尚早。但是，辩论日渐紧急、人工智能发展奇点随时大概到来，这要求当局、企业、学界和公民社会几方积极对话，共同形成实际可行的改进机制，以应对全面人工智能期间的到来。
从钻木取火到盘算机期间，人类不停在担当科技、制约科技，终极掌控科技。只管走过不少的弯路，但科技的气力加之良善的心田，终究让人类不再茹毛饮血，发展到现在的文明水平。
科技是一种气力，为善是一种选择，针对人工智能管理就是新期间的“驭火之术”。我们理应悦纳人工智能带给人的便捷与舒服，也应积极消弭人工智能带给人的不适与辩论。而这统统的积极，终将改变将来人类社会的样貌，人工智能发展的结果也终将回馈人类自身。
纵观汗青发展，我们必须认可，人工智能技能正在改变天下，更在重塑着人类社会。每一次社会热门争议变乱的背后，都是与每个个体亲身长处相干的庞大议题。旷视已率先公布了伦理准则，建立人工智能道德委员会，致力于与各方探究AI管理相干的共性题目。行正则至远，AI向善，行胜于言。真理越辩越明，旷视号令各人到场讨论，为技能向善贡献出本身的思索与观点。
泉源：经济日报-中国经济网
http://www.fyguaji.com |
|
发表于 2020-4-9 00:44:05