柳宝门户网站 >> 科技 >> 微众银行AI首席科学家NeurIPS论文揭示“神经网络防盗最

微众银行AI首席科学家NeurIPS论文揭示“神经网络防盗最

2019-11-21 18:11:45 阅读:2905
最近,禾多对外推出了模块化服务——高精度定位holopolaris和自动驾驶验证平台holox,称要做自动驾驶的“中国向导”。而且得益于战略合作伙伴四维图新在高精度地图方面的支持,结合自动驾驶路测中积

随着深度神经网络(dnn)的快速发展,机器学习服务(mlaas)等潜在的商业模式迅速崛起,人工智能产业化已经进入快速发展的快车道。

然而,保护训练有素的dnn模型免受非法复制、再分发或滥用(即知识产权侵权)是人工智能在工业化过程中必须面对和解决的问题。尤其是各国企业目前投入巨资研发深度学习模式和平台,知识产权保护迫在眉睫。

一个不受保护的神经网络就像一辆无人驾驶的汽车,任何人都可以把它开走。一旦网络被非法复制和使用,原所有者就不能证明和保护其发明的合法知识产权。这样会损害企业的创新能力,给整个行业的发展前景蒙上阴影。

最近发表的来自2019年神经信息处理系统会议和研讨会的论文被包括在完整的列表中。涠中银行人工智能首席科学家范立新博士和马来亚大学副教授陈志胜、吴进在《反思深层神经网络所有权的验证:嵌入数字护照抵御模糊攻击》一文中创造性地提出了一种利用“数字护照”保护深层神经网络知识产权的新方法。

神经科是世界上最负盛名的人工智能和机器学习顶级学术会议之一。官方数据显示,今年大会共收到6743篇论文提交,创下新记录。共选择了1428篇论文,选择率仅为21.1%

范立新博士认为,用于保护神经网络所有权的传统水印方法存在缺陷:在训练过程中,嵌入数字水印的神经网络就像带有车主姓名标签的汽车,但其他人仍然可以将汽车开走,甚至贴上假标签。在这种情况下,复制的网络可以检测到难以区分真假的多个数字水印,并且它们的知识产权的所有权也不清楚。

这种情况能通过新的机制消除吗?本文提出在训练过程中,嵌入数字护照的神经网络就像一辆带锁的汽车,必须使用与神经网络相匹配的数字护照才能正常解锁和使用网络。实验证明,一旦使用修改或伪造的护照,网络性能将严重下降,使其无法使用。

使用数字护照的另一个优点是,即使剽窃者进一步窃取并使用原始数字护照来解锁网络的正常使用,原始所有者也可以依靠数字护照上的个人签名id来证明其知识产权的所有权。

基于上述原则,研究人员还设计了黑盒、白盒和混合保护机制,为不同的应用场景提供一系列完善的知识产权保护方法。

新方法使dnn模型的性能依赖于护照的真实性,对攻击去除具有鲁棒性,能够抵抗模糊攻击,并保证了神经网络原所有者所有权的可证明性。使用不同的护照来使网络性能不同的想法也很新颖,并已被大量实验所验证,具有可操作性。

(全文链接:https://arxiv.org/abs/1909.07830论文源代码:https://github.com/kamwoh/deepipr)

基于数字护照保护机制,抄袭者将陷入两难境地:一方面,如果使用伪造的数字护照,网络性能将大大降低,几乎毫无用处。此外,伪造护照需要一个新的培训网络,这既耗时又耗电,而且在经济上无利可图。另一方面,如果你非法使用原始数字护照,你将面临法律诉讼和原始所有者的索赔。

今天的巨头和初创公司每秒钟投资数十亿美元探索新的dnn模式。本文提出的数字护照在保护知识产权免受竞争对手滥用、伪造和剥削方面发挥了重要作用。人工智能创新只有在企业或发明者的实际权益保护下才能正常推进,才能创造真正良性的创新环境。

这项研究是由伟忠银行首席人工智能科学家范立新博士发起的。范博士所在的伟忠银行人工智能团队在前沿科学研究领域进行了许多探索,包括联邦学习、转移学习等。

今年8月,在国际数据科学和数据挖掘领域的顶级学术会议kdd会议上,收录了由伟忠银行ai团队和香港科技大学等大学联合提交的《超越个性化:创造者平等和消费者满意的社会内容推荐》的研究论文。本文提出利用分散模式的社会关注探索网络(SAEN)来解决社会内容推荐的公平性问题。目前,研究成果已成功应用于微博ai营销解决方案的智能推荐业务部分。(全文链接:https://dl.acm.org/citation.cfm?身份证=3330965)

作为联邦学习的领导者,微银行不仅提出了“联邦迁移学习”的新方向,而且在全球数据隐私保护下引领和推动人工智能协同生态建设。

作为一种基于多方安全计算的分布式机器学习技术,联合学习(federated learning)使所有参与方能够在不公开底层数据和底层数据的加密(混淆)形式的情况下构建模型,帮助不同组织打破壁垒,在行业应用中进行人工智能协作,同时将所有参与方的数据保持在局部区域之外,从而保护用户隐私。这种双赢的机器学习方法使得联邦学习成为人工智能时代大数据安全和隐私保护的重要技术。

在今年8月举行的国际人工智能联席会议(ijcai 2019)期间,伟忠银行与ibm等知名机构联合举办了首届联邦学习国际研讨会,100多名国际专家学者参加了此次研讨会,探讨联邦学习目前存在的问题和未来发展趋势。

它不仅在学术研究领域开展前沿研究,微银行的人工智能团队也在积极推动联邦学习产业的登陆。今年2月,全球第一个联邦化的人工智能技术使能器在github上开放。今年6月,它向世界上最大的开源社区linux基金会捐款。最近,它为贡献者发布了一系列激励机制,以鼓励开发者以开放的态度参与构建联邦学习生态。

同时,领导联邦对建立国际标准(ieee标准)和国内标准的研究,为更广泛的工业应用提供统一的技术标准语言。据报道,ieee标准工作组已经举行了三次会议,第四次会议将于10月举行。相关标准草案预计将于明年发布。

据范立新博士介绍,伟忠银行的人工智能团队将在今年的神经科学会2019大会上与谷歌等知名企业和大学联合举办一次联邦学习研讨会(研讨会)。这也是第一次举办关于神经突起的联邦学习研讨会。到目前为止,已经提交了几十篇论文。

随着越来越多的企业和研究机构加入联邦学习生态的多元化,以及越来越多的金融、医疗、零售等领域的落地场景,联邦学习的相关研究也跃上了一个新的台阶,本次研讨会必将带来更多令人惊讶的新思维和探索。

了解更多信息:http://federated-learning.org/fl-neurips-2019/?从=时间线

-完毕-

真诚的招聘

量子比特正在北京中关村招聘编辑/记者。期待有才华和热情的学生加入我们!详情请回复qbitai对话界面中的“招聘”一词。

量子位qbitai

跟踪人工智能技术和产品的新发展

江苏11选5投注 广西11选5开奖结果 辽宁快乐十二 1分钟极速pk10 重庆快乐十分


上一篇:科幻:神秘机器攻击小镇,所有车都熄火了,男子却找到一辆能开的
下一篇:东莞捷荣技术股份有限公司 关于股东减持完成的公告
版权与免责声明:
①凡本网注明"来源:柳宝门户网站"的所有作品,均由本网编辑搜集整理,并加入大量个人点评、观点、配图等内容,版权均属于柳宝门户网站,未经本网许可,禁止转载,违反者本网将追究相关法律责任。
②本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
③如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,我们将在您联系我们之后24小时内予以删除,否则视为放弃相关权利。