瞧一瞧:清华系AI公司发布两款AI产品隐私保护机器学习平台-电子发烧友网
骗过人工智能的“眼睛”已经不再是一件难事。
今年美国东北大学和麻省理工大学等大学和研究机构做了一项创新实验,共同研制出了基于“对抗样本”的T恤衫,对抗样本是指一种由攻击者精心设计的特殊样本,科研人员就对T恤上的原图案进行了修改,通过了一定的技术手段将图案生成了有较强干扰性的图案,以此来改变T恤的视觉效果,导致AI人体检测摄像头无法准确地检测出穿着该T恤的行人。
类似的技术戏法如今已被广泛应用,黑客可以通过一副“对抗样本”眼镜轻松实现身份伪装,破解手机面部解锁,或是伪装成他人完成银行和政务系统的身份认证,甚至打开人脸识别门锁,窃取财产。
提升AI能力需要最大限度的挖掘数据价值,但是在金融、医疗、公共安全等场景的AI应用中,需要用到的数据往往涉及个人法院判强拆要提供什么证据
隐私信息,这些攻击行为都给AI落地带来了巨大的挑战。
在近日举办的2020第三代人工智能产业论坛上,中国科学院院士、清华大学人工智能研究院院长张钹指出,现在很多人工智能公司估值很高,但是营收很少,问题在于没有解决算法和数据的不安全性,造成深入到更多高价值的场景速度较慢。“企业要做大做强,必须解决安全和鲁棒(稳定强健)的问题。”
论坛上,依托于清华大学人工智能研究院孵化设立的瑞莱智慧RealAI发布了旗下两款最新AI产品隐私保护机器学习平台RealSecure和人工智能安全平台RealSafe2.0 版本。其中RealSafe可以理解为是针对AI算法的杀毒软件和防火墙,2.0 版本新增了对抗样本检测方法、对抗训练等解决方案。据了解,目前,RealSafe已在工信部重大建设项目以及某电网公司落地应用。
瑞莱智慧RealAI CEO田天对AI财经社说,在行业里,如果无法保障AI安全,很多业务场景根本没办法开展。比如金融行业的一些解决方案要求补充数据,这个时候就涉及到数据安全隐私保护,要通过隐私网络机器学习平台,在合规前提下才能把银行内部的数据和外部打通,只有这样才能打破数据孤岛,支持上层的AI用户得到更多的数据,进而更形成更好的系统。“保障AI安全不只是锦上添花,实际上是在解决一些根本性的问题,让更多的创新应用场景成为可能。”
厂房被政府强拆怎么办
他还提到,现在很多刷脸支付的厂商对于人工智能的安全问题都非常重视,因为自己没有办法研发,都在寻找一些类似AI防火墙的产品,这块的商业需求已经非常强烈。
田天说,虽然阿里、F强拆民宅应该向哪个部门举报
acebook等公司也在关注这个领域,但主要是偏实验室检测和技术工具。整体来看,AI安全在市场上还是一条比较新的赛道,公司在包括贝叶斯深度学习、可解释机器学习、AI对抗攻防等第三代AI核心技术方面有一定的积累,产品相比起来是一个面向企业级更加商业化的技术平台。
责任编辑:YYX
- 最火绍兴市质监局公布2015年二季度防水卷材阻燃胶带碟子光衰减器电主轴组合开关Frc
- 最火浙江佳人新材料绿色化纤春意盎然乳饮品网络存储喷绘布层积木课堂教具Frc
- 最火吉林省开展迎奥运净化印刷复制市场专项整治潜江拔罐器液压站明杆闸阀自吸油泵Frc
- 最火赫斯基注塑机加强本地化频谱仪直线轴承升降平台带鱼养殖餐巾Frc
- 最火首批30辆华菱重卡顺利出口乌兹比克斯坦扇贝养殖三轮童车箫笛电炉丝仪表仪器Frc
- 最火全方位解析分布式光伏电站开发指南试验机反光材料休闲椅五金件电工仪器Frc
- 最火危化品火灾的灭火措施视频线材大冶造料机计步器墙纸墙布Frc
- 最火中国医药产业竞争力构建与可持续发展冲击营养品咬口机排水阀中型车Frc
- 最火1月13日台州塑料HIPS市场参考价格塑料管材醴陵计算器仿古家具阳光房Frc
- 最火国际纸业助华进行森林开发和持续发展螺纹护套五常丰田配件热缩机牲畜秤Frc