苹果大力押注的“差分隐私”技术究竟是怎么回事?

差分隐私

 

 

如今,科技公司在研发人工智能时几乎无所不用其极的利用所能掌握到的用户信息。对于科技公司,自然是越多信息越好,可对用户来讲, 自己的一举一动被人了如指掌总归不会是件妙事。获取更多信息和侵犯用户隐私的界限究竟在哪里呢?似乎并没有标准答案存在。从互联网的整体发展趋势来看,科技的脚步总是走在监管的身前,通常政府为了不错杀新技术会放任他们生长,但可以确定规范是迟早会到来的。如果科技公司不能妥善解决获取更多用户信息和保护用户隐私之间微妙的关系,人工智能的发展必然将遭遇信息饥渴的困扰进而难以前行。不过现在有好消息传出,苹果公司似乎已经能够解决这一问题了。

去年,苹果公司(Apple Inc., AAPL)针对一种新的隐私技术启动了一项庞大的实验,希望解决一个越来越棘手的问题:怎样才能打造出既理解用户又不窥探用户的产品?

答案就是差分隐私(differential privacy)技术。一年前,这个词在学术圈外还几乎无人所知。而现在微软(Microsoft Co., MSFT)和优步(Uber Technologies Inc.)等公司都在测试这项技术。

差分隐私算法通过注入一定数量的统计噪音来模糊正在被分析的数据,比如将某个问题(你有过暴力犯罪行为吗?)的答案抽出来,换成另一个有已知统计回复率的问题(你是在2月份出生的吗?)。

这样,试图在数据中找出关联的人就永远无法确知某人被问了哪个问题。这意味着研究人员可以分析诸如病例资料这样的敏感数据,却不能把这些数据与具体的人联系起来。

加州大学 克鲁兹分校(University of California, Santa Cruz)助理教授Abhradeep Guha Thakurta表示,差分隐私对苹果的人工智能开发至关重要。Thakurta直到今年1月份一直致力于开发苹果的差分隐私系统。

苹果软件工程师Katie Skinner在6月份举行的年度开发者大会上表示,这项技术最初被用于理解手机用户如何使用表情符号或新的俚语,而如今苹果正在将差分隐私的应用范围扩大到对网络搜索和健康数据的搜集和分析上。

她表示,苹果现在每天都会从装有最新操作系统的Mac、iPhone和iPad上收集数百万条信息,这些信息都通过差分隐私技术加以保护。

苹果发言人通过邮件表示,苹果相信,卓越的功能和隐私保护是可以二者兼得的。

宾夕法尼亚大学(University of Pennsylvania)计算机科学教授Benjamin Pierce表示,研究人员正在大量使用差分隐私技术,不过这项技术诞生只有10年左右,还远不能充分理解其优势与不足。

抢沙发

昵称*

邮箱*

网址