你的个人隐私正在被 AI 这一“高级理由”监视着

哪里有利益,哪里就会有数字犯罪。

这几天,网上洋溢着浓烈的爱国主义浪潮,因为“发给其中国会员的活动邮件中,把西藏和港澳台地区都列为了国家”,万豪酒店集团成为众矢之的。这一行为伤害13亿中国人的感情,固然让人愤慨,但相比于类似的突发性事件,国内互联网巨头对本国公民隐私的破坏和侵犯,更值得公众长期警惕。

今年开年,互联网领域最高频的一个词,除了区块链,可能就是用户隐私了:

年底民营企业家李书福表达了对“微信可能读取聊天记录”的隐忧,引发全民关注;随后腾讯和广州市政度试推出的全国首张“微信身份证”又被指“动机不纯”。而12月中旬,360直播平台涉嫌泄露个人隐私,团队承认无法用AI技术完全解决问题,在权衡利弊后,做出了关停平台的艰难决定。

1月11日,工信部就用户隐私问题约谈百度、蚂蚁金服、今日头条三家巨头,已经组织技术部门对相关手机应用软件是否存在侵犯用户个人隐私行为进行持续监测,约谈指出,一经发现违法违规行为,将严肃查处并向社会曝光。

监管部门的这轮高调约谈,可能会促使企业将用户隐私保护工作上升到更高层面,今后,这也将成为与用户建立信任的最核心因素之一。如果说过去,互联网主要在帮用户解决效率问题,如今,互联网势必给用户提供更体面的生活,给予马斯洛矩阵更高层次的安全感。

低俗和隐私两条战线,巨头们一个都跑不了

随着这次百度、蚂蚁金服、头条被工信部高调约谈,“隐私保护”也从行业自律到了强力监管的拐点。

两年前,百度搜索因为莆田系广告,把品牌带到了毁灭的边缘,这个例子的背后,正是对用户搜索记录这一基本隐私的无底线玩弄。

2018年,所有的玩家,都必须审慎地面对用户隐私这个话题,因为他们面对的将是觉醒的用户、常态化的监管、更频繁的媒体监督,还有《网络安全法》、《全国人民代表大会常务委员会关于加强网络信息保护的决定》、《电信和互联网用户个人信息保护规定》)三大制度紧箍咒。

这也意味着,不管是BAT,还是TMD,都将不得不拿出更多的资源和精力加强用户隐私保护,另一方面,他们还得解决层出不穷的内容低俗问题,最典型的例子就是今日头条。在流量的战场尚未收尾之际,这些互联网企业需要在两个层面实现自律和转型,可谓挑战重重。但换个角度看,坐拥海量用户和由此获得的巨额利益,这也是他们必然承担的社会责任,前不久360宣布关闭直播平台,正是基于此的一个现实选择。

在这个过程中,巨头们还并不太习惯,还下意识会去做公关洗白,今日头条12日就紧急澄清称:

近日有部分网站和自媒体传播“今日头条通过麦克风窃取用户隐私”的谣言。在此再次澄清,今日头条旗下所有产品,都不存在未经用户许可、擅自获取或使用用户隐私的行为。希望有关部门或第三方机构对今日头条产品进行彻底检测,还今日头条清白。鉴于此谣言已扩散,今日头条将向公安机关报案,申请立案查处。

单从这次看,是否属于谣言还需要调查求证,但从技术迭代的层面来看,语音交互技术实现对用户信息的获取,完全是可能的。

上海市信息安全行业协会会长谈剑峰对蓝鲸表示,很多安卓 app 都在过度申请权限,比如一个阅读类 app,权限其实只需要联网、读写存储即可,但很多都要读取通信录、照片、位置信息,甚至还需要麦克风权限。这些都是对用户的隐私权造成很大的伤害。

“很多语音 app 确实需要麦克风权限,但是更有一些 app 通过麦克风来进行所在环境语音的录制和“监控”,他们的目的是综合各方面的大数据分析,为用户推送更精确的内容或广告。所以在技术上是可行的,关键是要判断是否被用来滥用,实质上,滥用就是对用户隐私权的极大伤害。”

头条还存在着用户个人信息收集使用规则、使用目的告知不充分,这是一个不可否认的硬伤,另外,头条、微博等很多平台还都存在着另一个让人头疼的问题:账户注销障碍重重,这也是此次工信部点名批评三家的地方。

馒头论里的信息保护焦虑

从百度、蚂蚁金服和头条被约谈的原因来看,分别有不同的嫌疑。其中,蚂蚁的问题是“年度账单”活动中,靠默认勾选套取用户数据,头条的问题是被质疑利用手机麦克风获取用户数据隐私,百度的问题是两款手机APP在消费者安装前,涉嫌未告知其所获取的各种权限及目的,在未取得用户同意的情况下,获取诸如“监听电话、定位、读取短彩信、读取联系人、修改系统设置”等各种权限。

如果说默认勾选还属于“携程式”捆绑销售的小把戏,那么头条和百度的行为则可能更让人警惕,因为它涉及到技术,比如智能语音交互技,这被认为是最有潜力的AI应用场景之一。

前不久,有人抛出了馒头论来总结各家平台的算法,让人捧腹,也让人深思:

你也可以说,这跟算法其实一点关系都没有,与其说是比喻,不如说是讽喻,讽刺的是打着AI和算法的名义,肆无忌惮地获取各个维度的用户信息的行为,当各个平台都在蹭AI的风口讲故事时,算法能够占到的比例是多少,很难为外界所知,有多少产品是基于简陋算法的名义,获取海量用户信息和行为数据的产品,也不得而知。随着资本的加持和玩家的疯狂入场,可能会引发一场消费用户隐私的狂欢。

谈剑峰表示,哪里有利益,哪里就会有数字犯罪。有价值的用户信息在哪里,威胁就在哪里。不管是在 PC 时代、传统互联网时代、移动互联网时代,还是当前的万物互联时代,针对用户信息的非法获取就没有停止过。

“AI 作为基础信息技术,既可以被攻击者利用,也可以被防护方使用。AI 产业崛起会加快被攻击者利用和被防护方使用的进程,用户只有提高安全意识、时刻注意隐私信息的安全保护才是最关键的。万物互联的时代,攻击路径变多了,攻击速度加快了,防护难度更高了,安全挑战越来越多,安全工作任重道远。”

用户觉醒,“体面”取代效率成了关键词

如果说,在互联网野蛮生长阶段,解决的主要是效率问题,那么接下来,解决的将是要将是两个问题,一个是罗振宇说的,如何让他们花时间,如何让他们获得更体面的服务。

南方日报近日评论指出,作为互联网行业在国内各自领域的领跑者,三大公司接连在同一个问题上遭遇公众质疑,其本身就足以说明,公众在享受互联网带来的各种便利的同时,对个人信息安全的敏感意识也越来越强,再也由不得各方任其“野蛮生长”了。

随着中国互联网用户的觉醒,他们首先需要更好的服务、拥有更强烈的购买意愿(因此我们看到付费模式的兴起),也需要更切实有效的隐私保护。李书福之问,不仅是创业者和企业家的担心,更是作为一个普通人的担心,日前,有人在网上讨论区块链概念,用艳照门的例子去作比喻去中心化带来的极大便利,这可能是段子,但同样反映了技术侵犯用户隐私存在着失控的风险。

用户利益和商业价值,掌握火候是关键

当然,想让企业能够全方位滴水不漏地保护用户隐私,即没有技术可行性,也缺少商业驱动力,如何做到平衡这两者的关系是关键。

而这其中的边界也很明显,都写在工信部日前约谈的要求里:

严格遵守相关法律法规,遵循合法、正当、必要的原则收集使用个人信息,不得收集服务所必需以外的用户个人信息,不得将信息用于提供服务之外的目的,不得非法向他人出售或提供个人信息,同时进一步优化服务协议、用户隐私政策和手机权限调用说明,切实保障用户知情权和选择权,维护用户合法权益。

在牵制巨头破坏用户隐私方面,欧洲国家已经走得很远,这体现在这些年他们与Facebook、Google等巨头对抗的一个个集体诉讼案例中:

2014年8月,Facebook在欧洲遭6万人起诉,一位奥地利隐私保护人士发起了一项针对Facebook欧洲子公司的大范围集体诉讼,指控Facebook违背了欧洲数据保护法律,FB被质疑参与了美国国家安全局的“棱镜”项目,收集公共互联网使用的个人数据。

2015年5月,西班牙、法国和捷克官员宣布,计划就谷歌从本国无线网络用户那里搜集数据一事展开调查,从而增加了谷歌公司在欧洲遭受制裁的可能性。

2016年10月,欧盟28国的隐私主管们表示,在他们调查Facebook今年8月宣布的隐私政策变化的过程中,这家社交网络巨头必须停止处理来自WhatsApp的个人数据。

今年1月初,德国政府一家数据保护机构周三表示,该机构已针对Facebook采取法律行动,指控Facebook非法读取并保存不使用该社交网站的用户的个人信息。德国汉堡数据保护办公室专员表示,由于Facebook在未经许可的情况下收集并保存不使用该社交网站的用户个人信息,这有可能导致Facebook被罚款数万欧元。

之前媒体报道里的“360直播平台关停”、“清华美院学生葛宇路盯着摄像头看的行为艺术”等,都意味着国内用户对隐私保护的逐渐觉醒,而随着网络安全法的进一步落实,对于个人隐私的保护,将会是用户体验的重要评判标准,这也意味着企业陷入隐私危机的代价和成本也会越来越高企。