投喂给人工智能灰黑产的数据,来自每一个你我

原标题:投喂给人工智能灰黑产的数据,来自每一个你我

01

人工智能技术已应用在我们日常生活中的方方面面:

-电商购物

购物平台通过大数据,了解用户的日常活动内容、兴趣爱好、搜索习惯以及对某件产品的理想价位与购买欲望等,对用户的消费决策建模分析,精准推送能引起强烈购买欲的商品,并根据用户的定位信息、行为轨迹、搜索内容、电话记录等进行定向推送如折扣券、附赠礼品或其他种草文、鸡汤文等,动态调整同质产品的相对价格、灌输物有所值的心理暗示、故意营造的稀缺假象,利用用户的认知偏差、推动用户的非理性决策。

比如去年沸沸扬扬的电子烟普及潮,这些电子烟生产商、销售商往往把青年人作为营销的目标人群,利用青年人的薄弱意志与认知偏见,通过人工智能批量生成各式广告、文案、网红名人背书、反常识舆论等并定向推送,把青年人抽电子烟这个行为描绘成一件象征自由、潇洒、酷、及时行乐的事情,从而将初涉电子烟的青年人培养成消费烟草的日常人群。

“为了闪瞎那些我不喜欢的人的眼,我们用借来的钱去购买那些我们并不需要的东西”。

-金融科技

某股票操作软件,其匿名化收集大量散户用户的股票操作的行为习惯信息如交易时间、频次、交易量、对某只或多只股票的具体持仓及最少持仓量情况、行业新闻对散户交易的影响、散户对潜在投资股票的查询浏览情况等,通过人工智能进行数据分析,从而加工成数据产品销售给证券基金、股票大户等,以此为客户提供股票交易预警、反向操作等便利。

韭菜散户们在该股票操作软件留下的行为痕迹反而成为了割向自己的大数据镰刀。

-陌生社交

某陌生社交软件,“聊骚”的背后已经不是那个抠脚大汉,而是智能聊天机器人。一个人可以同时控制着几十个端口,在各种网络渠道中“引流钓鱼”,假装成各种有血有肉、有丰富过往生活经历的“美女”,和对方聊天交友,批量“谈恋爱”。马化腾在刚创立QQ时,还要假扮女生亲自上网陪聊,而现在的陌生社交软件早已用机器人替代。

这种机器人用户替代真实用户,是大多数互联网初创企业“冷启动”时的标准动作。

如果上述场景与应用尚属擦边球,那么人工智能灰黑产则是赤裸裸地走在赚大钱的犯罪道路。

02

又坏又努力,人工智能已成为灰黑产的犯罪利器。

比如,黑产利用人工智能批量写勒索软件并在网络中大规模快速传播,敲诈索取比特币或门罗币。未来特别是工业互联网、大型生产设备、重要医疗设备等,会成为被集中攻击的对象。

又如,黑产利用人工智能学习正常用户的写作风格、沟通方式、操作习惯等,躲开社交软件的风控,批量传播带有偏见的内容,尝试通过操控舆论或刷量以牟利,特别针对明星八卦圈、热点话题炒作、上市公司股价操控、谣言传播等领域。

再来一个现实的案例:

“图片验证码人工智能识别”案【案号:(2018)浙0602刑初101号】:

“快啊答题平台是其于2015年初创建的,主要功能是识别验证码,俗称“平某”。平台只是一个桥梁,整个打码是由接入平台的各个软件和一个图文识别程序配合完成的。接入平台的软件很多,也有自己不同的功能,但这些功能必须输入验证码才能实现。具体识别过程是软件抓取带有验证码平某片信息,然后提交到快啊答题平台,再平某台提交给图文识别程序识别,识别后平某证码以文本形式反馈给平台,平台再反馈到软件,软件再自动输入验证码。”

除了算法,人工智能需要靠大量的数据喂出来的。而投喂给人工智能灰黑产的数据,可能来自每一个你我。我们的每一次填写注册资料、每一次分享自拍、每一次交易支付、每一次人机交互等,都可能被网络黑灰产收集或捕获,然后落入数据黑市的交易。

03

关于隐私与数据问题,互联网大佬们纷纷发言:

-“中国用户对隐私问题不那么敏感,愿意用隐私交换一些便利性。”

- “从历史来看,科技越发达,个人隐私会越少。人们在获取便利性的同时,其实也在不知不觉地一点一点把自己的隐私范围缩小”。

-“隐私问题是数据时代必须要跨过的一个坎,汽车刚造出来的时候,所有人担心的是会轧死多少人。银行才成立的时候,谁会把钱存在银行里,放在枕头底下更安全。但是近百年发现,银行能够处理这些问题,所以我自己觉得是表示乐观,我对未来相当乐观,因为我解决不了的问题不等于别人解决不了,你解决不了的问题不等于别人解决不了,一定会有人解决这个问题!”

在数据使用端,人工智能尝试使用同态加密技术、差分隐私技术、安全多方计算技术、联邦学习、合成数据等技术来保护隐私,但这些技术在能力与效率上都难以实现完全良好的效果,并不会成为互联网公司的首选解决方案。

而现实是,部分地方公安对网络犯罪的侦查技术能力较弱、互联网公司数据安全管理义务鲜有被追责、网络犯罪法律规制难且违法成本较低、网络灰黑产的产业链条细长且分工精细,打掉一个两个基本不会影响地下产业。

如人脸识别AI公司SenseNet(深网视界)在2019年2月中旬被爆出数据泄漏问题,涉及超过250万人数据、680万条记录,包括身份证信息、人脸识别图像及GPS位置记录等。但至今,我们尚未能检索到国家有关部门对深网视界或相关负责人关于该数据泄漏事件的任何行政处罚或刑事规制,或与其相关的调查情况的信息。

互联网行业因此进入一个吊诡的局面:

-侵害隐私,违法成本低,且数据获取成本低,商业变现能力强。

-保护隐私,合规成本高,但数据获取成本高,商业变现能力低。

杀头的生意有人做,赔本的买卖没人来。

看到别人都裸奔,自己怎么好意思穿上衣服。

如果说偷税漏税是民营企业的原罪,那么侵犯公民个人信息是一大批互联网企业的原罪。

04

我们暂不先描绘未来强人工智能社会的美好愿景。

作为每一个普通的互联网用户而言,我们只是希望至少自身的数据不要成为侵害我们的工具。然而现实是,这种以侵犯用户隐私来谋求商业利益与技术进步的企业都正不断地茁长成长,甚至成为资本热捧的“独角兽”。

京衡律师事务所 · 张豪 | 未央网

阅读原文请点击:https://www.weiyangx.com/353863.html

∞未央网由清华大学五道口金融学院互联网金融实验室创办

∞订阅微信公众号:未央网weiyangx(ID:iweiyangx)返回搜狐,查看更多

责任编辑:

平台声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
阅读 ()
推荐阅读