科技把我们每个人都变成一个有“围墙的花园”

  • 来源:infoq

我们如何对待他人是基于同理心,同理心是建立在分享经验的基础上,当我们没有共同之处的时候会发生什么?

现在互联网信息系统的构建架构将使我们永远不会看到某些类型的信息,让每个人都生活在由软件算法创建的有“围墙的花园”,例如脸书、谷歌等网站提供的消息都是通过人工智能判断为能给用户和网站同时带来最大利益的信息。

因此其实用户是被网站的信息操纵的,但我们应当知道,网站操控用户技术正经历着非常可怕的、剧烈的、技术驱动的变化,这技术变化非常值得探讨。

用户细分是有利用价值的

《数学毁灭性武器》的作者凯西·奥尼尔在最近的一期《多视角分析》节目中对网站如何操纵用户的技术进行了阐述。凯西在Expedia.com(“美国版携程网”)当一名数据科学家的时候,培养了她的洞察力,她在那里从事最‘现代’的职业:创建数据的模型来预测用户的点击和购买。

有个风险投资人曾跑到他们公司作演讲,提到他希望自己将来浏览网页看到的广告都是加勒比海阿鲁巴岛渡假和摩托艇冲浪的广告,而不要看到他这种的社会阶层不屑的凤凰城大学远程教育的广告。

表面上来说这是一个无害的冠冕堂皇的提议。通过更深地挖掘信息,凯西认为风险投资人的真正需求是要创造一个根据阶层、种族等区别用户的互联网,掠夺性的行业如盈利性大学和贷款公司很容易找到它们的“猎物”。

至今,我自己从来没有在网站看到过凤凰城大学的广告(或阿鲁巴岛渡假和摩托艇冲浪的广告),根据凯西随后的调查发现这两个广告原来是谷歌当季广告投放的头号买家,这背后就是所要讨论的诱因。

互联网广告已经不再仅区分用户的邮政编码,而是专门瞄准作为个体的用户,广告会偷偷跟踪着用户的购买历史,这不是新闻,这是一门很好的生意,目标客户越明确,就能获得更多利润。

最大的变化是:现在很难区分广告和信息之间的差异。用户所看到信息取决用户自己,像广告一样精确推送。信息可以服务于某种目的任何东西,也没有说有个公认的社会契约,信息必须是真实的。现在,信息可以成为某个目的工具,换句话说:信息就是宣传。

网站的网页都是设计成诱使我们点上面各种按钮,以获得下条信息,这也是网站赚钱的方法:在用户觉得有兴趣的内容目录上投放广告。只要用户感兴趣,呈现的内容目录越多越好,涉及面越疯狂越好。除了涉及可能极大影响美国的民主问题,其实这些信息内容到底是什么根本不重要。

这些广告背后的技术实现暗示着更可怕事情:每个推送的广告后面的配置文件都是根据长时期的成千上万个不同来源的上网用户行为资料做出的,这些用户行为资料是不会消失的,只会越来越好,越来越精确,网站就用这些用户资料来操纵用户。

民主党的最后一战

最近的美国总统选举是一个很好的例子。以下不是政治评论,无关选举的输赢。讨论的是关于新的技术被用来改变选举过程。毫无疑问,每个人都应该关注这个问题,这就是未来政治如何运作的方向。共和党首先得出结论:在政治上,先行者比追随者有很大的优势。

上一次总统选举,民主党人可能认为他们有技术优势: 《分析数据处理的秘密:谁帮助奥巴赢得选举》,该文描述了民主党人如何利用数据赢得了上一次选举。现在技术改变了,民主党人却没有跟进。

旧的技术是:组织和激励选民。

新的技术是:和电影《点球成金》一样,通过对社交媒体与信息剪裁进行数学建模、利用情绪操纵和机器学习。

整个精彩的故事可以阅读福布斯的独家专访《杰里德.卡什诺如何把特朗普送进白宫》。借助剑桥数据分析公司帮助,特朗普的团队真正天才般地破解了如何在选举中使用数据技术。

脸书网的黑科技--技术到底是怎么运作的

选举条列规定了对使候选人受益的议题广告进行限制,但是这个规则已经过时了。脸书网有一种叫做“隐藏贴”广告推送模式。“隐藏贴”模式是一种只有目标客户才能看到新闻摘要消息。亚多玛斯·巴尔特咖夫斯基(Adomas Baltagalvis脸书网的市场和营销部极客)解释说:这些消息贴和其它消息贴一样推送在用户的脸书网的页面上,除非确实发布这些消息给你,你不会在网页时间线上看到它们,是否发布给用户是由脸书网广告定义的(再次看到诱因的案例)。

“隐藏贴”并不难生成,可以在网上找到发布的过程,甚至就算用户不在脸书网上,网站仍然可能有用户的“影子资料”。

采用“隐藏贴”广告模式解决了一个问题:“如何在合适的时间,针对不同的潜在的选民,推送不同的广告内容,以达到效果。”举例来说,用户数据分析判断用户有一个较悲观的世界观,这用户将看到较可怕的广告;如果分析得出是个较乐观的用户,网站会展现一个充满希望的广告,然而这仅仅是个开始。

广告商从何而知用户资料呢?收集方法是非常聪明的,网上是不是经常看到各种性格测试?这些不仅是娱乐,这些性格测试是隐形深度套取用户的资料数据,性格测试数据是用来给用户的“大五人格理论”(OCEAN)打分,大五类人格特征包括:O代表Openness(开放性)、C代表Conscientiousness(严谨性)、E代表Extraversion(外向性)、A代表Agreeableness(宜人性)、N代表Neuroticism(神经质)。

用户资料数据被输入到后台数据库,利用最近研发的智能算法和廉价的计算资源,构建和部署有针对性的消息推送活动。靠云计算发展,现在历史上最大规模的数据分析成为可能。

短消息、电子邮件、广告推送,大数据分析、人工智能算法、大数据采集、广告投放、胜负率计算等等,都可以通过软件实现。软件吞噬了政治,所有这些,都可以通过在弹性计算架构环境下编写API脚本下成为可能,而且这个趋势不可阻挡。

更全面的解释可以参考《脸书网测试的秘密议题》

想象这种“投其所好”的广告的能力。在未来的共和党竞选过程中,一个大五类人格特征得分为高神经质的支持拥枪选民能看到风雨欲来的威胁:民主党想要拿走他的持枪权力。另一个人格特征分析为随和内向的支持拥枪选民可能看到一个父亲和儿子一起打猎的广告,强调传统和社会价值观。

在这次选举中,“隐藏贴”广告模式已经被用来试图压制非裔选民的选票。根据彭博社的报道,特朗普的竞选团队针对某些特定的黑人选民发送广告宣传,提醒他们希拉里.克林顿的那句臭名昭著的话,她把非裔美国青年称呼为“超级掠食者”;针对迈阿密的小海地附近选民推送广告宣传,提醒他们克林顿基金会在2010年海地地震中的种种不当之处。联邦选举委员会的规则是否能管辖脸书网的推帖规则?这个问题尚无定论,更何况,这些宣传可能是扭曲事实或者过度夸张,但是没有其它人看到你所见到的广告宣传,因此几乎没有引起社会范围的谴责,更没有人会意识到“是我--唐纳德·特朗普,我批准了这条消息推送”。

这是真的,闪耀着技术的辉煌,但这并不意味着它就是好的。

新政治形态对民主制度是重大威胁?

结果可能有点令人震惊,但全世界对民主政治的支持率确实持续下降

这结论听起来很夸张,在笔者看来,强调选民参与的新政治确实是一种威胁,因为它只会让人感觉更糟,使人与人更加疏远,使大家更加愤世嫉俗,不是去创造一个更加完美的人类联盟环境。

现在还存在让人与人团结起来的影响力吗?宗教是否还能让人们团结吗?我们好久已经不会同时看电视,我们也不再一起做事,经济发展进一步把社会分为有产者和无产者,还有什么能让我们团结一起?

现在的诱因机制都朝制造细分市场发展。

通过细分市场,生意获得成功;通过甄别选民,政治家赢得选举。媒体把政治当作部落的体育赛事来报道获得收视率,人们更加乐意享受电光火石一样的激情。

随着越来越多人力、资源投入到那些高利润率、零边际成本的大数据收集和细分领域,可以预测人类社会的未来也是一样糟糕。典型的恶性循环。这也说明技术从来不是价值中立。

新政治是认同政治的终极,自身几乎没有抗衡力量。现在科技使社会性怨恨变得更容易。割裂社会人群也从来没有那么容易,它是溶解民主制度的强酸。

凯西·克莱姆(Kathy Cramer,美国威斯康星大学教授)已经在这个领域进行了10多年的研究,她说过的一句话,我比较喜欢:

“在民主制度下,我们选择投票治理社会,因此我们都有义务去了解社会里每个人。”

新的科技使这种理解力成为可能,但是这是个非常非常艰难的开始。

批判性思维方法是这个问题的答案吗?

有学术理论以为通过传授怀疑论思想和批判性思维能够挽救人类社会日益趋于分裂的命运,但是根据题目为《斯坦福研究发现:大多数学生不知道消息是假的》文章所提到的观点:利用人类心理学一个微妙的技巧,如果我们反复接触到同一个消息,我们就以为这是真的。

心理学家汤姆·斯塔福德说过,不管它是或不是事实,重复会让它看起来更真实。

世界上的所有批判性思维都不足以抵制络绎不绝的虚假信息。而社交媒体网络正是最擅长源源不断地提供虚假信息,它们有针对目标人群的平台,能完美地将重复的信息传递到每个个体,在过去那些叫广告,现在我们称之为新闻。

魔鬼经济学电台一个节目还描述了另一个很酷的大脑思维模式:人们做决策的先后排序会影响决策本身。也许你以为事件发生的顺序并不重要,但顺序确实会造成影响。对于棒球裁判员来说,如果已经判投手之前一个是好球,那么判下一个好球概率就少很多。法官是更倾向在一天的早餐之后和午休之后做出假释判决,另外,如果前两个案子已经连续判假释了,那么法官当时批准下一个案件假释可能性会相对小很多。

设想一下,如果你接触到的信息,有十几个文章断言是X,只有一、两篇文章支持相反观点,批判性思维会不会自动均衡排序分析这些文章结论?我想是不太可能的。

技术已经随时准备加剧分裂社会而不是让社会更加民主。谁能预见未来的变化?

感谢陈兴璐对本文的审校。

给InfoQ中文站投稿或者参与内容翻译工作,请邮件至editors@cn.infoq.com。也欢迎大家通过新浪微博(@InfoQ@丁晓昀),微信(微信号:InfoQChina)关注我们。

讨论