监视资本主义：智能陷阱

《the social dilemma》（中译《社交陷阱》）里引用了一段儿新闻报道说，崔斯坦被认为硅谷里勉强有点儿良心的人。这部纪录片以他的一个项目为主线，讲了最近十年勃兴的社交软件对人类个体和整个人类文明的侵蚀。这些社交媒体公司（FB,twitter,wa,insta等，是不是应该感谢上帝，大部分在中国打不开^_^）只有一个目的就是盈利，赚最多的钱。在自由市场下，公平竞争的环境里，发展的硬道理是必须赚更多的钱。在这唯一指挥棒下，硅谷这几家大公司无所不用其极的利用人类的心理弱点，从个人身上攫取最大量的注意力和时间，打包卖给广告投放商以盈利，同时，连自己也没料到，无形中把人类社会推向非黑即白的两极。前半部分注重分析算法（人工智能 大数据）和经营策略对一个个体的影响。后半部分讲了对整体人类文明的影响：民主制度，人和人之间的关系，人和人之间的交流。 首先是人类个体部分。 其中一个硅谷投资人说，上一个世代，硅谷主要产生硬件和工具软件，例如苹果电脑，photoshop等等。她们是靠卖工具给你而盈利的，这个世代，主要收入靠广告投放，有产品吗？有，这个产品就是用户，每个人--你的时间，注意力，你任何的私隐--都被打包卖给了广告商。工具的特征是，工具会耐心的呆着，等你去用它，用完就关了，你用完Photoshop后不会再去把每个ps的菜单都看一遍过瘾的。现在的互联网产品（社交app）的特征是，不停的引诱你去用它，不停的抢占你的注意力，你的时间---简言之，让你上瘾，和烟酒毒品等其它上瘾品一样。结果也一样--短暂的快乐过后，你会感到疲惫空虚沮丧。 这里引述了几个前大厂主要技术和商业推广负责人，深度剖析这些产品的设计初衷，正如崔斯坦所言：一个邮件App的设计有二三十个人参与，大家对于字体，颜色等争论不休，从来没人想过它作为产品的伦理性--即会不会令人上瘾。twitter和FB的产品经理则直言他们背后的设计逻辑的理论基础就是心理学上的成瘾理论--让人上瘾，不停刷下去。trend（相当于微博里的热榜），话题推荐，都是为你量身定做的，目的都是为了把你留住，不停的刷下去。 这里有个值得争论的点，这些大厂可以为自己辩护：自控能力不行不是我的锅啊，和吸烟一样，你愿意吸烟吸死不是我卖烟的初衷啊。FB的产品经理说当初我们发明点赞按钮主要是想传播正能量，但有人因为获得的赞没有别人多得了抑郁症我们真的是没想到啊。其实这个争议正是崔斯坦和本纪录片想要推动的方向：立法。各国都有关于禁烟不同的条例，吸烟年龄，场合等立法积极干预。还有加税这种消极性的控制。社交网络也急需相应的立法。我记得是FB的一个人说，我觉得已经赚了这么多钱了，还干这样的事儿实在是不应该就辞职了--他可以辞职，但公司还必须往前开，别人会填补他位置继续干这种见不得人的事儿。 个人经验里，我记得刚有互联网时，web1.0时代，已经感受到互联网对时间和注意力的影响了。这种场景大家都不陌生，打开浏览器本来是为了查一个问题，最后半个小时过去了，你已经忘了当初为啥要打开浏览器。所以多年来我一直保持着一个习惯：去任何网站都是直接输入网址。google提供的界面也足够简洁，就是想你专心搜索你想要的东西，不要被任何事干扰。打开百度看看，首页已经一堆干扰了。

和现在相比，web1.0时代还没有人工智能，还是人类主导的互联网，网页体现的还是编辑意志，没法精确的猜你的好恶，更没法潜移默化的设置议程改变你的想法塑造你。你最后在网上流连忘返的最坏结果不过是杂乱无章的看了一些资讯而已，最多是浪费了点儿时间，没有其它伤害了。 而现在这个算法主导的世界里，你会发现你不仅浪费了时间，把自己的时间和注意力卖给了广告商。还潜移默化的被人工智能变成了个傻逼--这变化非常令人震惊，但的确是事实。把人变成傻逼其实并不难--该片举了”地平说“的例子，pizza门的例子。其实各种阴谋论都有人信的只要你能系统性的长期的接触同一类资讯最后都能自圆其说的被洗脑洗成个傻逼，完全不用逼迫，不用任何权力和金钱控制，就能做到。 后半部分主要说了对社会的影响--社会是由个体组成的，影响了个体必然会影响社会，这部分的展开有点弱，但结论是没问题的。AI导致了新闻农场，假消息的传播速度更快了。阴谋论盛行，人类的表达越来越诉诸情绪，走向非黑即白的极端，商业行为利用这些特点来卖货，政客利用这一点来拉票，这是一个比赛谁更极端的世界，稍微中性一点儿，温和一点儿的理性的声音已经被毁灭的差不多了。关于阴谋论片中举了个“pizza 门”事件，非常经典的阴谋论：指向政府高层（因此绝对保密，你不可能从正常媒体渠道看到），内部员工透露的资料（我是pizza店的XX， 这事儿是真的，我亲眼所见，但不敢说，说了会丢工作等等）。这种阴谋论传播的结果就是把水搅浑，大大削弱正常新闻的传播。这种玩意儿能大行其道主要还是因为社交媒体的”即刻性“属性，黑白两极的对立也是因为时效性--在一天几刷，一刷几个字（140字）的社交媒体上，人们已经失去了深究一个问题，一个人的耐性。诉诸情绪是最便捷的。当年论坛上盖几百层楼诉诸事实的争论不太可能存在了。 在web 2.0， blog，bbs时代，你点开一个人的ID，可以列出他所有的帖子，回复，你可以快速的对此人有个大致全面的认知（起码在一个小范围内比较全面），现在这个时代能翻翻他最近几条140字内的内容已经不错了。这种“活在当下”，是为消费主义，头脑一热买买买设计的，对于了解一件事一个人是有害无益的。以前网上的争论有最基本的几个共识基础：法律框架，逻辑推演框架。这两个框架下的争论又都必须建立在事实基础上。因此的确可以”真理越变越明“。现在的争论，这样的框架不存在了，因为不可能在140字内完成充分的论述以及完备的逻辑推理过程。事实究竟是什么就更没人关心了--搞清楚时间地点人物事件都需要花时间，需要动脑子，这正是社交媒体最不想用户做的。你一学会逻辑思考就会变得理智，不会那么冲动了，我怎么卖（骗）货（你）？ 现在仍在发生的一个简单例子就是川粉和反川人士，两边都觉得对方是傻逼（而自己绝对正确），这是大数据和AI运作的结果之一，所谓的俄罗斯黑客助选其实指的就是这些手段。 从广告行业来看，从没见过这样的精确：你投了收效马上呈现，甚至是可控的。以前评定一个媒体广告的效果需要动用调查公司做抽样调查，放进数据模型里计算分析，勉强能得出一个也许大家心里都不是很有数的结论：这个广告投对了还是投砸了。毕竟那个时代，人们还生活在一个真实的社会，影响销售的元素太多了。而现在呢？几乎每个人都生活在自己的朋友圈儿，自己的社交网络上，整个社会已经是个幻象，想要控制幻象改几行代码就行了。像《黑客帝国》里的情节，你想偶遇一个红裙女孩儿吗？改几行代码就能实现--这已经不是天方夜谈和科幻片，只要取得她的地理位置，推送给你你就能“偶遇”。这种全知全能的控制是非常可怕的。 人类毕竟有反思的好习惯，这部纪录片算是揭开了反思的序幕吧，接下来对应的隐私保护立法，数据使用立法可能会艰难的推进。电视媒体刚走进千家万户时，波兹曼写了《娱乐至死》警惕作为大众媒体的电视对社会的影响。和电视时代的消极影响相比，今天主动操控人的网络社交媒体更进一步了。许多人对波兹曼这种批判嗤之以鼻--电视也没把我们怎么样嘛。是的，电视没把人类怎么样，所以，换了个更狠的办法来了。 对个人而言，生活在这个社交网络主导一切的年代，首先必须有自控能力，时刻记着是你在使用工具不是工具在奴役你。需要的时候才用，用完就放下。肤浅的快乐是有代价的，电视和网络都不会使你变得更快乐，更不会把你变成更完整的人而令你人生更有意义。很多时候每个人只不过是这个时代的噪音里微不足道的一个，与其画地为牢生活在社交媒体里，不如离开网络多看书多思考多写超过一百四十字的东西。成长是痛苦的，但成长的快乐也是结结实实的。 其次，珍爱生命远离网络吧，多交一些“真实”的朋友（无论这朋友是从网上来还是生活中来），真实的朋友需要花时间真正的交流，一个真实的朋友胜过一千个点赞之交。

√ 在手机上关掉/减少各种“通知”，大部分“通知”既不及时也不重要。 √ 放弃Google搜索系统，改用Qwant（ https://www.qwant.com/ ）。

补充，类似保护隐私、不会主动泄露cookies的搜索引擎还有 DuckDuckGo，Searx，Startpage 等。网上有许多这样的介绍和测评，随手搬运一篇《 搜索引擎详细测评（Google, Startpage, Bing, DuckDuckGo, metaGer, Ecosia, Swisscows, Searx, Qwant, Yandex, and Mojeek）》（2020-02-15） √ 不看YouTube（此处可以等效替换）推荐的视频，要看什么自己选。 √ chrome有许多的拓展插件，可以为你屏蔽那些推荐（针对外网的比较多，希望内网也多多开发）。

√ 在分享信息之前，用你的搜索引擎先去核准下事实（fact check）。对于容易激发情感的内容，要高度重视。 √ 在社交媒体上去关注一些自己不认识、意见相左的人，有意识地去获取和自己不一样的声音。 √ 可以自发地设立“家规”：孩子不能用社交媒体。（很多业内的技术人员是不让自己的孩子用那些的。） √ 可以自发地设立“家规”另三种： 每天到了固定的时间，手机等电子设备不能带进卧室（例如睡前半小时，把所有设备都请出去）； 高中（或16岁）之前禁用社交媒体； 提前与孩子商讨出一项“时间预算（time budget），比如：每天你打算在这些设备上花多久？你觉得多长的时间是合理的？正向沟通、相信孩子，往往可以得到一个合理的时长预算。 √ 下线，多享受线下的现实。

挺讽刺的，看这部纪录片的时候手边正好摆着product manager必读书目 -- Hooked，讲的就是怎么创造出人人都上瘾的产品（speaking of dilemma，作者最近又写了一本新书讲如何保护自己的时间不被social media占据） 纪录片前三分之一正好讲的也是这个部分：互联网公司为了得到更多的用户从而实现盈利目的，投入了不计其数的资金去研究怎么能让用户上瘾。基本上呢，互联网公司的盈利模式正基于此，足够的screen time，足够的广告。纪录片本身没有什么新颖的观点，比较触目惊心的是美国青少年自残自杀人数自2010年开始增加，social media上许多功能带来的后果在初期没人能想得到。 当然，互联网不光影响了高中生的心理健康，由于各种算法只会通过点击来判定用户兴趣，在以增加screen time/stickiness为前提的商业模式下，许多假新闻阴谋论得以广泛传播 - 人们活在自己的世界里，目之所见全是相同的观点，每个人都有一套自己的是非体系，polarization越来越严重。 这和‘被困在系统的外卖小哥’那篇文章不谋而合。因为数据有限，算法仅能够根据用户有限的实时反馈：点击、点赞、用户时长等指标进行提高，而算法的设计者们往往不会也无法预料到可能产生的负面影响，导致了今天的局面。看到这个地方我很好奇导演会怎么来探讨可能的解决方法，毕竟大家都知道这是个问题，可真要解决起来太难了。 导演也知道，于是他只花了最多十五分钟（包括片尾鸣谢），即全片16%的时间，非常非常非常蜻蜓点水的讨论了一下。 监管制度是一定需要的，可是假新闻要怎么监管呢？没说。谁拥有最终的话语权可以为假新闻盖棺定论，是政府，是互联网公司，还是用户自己？任何一方如果直接干涉，那又该怎么保证不影响言论自由？说到底，作为用户，到底谁才能决定我看到什么？影片中把互联网公司的推荐算法跟人口贩卖（和许多我记不起来的黑色产业）对比，可问题在于，什么是真什么是假可比人口贩卖是好还是不好难鉴定许多许多。再加上监管制度成型中各种power play，最终成型的会是什么样子也挺难说的。 在我看来，互联网、科技、算法等等最大的难题在于，这个产业本身是高度分散的。由于互联网本身的特性，任何一个小小的产品改变能在上线的一瞬间影响上亿的用户。可是作为参与这一改变的人：设计师、码农、产品经理、数据分析师等等，他们和你我一样，都是普通人，无法预料到点赞功能会导致青少年焦虑，无法预料到优化送餐时间会导致外卖员的困境。如何在产品设计、算法设计的过程中考虑到可能产生的社会影响才是每个互联网人应该上的一堂课。 可是好遗憾，这部纪录片根本没有探讨可能的解决方法，唯一有点意思的是片尾鸣谢时每个人提到的自己对抗算法的方法 - 这明明是应该放进正片的内容！ 总的来说，纪录片花了过多篇幅来讨论现象，有sensationalism之嫌，而对于立法的困难程度、互联网公司该如何自省方面的讨论少之又少（我很期待看到这些的！比如如何在算法中融入社会学）。最后吐槽一句，netflix的纪录片好像都有点煽动情绪大过摆事实讲道理，看看本片标题，也挺讽刺的。