重磅丨《智人之上》4：计算机算法能与人类利益保持一致吗？

计算机算法能与人类利益保持一致吗？

点击进入喜马讲书频道页>>>

精华笔记 

上期节目，我们将民主和极权作为两种不同的信息网络类型，分别回顾了它们的发展历史，并展开了对非人类智慧的讨论，特别是分析了计算机这一信息革命的基础。

本期节目，我们继续深入对非人类智慧主导下的信息网络的讨论，更好认识在新的网络语境下，人类还需要面临和应对哪些挑战。

1949年，英国作家乔治·奥威尔发表了著名的长篇小说《1984》中，一句“老大哥”正注视着你让人印象深刻。

“老大哥”是三国之一大样国的名义领袖，始终作为权力的象征，操控民众。虽然他从未真正出现过，但人们认为，自己的一举一动时刻都处于他的监视之下，“老大哥”是无处不在的。

官僚制度最重要的一个功能就是要对全民进行监控。监控其实都是在做两件事情：一是收集数据，二是在一的基础上对这些数据进行分析从而找出规律。

在计算机技术广泛应用前，想实现全民监控面临着极大的困难。

但是，计算机网络无处不在，完全有能力24小时监控全国的所有公民，并不需要培养专门的特工，甚至人们会主动的与它互动，而且也再没有什么比这些算法更懂得处理和分析信息了。

于是，一种可以一天在线24小时的非生物官僚出现了，它们随时监控人民并与人民互动，人们的所有活动都会留下痕迹，被抓取、识别和分析。

但这一技术也可能会衍生出史上最具侵入性的极权主义政权。随着生物特征识别技术的发展，数字官僚开始有了观察人们体内所发生的一切的能力。

最后来谈谈监控的形式。

除了熟悉的国家机器监控、企业雇主监控，计算机技术还使得个人之间不断监视的点对点监控成为可能。这一体制本质上是一种社会信用体系，人们需要为所有事情打上分数，这个分数也会影响现实中的人们的选择。

一旦推广到整个社会，那么每个人最终会得到一个自己的整体声誉评分，于是会时刻注意自己的言行举止，形成一场永无止境的比拼和无比令人窒息的控制。

如果人们一直处于被观察、被监控的状态下、且又出现了更加强大的观察工具，那么受到的影响也越大。

如今，我们迎来了一个历史转折时刻，非人类智能的决定正在推动人类历史的重大进程。有必要关注并解决计算机网络下的错误。

为了再一次平衡真相与秩序，计算机网络必须发展并维持强大的自我修正机制。

其中，务必要解决的是一致性问题，人们需要考虑如何确定计算机的终极目标。

在未来，计算机间的实体可能成为未来社会文明的基础，因此，对于人类来说，我们不应思考该如何剥夺这种计算机的这种连接性和创造力，而失去思考在尚能干预的当下，应该怎样正确引导这些创造力。

在下一期，我们将为您介绍计算机政治学的相关内容，重新探索民主和极权制度，讨论不同类型的社会将如何应对非生物信息网络的威胁和作为碳基生命的的人类该如何理解和掌握全新的信息网络。

书名：《智人之上》

作者： [以]尤瓦尔·赫拉利

撰稿人：甜儿有魔豆 

策划编辑：佳音

主播：叮当有声

制作：喜马讲书

监制&运营：郑涵 张悦