科学丨《技术之外》：揭示人工智能的底层逻辑，既不人工也不智能

揭示人工智能的底层逻辑，既不人工也不智能

点击进入喜马讲书频道页>>>

精华笔记 

人工智能是一个十分广泛的科学，抛开纯粹的技术领域概念，作者认为人工智能不仅仅是在虚拟的数字环境中运行和处理信息，而是与物理世界有着直接的交互和认知联系，是由自然资源、燃料、人力、基础设施、物流、历史和分类构成的。如果没有经过基于大型数据库的计算密集型训练，AI系统就不是自主的、理性的，也无法识别任何东西。而这种训练，取决于人类的预定义规则和奖励条件。因此，我们需要在更广泛的物质、社会、政治背景下，来探讨人工智能是如何构建的。

人工智能的发展首先依赖于完善的基础硬件设施。大数据、云计算、互联网、物联网等信息技术的进步，推动了以深度神经网络为代表的人工智能技术的飞速发展。这其中，强大的计算能力是关键，高性能的中央处理器、图形处理器以及专用的AI芯片等硬件，能够快速处理海量的数据和复杂的计算任务。而高端AI芯片的制造，离不开地球上有限的稀土矿产资源。比如钽、钨、钴、镝、钕等，这些稀土元素在提高芯片性能、降低能耗等方面发挥着重要的作用。

其次，训练数据是构建当代人工智能系统的基础。“数据是新的石油资源”的观念在21世纪开始流行，人工智能行业大量收集数据用于建立AI模型的训练数据集，不仅局限于所有可公开访问的数字材料，很多公司甚至不惜侵犯个人隐私。

在海量数据的基础上，人工智能的训练还依赖于大量被人工标注的分类数据集，用于训练模型、提高准确性、解决歧义和建立基准。

再次，人工智能是在软件算法的基础上驱动硬件的，而电能则是这些系统的命脉。人工智能的运行离不开软件算法和硬件的协同工作，软件算法是人工智能的“大脑”，它决定了人工智能如何处理和分析数据、如何进行学习和做出决策。而电能是驱动整个系统运行的动力源泉，没有稳定的电能供应，硬件设备将无法工作，软件算法也就无法得以执行。

人工智能系统的构建和运行极度需要能源，而生产更快、更高效模型的竞争推动了算法的野心，拓宽了AI的碳足迹。英伟达创始人兼CEO黄仁勋曾在斯坦福大学的演讲中明确表示，“AI的尽头是光伏和储能！”

最后，人工智能还需要实际的应用才能够真正服务于大众，转化为切实的价值，回报投资者，投资者才会投入更多的资金和资源发展人工智能。

在作者看来，人工智能并不是一种客观中立的技术，相反，人工智能是一种提取技术：从地球提取矿物、从流水线上的工人提取劳动力、从人类社会每个动作和表达中提取海量数据，从而对地球的环境和资源产生了强烈而持久的冲击，并且加剧了人类社会业已存在的各种结构性不平等。人工智能的底层逻辑是——既不人工，也不智能。

人工智能系统的扩张似乎看起来不可避免，但如何可持续的发展人工智能是有争议的。作者在书中指出，发展AI面临四个核心挑战：不清洁、不智能、制造偏见、加剧权利不平等。

人工智能是不清洁的，它的基础设施高度依赖于日趋枯竭的资源，飞速发展的人工智能产业，进一步加剧了矿产资源的紧张。很多矿产资源的争夺，是发生在全球各地动乱的根本原因。稀土矿物的开采常常会导致地貌破坏、河流酸化、生物多样性被破坏。

人工智能系统依赖矿产资源制造算力，同时还需要大量的电力驱动硬件进行复杂的计算。人工智能产业消耗大量的传统天然气煤炭的发电，占全球温室气体排放量的14%。具有讽刺意味的是，那些宣称自己是“碳中和”科技巨头，比如苹果和谷歌，其实是通过购买信用积分来抵消碳排放的，相当于购买了赎罪券。对于环境损耗，科技行业从未完全承认或给予任何考虑，不清洁的人工智能，从公共资源中提取价值，却不为产出的真实成本买单。

那么这些付出值得吗？人工智能真的“智能”吗？

关于人工智能的一个常被忽视的重大事实是，其需要数量巨大的低薪工人帮助开发、维护和测试AI系统。长期被广泛吹嘘的机器学习，并由此实现的AI效能，是基于大量通过人类员工、消费者、志愿者所进行的对人类用户行为、情感、身份，以及相关图片、视频信息的标记。也就是说人工智能的训练和运行，还必须依赖人类提供高质量的训练数据，AI并无法处理未被充分训练的任务。不少科技公司甚至在使用人类员工来假装为人工智能系统，或者部分采用人工介入。

人工智能可能会制造偏见。

数据偏差可能会导致人工智能产生偏见。如果用于训练人工智能模型的数据本身存在某种不平衡或偏向，AI学习到的模型就可能包含这些偏差。算法本身的设计也可能引入偏见，某些算法可能对特定类型的数据或特征更敏感，从而在处理数据时产生不公平的结果。

人工智能会加剧权利的不平等。

AI观察社会的方式结合了抽象与提炼的方法，将制造它们的物质条件抽象化，同时从那些最无力抵抗的人那里提取更多的信息和资源。劳动力代表了另一种形式的提取。劳动力在全球很多地区依旧稀缺，人工智能的作用更准确来说是成为了更高效的监工，监视员工行动、行为，包括追踪其社交媒体记录、电子邮件记录，评估其工作成长效能，以实现最大化的压榨。随着人工智能在工作场所的应用越来越普遍，许多更基本的监控和跟踪系统正在扩展新的预测能力，成为更具侵入性的员工管理、资源控制及价值萃取机制，进一步加剧了权利的不对称。

人工智能系统已经成为塑造现代世界的关键力量，只有将人工智能与更广泛的结构和社会系统联系起来，从全局的视角，通过不断对人工智能进行追问和批判性思考，我们才能够逐步走向更高度的人类文明。

书名：《技术之外》

作者：[美] 凯特·克劳福德

撰稿人：崔芹

编辑：阿柑 佳音

主播：路琨

制作：匀绮工作室

监制&运营：劝劝 曾馨仪

总编辑：马晓蓉