31. 公共舆论中的社交机器人：假账号是否有真舆论？

本期节目的嘉宾是我们的朋友段泽宁。泽宁是威斯康星大学麦迪逊分校大众传播学博士生，他的工作使用计算社会科学方法研究新兴媒介算法的影响及争议事件中的公共舆论。

在微博、抖音、小红书等社交平台冲浪时，和我们产生互动的用户可能不仅仅包括网线另一端的网友，还包括社交机器人。一方面，社交机器人虽然不像聊天机器人一样能够进行对话，他们作为社交平台用户也能提供有用的服务，比如更新天气信息、体育比分。另一方面，一部分社交机器人又常常以“水军”、“僵尸号”等名字被大家熟知。社交机器人改变了社交平台的运行逻辑吗？我们如何从真实用户中辨别社交机器人？当真人用户和社交机器人产生互动时，社交机器人如何参与和塑造公共舆论？我们如何得知社交平台所反映的公众舆论代表了谁？社交机器人的言论是否是真舆论的一部分？

从社交机器人账号和真实人类用户的区别开始，泽宁和我们在本期节目中从传播学研究的角度讨论了如何理解人工智能技术背景下的真假公共舆论，以及普及新闻通识教育的重要性。

本期嘉宾

段泽宁

@计传岛COMputation（微信公众号）

内容提要+精彩预告

00:43 嘉宾介绍

01:05 新兴媒介算法是什么？社交机器人是什么？有什么作用？

06:13 社交平台是由人和社交机器人共同组成的

08:05 社交机器人和人有什么不同？为什么要区分？

“取决于研究者想要研究什么问题”

“公共舆论学者关心真正人类的观点是什么”

12:15 谁改变了舆论场？

16:35 微博僵尸文学与社交机器人

“给一只猴子一个打字机和足够多的时间也能够打出莎士比亚全集”

21:52 社交机器人是否影响了人的判断？

“更像人类的社交机器人有更多的说服作用”

Duan, Z., Li, J., Lukito, J., Yang, K. C., Chen, F., Shah, D. V., & Yang, S. (2022). Algorithmic Agents in the Hybrid Media System: Social Bots, Selective Amplification, and Partisan News about COVID-19. Human Communication Research.

27:30 社交机器人的正向作用

“在自然灾害发生、公共健康危机时借助社交机器人在社交平台上传递重要的、服务社会的信息”

“社交机器人和汽车、太空等其他技术没有区别”

“我们需要思考的是如何使用技术”

30:40 社交平台的底层逻辑决定了社交机器人的出现

“从社交媒体诞生以来我们就有一种冲动去操纵代表流行度的数字”

“社交机器人的负面作用在于在舆论场中打破了我们平等参与讨论的可能性”

“武器化社交机器人来攻击对方观点的合理性”

“注意力经济、流行即正义、公共舆论可以称为武器”

39:00 一些意见不被信任，一些声音不被倾听：社交机器人、数据女工、水军、营销号

“社交平台上我们真正接受的、认为真实的、愿意倾听的声音是什么？是如何发出的？”

“我们不喜欢虚假，尤其是这个虚假不能给我们带来好处时”

43:20 理想的社交平台是什么？

“即使没有社交机器人也不能避免社交媒体中充斥的情绪、不能避免非理性表达的观点”

47:10 在社交平台上什么是真和假？假账号是否有真舆论？

“社会科学家在研究课题中定义了真和假”

“真舆论代表了谁？”

“真和假取决于研究的问题”

52:35 如何阅读新闻？新闻和我们的个人生活的关系

“有时间可以了解新闻是如何产生的，信息是如何传播的”

“知道新闻是如何生产出来的可以帮助我们抵抗社会中的固有偏见”

参考资料

段泽宁的研究：

Duan, Z., Li, J., Lukito, J., Yang, K. C., Chen, F., Shah, D. V., & Yang, S. (2022). Algorithmic Agents in the Hybrid Media System: Social Bots, Selective Amplification, and Partisan News about COVID-19. Human Communication Research.

来自双重意识的提纲和段泽宁的文献整理：

Social bot 社交机器人和 chatbot聊天机器人有什么不同？

目前的定义依然在辩论中，边界也模糊，bot applications是一个广泛的“光谱”。

Stella, M., Ferrara, E., & De Domenico, M. (2018). Bots increase exposure to negative and inflammatory content in online social systems. Proceedings of the National Academy of Sciences, 115(49), 12435-12440.

Bail, C. A., Argyle, L. P., Brown, T. W., Bumpus, J. P., Chen, H., Hunzaker, M. F., ... & Volfovsky, A. (2018). Exposure to opposing views on social media can increase political polarization. Proceedings of the National Academy of Sciences, 115(37), 9216-9221.

Go, E., & Sundar, S. S. (2019). Humanizing chatbots: The effects of visual, identity and conversational cues on humanness perceptions. Computers in Human Behavior, 97, 304-316.

Wischnewski, M., Ngo, T., Bernemann, R., Jansen, M., & Krämer, N. (2022). “I agree with you, bot!” How users (dis) engage with social bots on Twitter. New Media & Society, 14614448211072307.

Rahwan, I., Cebrian, M., Obradovich, N., Bongard, J., Bonnefon, J. F., Breazeal, C., ... & Wellman, M. (2019). Machine behaviour. Nature, 568(7753), 477-486.

Holtgraves, T. M., Ross, S. J., Weywadt, C. R., & Han, T. L. (2007). Perceiving artificial social agents. Computers in human behavior, 23(5), 2163-2174.

Spence, P. R., Edwards, A., Edwards, C., & Jin, X. (2019). ‘The bot predicted rain, grab an umbrella’: few perceived differences in communication quality of a weather Twitterbot versus professional and amateur meteorologists. Behaviour & Information Technology, 38(1), 101-109.

如何从真实用户中辨别社交媒体机器人？社交的特点是什么？

一个简单的实验研究发现：人们更倾向于和似人（更逼真）以及和自己意识形态更一致的社交机器人账号互动。因此，一些机器人工作室将机器人账号设计得更为拟人化，大约是正确的思路（也许之后会有新的证据）。

Wischnewski, M., Ngo, T., Bernemann, R., Jansen, M., & Krämer, N. (2022). “I agree with you, bot!” How users (dis) engage with social bots on Twitter. New Media & Society, 14614448211072307.

社交机器人的用途包括发布无法通过正常广告渠道的审核的非法广告

比如推广电子烟，这个话题USC的Allem和Ferrara在16、17年就有一些研究在讨论：

Allem, J. P., Ferrara, E., Uppu, S. P., Cruz, T. B., & Unger, J. B. (2017). E-cigarette surveillance with social media data: social bots, emerging topics, and trends. JMIR public health and surveillance, 3(4), e8641.

Allem, J. P., & Ferrara, E. (2018). Could social bots pose a threat to public health?. American journal of public health, 108(8), 1005.

社交机器人的正向用途

CensusAmericans bot： https://fivethirtyeight.com/features/introducing-censusamericans-a-twitter-bot-for-america/

天气预告机器人: https://twitter.com/IsMtRainierOut

人工智能可以以搜集资料、整理数据、核查事实、版面校对等方式参与新闻生产

另一个小案例是，现在不少新闻机构都依靠bots和自动写作技术在社交媒体平台上有一些自动news feed账号。人工智能技术也进入到了信息分发的渠道中。

Newman, N. (2022). Journalism, media and technology trends and predictions 2022. Reuters Institute for the Study of Journalism. https://reutersinstitute.politics.ox.ac.uk/journalism-media-and-technology-trends-and-predictions-2022

人工智能GPT-3语言模型可以根据标题内容来生成新闻全文内容

Brown, T., Mann, B., Ryder, N., Subbiah, M., Kaplan, J. D., Dhariwal, P., ... & Amodei, D. (2020). Language models are few-shot learners. Advances in neural information processing systems, 33, 1877-1901.

社交平台由人和机器人共同组成

Ferrara, E., Varol, O., Davis, C., Menczer, F., & Flammini, A. (2016). The rise of social bots. Communications of the ACM, 59(7), 96-104.

片头片尾音乐

《Sunrise at Seaside》by 王乾

封面图片

Midjourney生成的AI图像: "社交媒体账号背后的机器人算法"

-----------

双重意识是一档「让我们认识到那些我们以为此时此刻与我们生活需求没有关联的东西其实和我们紧密相关」的播客节目。你可以在苹果播客, 喜马拉雅，网易云音乐，小宇宙APP和Spotify搜索"双重意识DoubleConsciousness"找到我们，关注我们并收听我们的节目。

欢迎大家在微信后台或是微博(@双重意识DoubleConsciousness)等各大平台给我们留言、提供反馈意见。