社交机器人

出自 MBA智库百科(https://wiki.mbalib.com/)

　　社交机器人是基于计算机网络算法，通过模拟真实的用户行为，在社交网络上发布相关内容，与其他用户互动，并且可以呈现出一定的情感特征和人格属性的智能形象。^[1]

　　社交机器人并非新概念,其最早与计算机系统一同诞生于20世纪六七十年。在技术与社交媒体的新背景下，该概念泛指基于社交媒体平台，通过大数据和算法技术进行自动化内容生产和仿真人际交往互动、情感劳动的程序化智能体。

　　其功能涉猎信息传播、数据调研获取、模仿人类聊天社交、提供新闻报道等方面。目前在社会舆论引导、国际传播、健康传播中都可见社交机器人的应用。 Twitter数据显示，目前社交网络上有2300万的活跃账户实际上是社交机器人,其已经成为社交媒体中重要的内容生产与传播动力。

　　一方面，社交机器人对社会信息有强大的协调功能，另一方面,它也能通过发布谣言、偏向性文本，与大量真实用户建立联系，影响舆论、妨碍公众正确认知客观事物、威胁民主政治合理性,获得非法利益。因此,对于社交机器人的规制也是未来网络治理重要方向，不仅应从政策、平台等多方角度对其存在问题进行治理，更应让人文性成为社交机器人的内容逻辑。

　　随着人工智能技术的发展，机器人早已屡见不鲜。那么，社交机器人与这些普通的机器人有什么区别呢？主要在它的“社会性”。

　　社交机器人具有高度拟人化的特征。从表征层面来说，社交机器人能够进行基本的语言和非语言交流；从进阶层面来说，社交机器人甚至具有自主化意识和情感精神世界，能够和人们进行精神互动。

　　高山冰老师认为，关于社交机器人的研究，最初主要落在具体的行为层面上，比如转发、回复等；后来延伸到影响更为广泛的认知和态度层面，即分析社交机器人和人类用户在信息发布的主题以及情感上的差异。

1、生成内容不可预测且虚假信息识别难度加大

　　生成式人工智能除了在文本自动生成方面取得了重大进展,在图像领域,已被用于生成与真实照片难以区分的图像;在音频领域,生成式人工智能能够以普通话、地方话,甚至利用口语生成音频;在视频领域,生成式人工智能获取用户提示后,构建复杂算法模型创建 符合用户需求的视频,其中3D场景、人物和对象都是完全虚构的。

　　生成式人工智能技术的持续迭代升级, 社交机器人采用自然语言处理、深度学习和机器学习能够更加容易地编造虚假信息、深度伪造图片和合成音视频,内容与真实人类用户相似度更高,这些都加大了对社交机器人发布的虚假信息鉴伪工作的难度。

　　生成式人工智能通常被视为黑盒模型,因为其内部的复杂算法和不可预测性使得很难推测模型将如何响应特定的输入。因此,生成式人工智能自身幻觉 (Hallucination)风险生成的似是而非的不符合现实的误导性信息,降低了舆情传播的准确性和可靠性。

　　同时,为了获取受众的吸引力赚取流量或者为了实现特定的政治目的,社交机器人倾向于传播负面、容易产生争议、具有煽动性的话题,而且带有偏见性的训练数据还会加剧社交媒体信息迷雾的生成,撕裂公众原有的社会共识,给国家安全带来危害。

2、社交机器人行为分析以及媒体信息追踪溯源难度加大

　　在生成式人工智能技术应用在社交机器人之前, 其行为特征具有一定的可识别性。比如以社交媒体涉华新冠病毒议题为例,通过对比社交机器人和人类用户在发文主题上的特征和策略,能够查明社交机器人对社交媒体用户意识形态的引导和操纵的政治化行为方式。

　　以国际社交平台推特上社交机器人对中国新冠疫苗的议题参与问题,分析其内容特征、形象管理策略以及与人类互动特征,能够研究社交机器人的参与模式,利用深度学习模型整合社交机器人的行为特点、习惯特征、行为态度,推理其隐性意图。

　　但是,社交机器人利用生成式人工智能来自人类反馈的强化学习能力进行训练后,更新参数以产生越来越高质量的回答,并且会承认错误、修复自己的答案,具有重新思考的能力,指令人工智能发送消息时有一个 0. 3 秒/ 字符的延迟,输出时犯拼写、语法和大小写错误,这样就更像人类打字的过程。社交机器人更加近似真实人类的行为使得对其行为识别和意图推理分析更为艰难。

　　由于生成式人工智能提升了社交机器人的自然语言理解和处理能力,在对用户画像的基础上使其能够更加充分的掌握用户的意图,以更接近人类的思维方式响应社交媒体用户的需求,与用户进行转发、评价、回复和点赞等互动,使得社交机器人与人类的行为差别更小,对社交机器人的行为分析和识别变得更加困难。

　　由于训练数据数量巨大且来源十分广泛,社交机器人会选择性、针对性的投放虚假信息,经过网站的交叉引用或不同类型社交媒体领袖KOL( Key Opinion Leader)的相互转发,容易混淆信息来源,增加信源查证的难度 ,通过传播难以溯源的“半”可新信息操纵和破坏情报源,给准确追踪和验证内容的起源带来极大的挑战。

　　3、破解“信息茧房”的难度加大

　　人工智能技术给应对和破解“信息茧房”工作带来的挑战主要体现在三个方面:

　　一是生成式人工智能减少了社交机器人开发过程中的训练数据需求,缩短了开发周期,降低了维护和升级成本,更容易开发和部署社交机器人,也使得大 规模利用和部署社交机器人成为可能。

　　庞大数量的社交机器人以集体方式与大众、政治组织、媒体和其他社交机器人共同实施话语互动实践,通过组织化传播对舆论生态中的话语权进行争夺,共同推送相同内容 信息以阻碍不同观点的流通,从而引导和掌控受众的 态度和意见。

　　二是社交机器人依托以ChatGPT为代表的预训练基础模型,展现出越来越成熟的时序逻辑梳理、策略规划和生成能力,快速生成包括投放对象、投放内容、 投放顺序等要素在内的社交媒体宣传方案,通过人机协同机制迭代完善生成更明智、更有效的投送策略,实现优化后的精准投送。通过使“投喂”内容与用户精确匹配形成“信息茧房”,让用户看到他们想看的内容,造成用户的思想和观点趋于固化或极化。

　　三是社交机器人通过违规收集的用户隐私信息, 了解用户关注和偏好,使用算法推荐技术精准投放虚假信息,使用户陷入信息茧房效应,出现反复搜索同一 话题的刻板行为。

　　大部分战略认知地带的争夺发生在灰色地带,即介于极易受骗者分布的黑色地带 和极难欺骗者分布的白色地带之间的区域,所处灰色地带的人群容易被标题党和热点信息所吸引,面对社交媒体海量复杂信息时为了减轻认知负担,自动降低了对事实的思考分辨能力,给幕后操纵叙事者提供了机会。同时,社交机器人凭借日渐提升的集群网络涌现能力、意见领袖制造能力以及虚假民主营造能力,使得“信息茧房”变得更加封闭和坚实。