社交機器人

出自 MBA智库百科(https://wiki.mbalib.com/)

　　社交機器人是基於電腦網路演算法，通過模擬真實的用戶行為，在社交網路上發佈相關內容，與其他用戶互動，並且可以呈現出一定的情感特征和人格屬性的智能形象。^[1]

　　社交機器人並非新概念,其最早與電腦系統一同誕生於20世紀六七十年。在技術與社交媒體的新背景下，該概念泛指基於社交媒體平臺，通過大數據和演算法技術進行自動化內容生產和模擬人際交往互動、情感勞動的程式化智能體。

　　其功能涉獵信息傳播、數據調研獲取、模仿人類聊天社交、提供新聞報道等方面。目前在社會輿論引導、國際傳播、健康傳播中都可見社交機器人的應用。 Twitter數據顯示，目前社交網路上有2300萬的活躍賬戶實際上是社交機器人,其已經成為社交媒體中重要的內容生產與傳播動力。

　　一方面，社交機器人對社會信息有強大的協調功能，另一方面,它也能通過發佈謠言、偏向性文本，與大量真實用戶建立聯繫，影響輿論、妨礙公眾正確認知客觀事物、威脅民主政治合理性,獲得非法利益。因此,對於社交機器人的規制也是未來網路治理重要方向，不僅應從政策、平臺等多方角度對其存在問題進行治理，更應讓人文性成為社交機器人的內容邏輯。

　　隨著人工智慧技術的發展，機器人早已屢見不鮮。那麼，社交機器人與這些普通的機器人有什麼區別呢？主要在它的“社會性”。

　　社交機器人具有高度擬人化的特征。從表徵層面來說，社交機器人能夠進行基本的語言和非語言交流；從進階層面來說，社交機器人甚至具有自主化意識和情感精神世界，能夠和人們進行精神互動。

　　高山冰老師認為，關於社交機器人的研究，最初主要落在具體的行為層面上，比如轉發、回覆等；後來延伸到影響更為廣泛的認知和態度層面，即分析社交機器人和人類用戶在信息發佈的主題以及情感上的差異。

1、生成內容不可預測且虛假信息識別難度加大

　　生成式人工智慧除了在文本自動生成方面取得了重大進展,在圖像領域,已被用於生成與真實照片難以區分的圖像;在音頻領域,生成式人工智慧能夠以普通話、地方話,甚至利用口語生成音頻;在視頻領域,生成式人工智慧獲取用戶提示後,構建複雜演算法模型創建 符合用戶需求的視頻,其中3D場景、人物和對象都是完全虛構的。

　　生成式人工智慧技術的持續迭代升級, 社交機器人採用自然語言處理、深度學習和機器學習能夠更加容易地編造虛假信息、深度偽造圖片和合成音視頻,內容與真實人類用戶相似度更高,這些都加大了對社交機器人發佈的虛假信息鑒偽工作的難度。

　　生成式人工智慧通常被視為黑盒模型,因為其內部的複雜演算法和不可預測性使得很難推測模型將如何響應特定的輸入。因此,生成式人工智慧自身幻覺 (Hallucination)風險生成的似是而非的不符合現實的誤導性信息,降低了輿情傳播的準確性和可靠性。

　　同時,為了獲取受眾的吸引力賺取流量或者為了實現特定的政治目的,社交機器人傾向於傳播負面、容易產生爭議、具有煽動性的話題,而且帶有偏見性的訓練數據還會加劇社交媒體信息迷霧的生成,撕裂公眾原有的社會共識,給國家安全帶來危害。

2、社交機器人行為分析以及媒體信息追蹤溯源難度加大

　　在生成式人工智慧技術應用在社交機器人之前, 其行為特征具有一定的可識別性。比如以社交媒體涉華新冠病毒議題為例,通過對比社交機器人和人類用戶在發文主題上的特征和策略,能夠查明社交機器人對社交媒體用戶意識形態的引導和操縱的政治化行為方式。

　　以國際社交平臺推特上社交機器人對中國新冠疫苗的議題參與問題,分析其內容特征、形象管理策略以及與人類互動特征,能夠研究社交機器人的參與模式,利用深度學習模型整合社交機器人的行為特點、習慣特征、行為態度,推理其隱性意圖。

　　但是,社交機器人利用生成式人工智慧來自人類反饋的強化學習能力進行訓練後,更新參數以產生越來越高質量的回答,並且會承認錯誤、修複自己的答案,具有重新思考的能力,指令人工智慧發送消息時有一個 0. 3 秒/ 字元的延遲,輸出時犯拼寫、語法和大小寫錯誤,這樣就更像人類打字的過程。社交機器人更加近似真實人類的行為使得對其行為識別和意圖推理分析更為艱難。

　　由於生成式人工智慧提升了社交機器人的自然語言理解和處理能力,在對用戶畫像的基礎上使其能夠更加充分的掌握用戶的意圖,以更接近人類的思維方式響應社交媒體用戶的需求,與用戶進行轉發、評價、回覆和點贊等互動,使得社交機器人與人類的行為差別更小,對社交機器人的行為分析和識別變得更加困難。

　　由於訓練數據數量巨大且來源十分廣泛,社交機器人會選擇性、針對性的投放虛假信息,經過網站的交叉引用或不同類型社交媒體領袖KOL( Key Opinion Leader)的相互轉發,容易混淆信息來源,增加信源查證的難度 ,通過傳播難以溯源的“半”可新信息操縱和破壞情報源,給準確追蹤和驗證內容的起源帶來極大的挑戰。

　　3、破解“信息繭房”的難度加大

　　人工智慧技術給應對和破解“信息繭房”工作帶來的挑戰主要體現在三個方面:

　　一是生成式人工智慧減少了社交機器人開發過程中的訓練數據需求,縮短了開發周期,降低了維護和升級成本,更容易開發和部署社交機器人,也使得大 規模利用和部署社交機器人成為可能。

　　龐大數量的社交機器人以集體方式與大眾、政治組織、媒體和其他社交機器人共同實施話語互動實踐,通過組織化傳播對輿論生態中的話語權進行爭奪,共同推送相同內容 信息以阻礙不同觀點的流通,從而引導和掌控受眾的 態度和意見。

　　二是社交機器人依托以ChatGPT為代表的預訓練基礎模型,展現出越來越成熟的時序邏輯梳理、策略規劃和生成能力,快速生成包括投放對象、投放內容、 投放順序等要素在內的社交媒體宣傳方案,通過人機協同機制迭代完善生成更明智、更有效的投送策略,實現優化後的精準投送。通過使“投喂”內容與用戶精確匹配形成“信息繭房”,讓用戶看到他們想看的內容,造成用戶的思想和觀點趨於固化或極化。

　　三是社交機器人通過違規收集的用戶隱私信息, 瞭解用戶關註和偏好,使用演算法推薦技術精準投放虛假信息,使用戶陷入信息繭房效應,出現反覆搜索同一 話題的刻板行為。

　　大部分戰略認知地帶的爭奪發生在灰色地帶,即介於極易受騙者分佈的黑色地帶 和極難欺騙者分佈的白色地帶之間的區域,所處灰色地帶的人群容易被標題黨和熱點信息所吸引,面對社交媒體海量複雜信息時為了減輕認知負擔,自動降低了對事實的思考分辨能力,給幕後操縱敘事者提供了機會。同時,社交機器人憑藉日漸提升的集群網路涌現能力、意見領袖製造能力以及虛假民主營造能力,使得“信息繭房”變得更加封閉和堅實。