序言
今年是國(guó)內(nèi)生成式人工智能大發(fā)展的一年,國(guó)產(chǎn)大模型的技術(shù)水平已經(jīng)有了長(zhǎng)足的進(jìn)步,如零一萬物的Yi-Large、阿里的通義千問等大模型性能上逐漸步入國(guó)際一線行列。伴隨著技術(shù)的迭代與創(chuàng)新,生成式人工智能的應(yīng)用生態(tài)日益豐富,尤其在社交網(wǎng)絡(luò)領(lǐng)域,各類智能交互服務(wù)正以前所未有的速度融入人們的日常生活,重塑著信息傳播與人際交流的方式。
在社交網(wǎng)絡(luò)領(lǐng)域,人工智能回復(fù)機(jī)器人是生成式人工智能的一個(gè)典型應(yīng)用場(chǎng)景。現(xiàn)階段,人工智能回復(fù)機(jī)器人服務(wù)的用戶數(shù)和影響力目前都在快速提升階段,其輿論影響逐漸展現(xiàn)。
本文所指的人工智能回復(fù)機(jī)器人并不是傳統(tǒng)意義上批量發(fā)布評(píng)論的機(jī)器人水軍,也不涉及非開放式的對(duì)話場(chǎng)景的人工智能如ChatGPT、通義千問等。人工智能回復(fù)機(jī)器人(下文簡(jiǎn)稱為回復(fù)機(jī)器人)是指那些由社交網(wǎng)絡(luò)平臺(tái)自主研發(fā)或第三方機(jī)構(gòu)開發(fā),并獲得平臺(tái)認(rèn)可的智能體,它們能夠自主解析用戶發(fā)布的信息,包括但不限于文字、圖片和視頻,進(jìn)而生成符合情境的回復(fù),如安慰、鼓勵(lì)、信息補(bǔ)充或問題解答等。這些機(jī)器人通常不會(huì)主動(dòng)發(fā)起話題,而是基于用戶的需求或提及,例如微博的“評(píng)論羅伯特”、百度的“貼吧包打聽”以及快手的“AI小快”,它們的存在既豐富了社交網(wǎng)絡(luò)的互動(dòng)模式,也對(duì)公眾輿論的形成與發(fā)展產(chǎn)生了深遠(yuǎn)的影響。
因?yàn)槠浠貜?fù)內(nèi)容直接發(fā)表在社交網(wǎng)絡(luò)中,默認(rèn)全網(wǎng)可見,和普通的問答對(duì)話機(jī)器人相比更有可能會(huì)產(chǎn)生輿論影響力。在接下來的篇章中,我們將深入探討這些回復(fù)機(jī)器人會(huì)如何影響我國(guó)的輿論生態(tài),分析其背后的運(yùn)作機(jī)制,以及它們可能帶來的正面與負(fù)面影響,最終提出合理的監(jiān)管建議,以期在促進(jìn)技術(shù)創(chuàng)新的同時(shí),維護(hù)健康有序的網(wǎng)絡(luò)空間。
在深入探討回復(fù)機(jī)器人對(duì)輿論生態(tài)的影響之前,我們必須首先理解其技術(shù)基礎(chǔ)——大語言模型(Large Language Models, LLMs)。這些模型通過深度學(xué)習(xí)技術(shù),在海量文本數(shù)據(jù)上進(jìn)行訓(xùn)練,從而獲得了強(qiáng)大的自然語言處理能力。理解這些模型的能力和局限性,對(duì)于分析回復(fù)機(jī)器人在社交網(wǎng)絡(luò)中的表現(xiàn)至關(guān)重要。
大語言模型的能力
大語言模型在以下幾個(gè)方面表現(xiàn)出色:
· 語言理解:能夠理解復(fù)雜的語言結(jié)構(gòu)和上下文,捕捉語言的細(xì)微差別。
· 文本生成:可以生成流暢、連貫且符合語境的文本。
· 情感識(shí)別:能夠識(shí)別文本中的情感傾向,并做出相應(yīng)的回應(yīng)。
· 知識(shí)整合:具備廣泛的通用知識(shí),能夠在回答問題時(shí)融合多方面信息。
· 上下文適應(yīng):能夠根據(jù)對(duì)話歷史和當(dāng)前語境調(diào)整回復(fù)的風(fēng)格和內(nèi)容。
這些能力使得回復(fù)機(jī)器人能夠在社交網(wǎng)絡(luò)中進(jìn)行看似自然的對(duì)話,提供情感支持,回答問題,甚至參與到復(fù)雜的討論中。
大語言模型的局限性
然而,大語言模型也存在一些重要的局限性:
· 事實(shí)準(zhǔn)確性:模型可能產(chǎn)生"幻覺",即生成看似合理但實(shí)際上不準(zhǔn)確的信息。
· 推理能力:在需要復(fù)雜邏輯推理的任務(wù)中,模型的表現(xiàn)可能不如人類。
· 數(shù)學(xué)計(jì)算:對(duì)于需要精確計(jì)算的問題,模型的表現(xiàn)往往不夠理想。
· 時(shí)效性:模型的知識(shí)基于訓(xùn)練數(shù)據(jù),可能無法反映最新的信息和事件。
· 特定領(lǐng)域知識(shí):對(duì)于高度專業(yè)化或小眾的領(lǐng)域知識(shí),模型的理解可能不夠深入。
· 上下文理解限制:雖然模型能夠處理上下文,但對(duì)于長(zhǎng)期、復(fù)雜的對(duì)話歷史,其理解能力仍有限制。
在社交網(wǎng)絡(luò)應(yīng)用中的特殊挑戰(zhàn)
將大語言模型應(yīng)用于社交網(wǎng)絡(luò)的回復(fù)機(jī)器人時(shí),還面臨一些特殊挑戰(zhàn):
· 多樣性和不可預(yù)測(cè)性:社交網(wǎng)絡(luò)上的用戶輸入極其多樣,包含各種網(wǎng)絡(luò)用語、俚語和新詞,這對(duì)模型的理解能力提出了更高要求。
· 實(shí)時(shí)性要求:社交網(wǎng)絡(luò)互動(dòng)要求快速響應(yīng),這限制了模型進(jìn)行深度思考和推理的時(shí)間。
· 安全性和道德考量:模型需要避免生成不當(dāng)、有害或具有偏見的內(nèi)容,這需要復(fù)雜的過濾和安全機(jī)制。
· 個(gè)性化需求:不同的社交平臺(tái)和用戶群體可能需要不同風(fēng)格的回復(fù),這要求模型具有較強(qiáng)的適應(yīng)性。
· 輿論影響:由于回復(fù)內(nèi)容可能被廣泛傳播,錯(cuò)誤或不當(dāng)?shù)幕貜?fù)可能引發(fā)輿論風(fēng)險(xiǎn)。
“評(píng)論羅伯特”為微博官方推出的評(píng)論機(jī)器人,它能夠根據(jù)用戶發(fā)布的微博原帖內(nèi)容,生成具有安慰、鼓勵(lì)、肯定或調(diào)侃等多種情感色彩的回復(fù)。這種機(jī)器人的設(shè)計(jì)旨在通過情感共鳴,增強(qiáng)用戶與平臺(tái)的互動(dòng)。微博作為以訂閱模式為主的社交網(wǎng)絡(luò),普通用戶的發(fā)帖相對(duì)于算法推送制為主的平臺(tái)難以得到閱讀和互動(dòng),該回復(fù)機(jī)器人也是為了彌補(bǔ)這方面的不足。
“貼吧包打聽“一般為主動(dòng)提及后回復(fù)(用戶在回復(fù)帖子里@貼吧包打聽),生成的內(nèi)容一般為回答問題為主。
“AI小快”一般為主動(dòng)提及后回復(fù)(用戶在評(píng)論里@ AI小快),生成的內(nèi)容兼具回答問題、觸發(fā)AI功能(如幫助用戶繪圖等)
目前大部分機(jī)器人并不會(huì)主動(dòng)發(fā)表觀點(diǎn)。
回復(fù)機(jī)器人為新生事物,結(jié)合當(dāng)下AIGC、大語言模型的熱潮,其舉動(dòng)會(huì)帶來大量的輿論關(guān)注。
以微博 “評(píng)論羅伯特”為例,當(dāng)該類機(jī)器人回答不當(dāng)時(shí),會(huì)被大量傳播。特別是其中反差感強(qiáng)烈(不像傳統(tǒng)服務(wù)類機(jī)器人語言)、帶有“侮辱性”的回復(fù),因其流量屬性還會(huì)被其他營(yíng)銷號(hào)反復(fù)截圖轉(zhuǎn)發(fā),引發(fā)更大關(guān)注。
如圖為因 “評(píng)論羅伯特”回復(fù)不當(dāng)被截圖廣泛傳播的某案例。
同時(shí)我們觀察到發(fā)博內(nèi)容以@評(píng)論羅伯特 異常類回復(fù)為主的 微博賬號(hào)@羅伯特受害者聯(lián)盟,開博半年即迅速變?yōu)槲⒉┑念^部賬戶。目前已經(jīng)有521.7萬微博互動(dòng)數(shù)據(jù)。這也從側(cè)面說明該類信息被大量關(guān)注的情況。
類似的情況也出現(xiàn)在百度的“貼吧包打聽”上,一些錯(cuò)誤的回答在網(wǎng)絡(luò)上流傳,成為網(wǎng)民討論和嘲諷的對(duì)象。
因?yàn)檫@些錯(cuò)誤及其傳播情況,很多普通用戶對(duì)該類回復(fù)機(jī)器人持負(fù)面態(tài)度。同時(shí)一些新聞報(bào)道也有類似觀點(diǎn),如“微博官方推出的回復(fù)機(jī)器人,罵起人來比誰都狠”,“在評(píng)論區(qū)大殺四方,微博AI毒舌程度遙遙領(lǐng)先”等。
回復(fù)機(jī)器人顯著提升了社交平臺(tái)的用戶體驗(yàn)和互動(dòng)質(zhì)量。它們能夠24小時(shí)不間斷地提供即時(shí)回應(yīng),滿足用戶的互動(dòng)需求。通過分析用戶發(fā)布的內(nèi)容,這些機(jī)器人能夠生成個(gè)性化的回復(fù),增強(qiáng)用戶的參與感和歸屬感。在情感支持方面,機(jī)器人能夠識(shí)別用戶的情緒狀態(tài),提供及時(shí)的安慰和鼓勵(lì),特別是在用戶表達(dá)負(fù)面情緒時(shí)。這種情感陪伴功能在某種程度上填補(bǔ)了人際互動(dòng)的空白,為用戶提供了情感寄托。
下圖為回復(fù)機(jī)器人的情感支持案例。
從回答問題、獲取信息的角度來看回復(fù)機(jī)器人的作用更為復(fù)雜。對(duì)于一些常見問題,機(jī)器人能夠快速提供準(zhǔn)確的答案,提高了信息獲取的效率。但對(duì)于一些需要復(fù)雜推理、計(jì)算或較為小眾的知識(shí),回復(fù)機(jī)器人經(jīng)常會(huì)給出錯(cuò)誤答案。且由于其幻覺特點(diǎn),這個(gè)錯(cuò)誤答案往往會(huì)被包裝為“肯定、專業(yè)”的形態(tài),誤導(dǎo)用戶。
回復(fù)機(jī)器人在輿論形成和傳播過程中扮演著越來越重要的角色。由于這些機(jī)器人的回復(fù)往往直接、迅速,且容易引起注意,它們的言論很可能成為輿論的焦點(diǎn),特別是在熱點(diǎn)事件中。機(jī)器人的回復(fù)可能會(huì)引導(dǎo)公眾討論的方向,影響輿論的走向。例如,在一些社會(huì)熱點(diǎn)問題上,機(jī)器人的表態(tài)可能會(huì)被廣泛傳播,形成初始的輿論導(dǎo)向。
然而,這種影響也帶來了潛在的風(fēng)險(xiǎn)。由于大語言模型的局限性,機(jī)器人可能會(huì)生成不準(zhǔn)確或片面的信息。在專業(yè)性強(qiáng)或小眾的話題上,機(jī)器人的回答可能存在錯(cuò)誤或偏差。這些不當(dāng)?shù)幕貜?fù)一旦被廣泛傳播,可能會(huì)誤導(dǎo)公眾,影響輿論的準(zhǔn)確性。更嚴(yán)重的是,一些錯(cuò)誤或爭(zhēng)議性的回復(fù)可能會(huì)被截圖、轉(zhuǎn)發(fā),在社交媒體上引發(fā)更大范圍的討論,形成負(fù)面輿論風(fēng)暴。
在輿情風(fēng)險(xiǎn)方面,回復(fù)機(jī)器人帶來的挑戰(zhàn)尤為突出:
a) 輿論操縱風(fēng)險(xiǎn):
惡意用戶可能會(huì)利用回復(fù)機(jī)器人的特性來制造虛假輿論或放大某些觀點(diǎn),影響公眾認(rèn)知。例如,他們可能通過反復(fù)觸發(fā)機(jī)器人的特定回復(fù),制造某個(gè)觀點(diǎn)被廣泛支持的假象。在一些敏感話題或社會(huì)熱點(diǎn)問題上,這種操縱可能會(huì)造成嚴(yán)重的輿論偏差,影響社會(huì)穩(wěn)定。
b) 信息繭房效應(yīng)加劇:
回復(fù)機(jī)器人的算法可能會(huì)強(qiáng)化用戶的既有觀點(diǎn),加劇信息繭房效應(yīng)。由于回復(fù)機(jī)器人傾向于根據(jù)用戶的歷史互動(dòng)和偏好生成回復(fù),這可能導(dǎo)致用戶長(zhǎng)期接觸到與自己觀點(diǎn)一致的信息,減少接觸不同觀點(diǎn)的機(jī)會(huì)。長(zhǎng)此以往,可能會(huì)加深社會(huì)分化,不利于多元化討論和社會(huì)共識(shí)的達(dá)成。
c) 敏感話題處理不當(dāng):
在涉及政治、宗教、種族等敏感話題時(shí),機(jī)器人的回復(fù)可能會(huì)無意中觸及禁忌或引發(fā)爭(zhēng)議。由于這些話題的復(fù)雜性和敏感性,回復(fù)機(jī)器人可能難以準(zhǔn)確把握分寸,給出恰當(dāng)?shù)幕貞?yīng)。一旦出現(xiàn)不當(dāng)言論,可能會(huì)迅速引發(fā)大規(guī)模的負(fù)面輿論,甚至導(dǎo)致社會(huì)矛盾。
d) 突發(fā)事件應(yīng)對(duì)不足:
在社會(huì)突發(fā)事件或重大熱點(diǎn)話題討論中,回復(fù)機(jī)器人可能因缺乏最新信息或?qū)κ录?fù)雜性理解不足,而給出不恰當(dāng)?shù)幕貜?fù)。這可能會(huì)加劇輿論的混亂,誤導(dǎo)公眾對(duì)事件的理解,甚至干擾官方的信息發(fā)布和輿論引導(dǎo)工作。
e) 真實(shí)性識(shí)別困難:
隨著回復(fù)機(jī)器人技術(shù)的不斷進(jìn)步,用戶可能越來越難以區(qū)分人工回復(fù)和機(jī)器人回復(fù)。這種模糊性可能會(huì)影響信息的可信度判斷,使用戶更容易受到虛假信息的影響。長(zhǎng)期來看,這可能會(huì)削弱公眾的信息辨別能力,增加輿論被操縱的風(fēng)險(xiǎn)。
f) 用戶信任危機(jī):
如果回復(fù)機(jī)器人頻繁出現(xiàn)不當(dāng)或錯(cuò)誤回復(fù),可能會(huì)導(dǎo)致用戶對(duì)平臺(tái)和人工智能技術(shù)的信任度下降。這種信任危機(jī)不僅會(huì)影響平臺(tái)的聲譽(yù)和用戶粘性,還可能延伸到對(duì)整個(gè)人工智能行業(yè)的質(zhì)疑,阻礙相關(guān)技術(shù)的發(fā)展和應(yīng)用。
回復(fù)機(jī)器人在提升用戶體驗(yàn)和平臺(tái)活躍度方面具有顯著優(yōu)勢(shì),但同時(shí)也給輿論生態(tài)帶來了新的挑戰(zhàn)和風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)不僅涉及信息質(zhì)量和用戶體驗(yàn),更關(guān)乎輿論導(dǎo)向、社會(huì)穩(wěn)定和公眾認(rèn)知。因此,在充分利用人工智能技術(shù)提升社交網(wǎng)絡(luò)體驗(yàn)的同時(shí),我們需要高度重視其潛在的輿情風(fēng)險(xiǎn),采取有效措施進(jìn)行管理和規(guī)范,以維護(hù)健康有序的網(wǎng)絡(luò)輿論環(huán)境。
鑒于回復(fù)機(jī)器人對(duì)輿論生態(tài)的深遠(yuǎn)影響,在這里提出一些面向社交網(wǎng)絡(luò)主管部門的監(jiān)管建議,以確保其正面作用,減少負(fù)面影響:
1. 技術(shù)監(jiān)管與安全管控
督促社交網(wǎng)絡(luò)平臺(tái)持續(xù)優(yōu)化人工智能算法,提高機(jī)器人回復(fù)的準(zhǔn)確性和可靠性。建立實(shí)時(shí)監(jiān)測(cè)系統(tǒng),及時(shí)發(fā)現(xiàn)和處理不當(dāng)言論。特別是在敏感話題和突發(fā)事件中,應(yīng)當(dāng)設(shè)置更嚴(yán)格的審核機(jī)制,必要時(shí)可以暫時(shí)限制機(jī)器人在特定話題下的回復(fù)功能。
此外,要求平臺(tái)建立完善的數(shù)據(jù)安全保護(hù)體系,防止用戶數(shù)據(jù)被濫用或泄露,避免因數(shù)據(jù)問題導(dǎo)致的輿論風(fēng)險(xiǎn)。
2. 提升透明度與用戶識(shí)別
要求社交網(wǎng)絡(luò)平臺(tái)明確標(biāo)識(shí)機(jī)器人身份,讓用戶能夠輕松識(shí)別機(jī)器人的回復(fù)。這不僅有助于減少用戶對(duì)機(jī)器人回復(fù)的誤解,還能提升整體交互的透明度。
3. 建立多層次內(nèi)容審核機(jī)制
鼓勵(lì)平臺(tái)構(gòu)建人工智能自動(dòng)審核與人工審核相結(jié)合的多層次內(nèi)容審核機(jī)制。對(duì)于機(jī)器人生成的內(nèi)容,特別是涉及敏感話題或可能引發(fā)爭(zhēng)議的內(nèi)容,應(yīng)進(jìn)行更嚴(yán)格的審核。同時(shí),建立快速響應(yīng)機(jī)制,及時(shí)處理用戶舉報(bào)的不當(dāng)言論。
4. 建立輿情監(jiān)測(cè)與預(yù)警系統(tǒng)
利用大數(shù)據(jù)和人工智能技術(shù),建立針對(duì)回復(fù)機(jī)器人的專門輿情監(jiān)測(cè)系統(tǒng)。定期分析機(jī)器人回復(fù)對(duì)輿論走向的影響,建立風(fēng)險(xiǎn)預(yù)警機(jī)制,及時(shí)識(shí)別和應(yīng)對(duì)可能引發(fā)的輿論風(fēng)險(xiǎn)。
5. 促進(jìn)行業(yè)自律
鼓勵(lì)社交網(wǎng)絡(luò)平臺(tái)和人工智能企業(yè)成立行業(yè)協(xié)會(huì),制定行業(yè)標(biāo)準(zhǔn)和自律公約。通過行業(yè)內(nèi)部的相互監(jiān)督和經(jīng)驗(yàn)交流,不斷提高回復(fù)機(jī)器人的服務(wù)質(zhì)量和安全性。
6. 設(shè)立用戶反饋與干預(yù)機(jī)制
要求平臺(tái)為用戶提供便捷的反饋渠道,允許用戶對(duì)不當(dāng)?shù)臋C(jī)器人回復(fù)進(jìn)行舉報(bào)或反饋。同時(shí),賦予用戶更多控制權(quán),如允許用戶選擇是否接受機(jī)器人回復(fù),或調(diào)整機(jī)器人回復(fù)的頻率和類型。
7. 開展定期評(píng)估與公開報(bào)告
督促平臺(tái)定期對(duì)回復(fù)機(jī)器人的表現(xiàn)進(jìn)行全面評(píng)估,包括其對(duì)用戶體驗(yàn)、平臺(tái)生態(tài)和輿論環(huán)境的影響。要求平臺(tái)公開發(fā)布評(píng)估報(bào)告,接受公眾和監(jiān)管部門的監(jiān)督。
本文深入探討了人工智能回復(fù)機(jī)器人在社交網(wǎng)絡(luò)中的應(yīng)用及其對(duì)我國(guó)輿論生態(tài)的多層面影響。隨著國(guó)內(nèi)生成式人工智能技術(shù)的快速發(fā)展,這類回復(fù)機(jī)器人已成為社交平臺(tái)上一個(gè)新興且具有重要影響力的參與者。
從技術(shù)基礎(chǔ)來看,這些機(jī)器人建立在大語言模型的基礎(chǔ)之上,展現(xiàn)出強(qiáng)大的語言理解、文本生成和情感識(shí)別能力。然而,它們?cè)谑聦?shí)準(zhǔn)確性、復(fù)雜推理和特定領(lǐng)域知識(shí)方面的局限性也不容忽視。這些技術(shù)特性直接影響了機(jī)器人在社交互動(dòng)中的表現(xiàn),也決定了它們可能引發(fā)的輿論反響。
在實(shí)際應(yīng)用中,回復(fù)機(jī)器人如微博的“評(píng)論羅伯特”、百度的“貼吧包打聽”等,通過提供即時(shí)回應(yīng)、情感支持和信息補(bǔ)充,顯著提升了用戶體驗(yàn)和平臺(tái)活躍度。然而,它們也引發(fā)了一系列輿情風(fēng)險(xiǎn),包括信息準(zhǔn)確性問題、輿論操縱風(fēng)險(xiǎn)、信息繭房效應(yīng)加劇等。特別是在敏感話題和突發(fā)事件中,機(jī)器人的不當(dāng)回復(fù)可能引發(fā)大規(guī)模負(fù)面輿論,甚至影響社會(huì)穩(wěn)定。
針對(duì)這些挑戰(zhàn),本文提出了一系列監(jiān)管建議,包括加強(qiáng)技術(shù)監(jiān)管和安全管控、提升透明度、建立多層次內(nèi)容審核機(jī)制、構(gòu)建輿情監(jiān)測(cè)與預(yù)警系統(tǒng)、促進(jìn)行業(yè)自律等。這些措施旨在平衡回復(fù)機(jī)器人的積極作用與潛在風(fēng)險(xiǎn),確保它們能在促進(jìn)社交網(wǎng)絡(luò)互動(dòng)的同時(shí),維護(hù)健康有序的輿論環(huán)境。
展望未來,隨著人工智能技術(shù)的不斷進(jìn)步和監(jiān)管機(jī)制的逐步完善,回復(fù)機(jī)器人有潛力成為社交網(wǎng)絡(luò)中的重要資產(chǎn)。它們不僅能為用戶帶來更豐富、更個(gè)性化的社交體驗(yàn),還可能在信息傳播、輿論引導(dǎo)等方面發(fā)揮積極作用。然而,我們也需要保持警惕,持續(xù)關(guān)注和應(yīng)對(duì)它們可能帶來的新挑戰(zhàn)。
回復(fù)機(jī)器人代表了社交媒體與人工智能技術(shù)融合的一個(gè)重要趨勢(shì)。如何在發(fā)揮其優(yōu)勢(shì)的同時(shí)有效管控風(fēng)險(xiǎn),將是社交平臺(tái)、科技公司、監(jiān)管機(jī)構(gòu)和整個(gè)社會(huì)共同面臨的重要課題。只有在技術(shù)創(chuàng)新、用戶體驗(yàn)和社會(huì)責(zé)任之間找到平衡,我們才能真正實(shí)現(xiàn)人工智能技術(shù)在社交網(wǎng)絡(luò)中的價(jià)值,推動(dòng)網(wǎng)絡(luò)空間的健康發(fā)展。
蟻坊軟件輿情監(jiān)測(cè)系統(tǒng)試用》》
相關(guān)文章推薦:ChatGPT類生成式人工智能產(chǎn)品及技術(shù)對(duì)我國(guó)網(wǎng)信和輿情工作的影響淺析
(部分文字、圖片來自網(wǎng)絡(luò),如涉及侵權(quán),請(qǐng)及時(shí)與我們聯(lián)系,我們會(huì)在第一時(shí)間刪除或處理侵權(quán)內(nèi)容。電話:4006770986 負(fù)責(zé)人:張明)