從 ChatGPT 談如何反制資訊認知戰

[ 漫談 - 從 ChatGPT 談到資訊認知戰,以及如何反制 ]

今天工作時再次發現 ChatGPT 好用的地方。

我們在寫論文探討AI跟機器人的問題的時候,在研究動機中常常要找大眾媒體佐證,但一些重要媒體的英文常常又拗口又冗長,我真的懶得一篇一篇看完。

剛剛靈機一動,直接把一堆紐約時報跟華盛頓郵報的新聞灌到 ChatGPT 中(只要標題看起來有關,就不管三七二十一,全部灌進去),然後直接下指令要 ChatGPT "Find all negative quotes about AI or robot from these news articles."

五秒鐘,AI就直接幫我把新聞裡批評機器人的二十幾個地方全部找出來,還附加說明,解釋每一條各是批評AI/機器人的什麼層面。

以前瘋狂找新聞、讀新聞,平常看到有用的新聞段落也要馬上蒐集起來的辛苦功夫,現在彈指間就完成了。

但這也讓我忍不住想到,這也顯示了科技太方便的一個潛在危險:因為太好用太便利了,你以為找到的東西就是真實世界,但不知道你給的命令或關鍵字裡面已經包含了你的價值觀:你想看到負面的批評,你就只會看到負面的批評,然後你就以為這是真實世界——事實上是,世界上新聞何其多,你要找什麼立場的都找的到,科技只是幫你篩選,呈現了你的意識形態想看到的那個平行宇宙。

(比如有人的平行宇宙就是全世界只有台灣缺蛋。但是隨便搜尋一下就可以發現,第一個是台灣沒有真的缺蛋,你家旁邊全聯沒蛋不代表全台灣缺蛋,就像你沒腦不代表全台灣沒腦一樣。

第二個是,全世界的蛋價都飆漲啊,Google 用英文搜尋蛋價,就跳出來一大堆各國新聞。CBS今年一月中的熱門新聞標題就是 "Egg prices have soared 60% in a year." 美國是一下漲了六十趴耶,我們茶葉蛋有漲這麼多嗎?這群沒有國際觀的巨嬰可不可以拜託去學英文看一下國外的新聞?)

為什麼這幾年假訊息跟資訊認知戰會變得這麼猖狂呢?這過程想想其實很有趣。工業革命之前,除了少數知識分子之外,全世界的人都住在自己的同溫層中。而後報紙跟廣播電視的發明,讓大家第一次有了資訊跟知識的世界觀。但奇妙的是,隨著網路與行動裝置的發展,廣播變成隨選隨聽的podcast,電視變成隨選隨看的 Netflix 與各個分眾 Youtube頻道,還有依照個人喜好推送內容的 Facebook, Twitter, Tiktok。結果,我們隨著科技進步,反而再一次倒回到了只有同溫層的時代。

可怕的是,工業革命之前,我們知道自己的同溫層就是同溫層而已,我們想像外面還有一個自己不理解的大千世界。

但現在很多人誤以為同溫層就是全世界。一些以往覺得荒謬的思想,比如陰謀論、反疫苗、甚至最近台灣越來越多奇怪的反美論述,就在這樣的科技暗角裡慢慢滋生。

而下一波的 AI,只會讓這情況更加嚴重。像 ChatGPT 這麼方便的內容製造 AI,我們當然可以用在寫研究論文這樣的正面領域,但是訊息認知戰的工廠也當然不會放過這個好用的工具。各種攻擊——像是偽造誇張故事來吸引人的注意力掩蓋重要新聞、像是地毯式搜索過去言論來攻擊一個政治人物言行不符、甚至像是列舉毫不相關的事情,但卻操弄語氣,讓人讀起來像是政府無能的證據——這些都是傳統手法,但是在很近的未來,有心人士很可能就會大量引進AI,讓這些攻擊更自動化、電腦化,只需要很少的人力,就可以產生大量錯假新聞,對各種同溫層各個擊破,癱瘓一個社會。

我當然不會說因此我們必須拒絕AI:歷史上來說,科技浪潮是擋不住的,其實沒有我們選擇的餘地。手機造成很多人開車過馬路分心,但我們不可能倒回去大家等紅燈時什麼都不做,就傻傻盯著紅燈的時代。科技會來就是會來,絕對會帶來好處,但——很抱歉要打臉科技樂觀主義信徒,但在人類科技發展史上沒有例外的是——科技絕對也會帶來更多新的問題。

該怎麼因應呢?

困難的是,民主自由國家沒有太多選擇,僅有的有效選項,都是巨大的社會工程:包括資訊的透明化,還有透過教育讓人有正確的認知,包括世界與在地的局勢與文化歷史、自然與社會科學的各種知識、媒體跟資訊的辨識與判讀、還有對民主政治的認識與價值觀。

但同時也令人樂觀的是,這些社會工程雖然困難,但他們是面對所有挑戰的 panacea —— 只要具備這些,就不會被千奇百怪、層出不窮的新招數欺騙。就不需要每次有新一波的訊息戰,我們又要見招拆招,疲於奔命。

我想這就是許多人為什麼一直持續分享自己的想法,一直不斷地試圖跟更多人溝通的初衷:在一個民主國家,只有社會更好,更有知識與韌性,我們才會一起共好。我也是秉持著這樣的信念,才會常常分享我對新聞或是科技的想法,我也在這個過程裡學到很多。

當然,面對資訊認知戰,除了(國家層面的)透明化跟教育的大戰略之外,也有一些(公民自主層面的)小戰術,只要夠多人參與,就會有一些反制的機會:

如果你看到一連串你不太同意的留言或討論,請記得,不用花太多時間下去戰,但也要克制人類天生想避開異溫層的本能。我們應該勇敢但不失禮貌地直接下去留言:「我跟這裡大家想法不太一樣耶,我覺得OOOOOO。」

這樣就好,然後就離開戰場,不要浪費時間跟不認識的人筆戰,更不要讓網軍的攻擊性回覆影響你的心情 —— 即使收到有人回覆的通知,也不用點進去看內容,就繼續做你下一件事就好。

這是反制網軍CP值最高的做法。看起來只是一則留言而已,但這小小的行動已經足夠瓦解網軍想要製造的「大家都這麼想」的假象,從根本破壞他們想要塑造的風向。根據心理學的研究,只要一面倒的風向中有一個不同的聲音,之後的讀者就比較不容易被風向帶著跑,而比較有可能做出自己理性的判斷。

當然,如果你看到別人這種勇敢的留言,記得點個讚,當作彼此的打氣與鼓勵。也順便讓這樣的留言有機會被演算法選中,讓更多人看見。

一段時間之後,我相信大家就會開始感覺到這麼做的力量。

二二八要到了,網軍跟公關公司又要蠢蠢欲動。我們會有很多機會,可以實際應用這套打帶跑戰術,化被動為主動。

網軍跟公關公司再多,也不會有台灣人民多。每個人只要一天發一兩則回覆,絕對就能造成有效的制衡。

政府有政府能做的部分,而在那之外,就是我們展現公民力量的時候了。

* 圖片來自於 Midjourney 的 AI 算繪

< 資料來源:侯宗佑Facebook引用網址 >
分享文章:

作者 侯宗佑

侯宗佑
康乃爾大學資訊科學博士班,研究機器人與AI的互動與UX設計,也關心政治時事與世界趨勢。

最新文章: