根據OpenAI於8月25日發布的最新調查報告,該公司已全面封鎖多個涉嫌參與隱蔽網路認知戰的俄羅斯ChatGPT帳號。這份報告揭露了一個驚人的事實:俄羅斯操作者不僅利用AI大量生成社群貼文與留言,更透過一個自稱設於以色列的虛假智庫「國際伯克研究所」(International Burke Institute,IBI),試圖建立一套能夠長期擴張的認知戰基礎設施。換句話說,他們想打造的是一台「意見製造機」。
數據發現:俄羅斯網軍的AI操作手法
根據OpenAI的調查,這批被封鎖的帳號展現出高度組織化的運作模式。由於OpenAI的模型並未對俄羅斯開放,操作者不僅利用VPN規避地理限制,更下達了一個關鍵指令:AI在產出內容時必須「消除俄語痕跡」。報告顯示,這些經過偽裝的內容被廣泛散播至X、Facebook、LinkedIn、Telegram及Substack等各大社群與內容平台。從規模來看,這已經不是零星個案,而是系統性的操作。
「OpenAI的報告清楚點出了一個轉折:AI的威脅不再只是『生成假訊息』,而是『建立假的專業權威』。當一個虛構的智庫可以透過AI產出數百篇看似學術的文章,甚至設計出一個『主權指數』來包裝特定政治立場,傳統上我們用來判斷資訊可信度的指標——比如機構名稱、研究報告、專家背書——全部失靈。這才是現代資訊戰最棘手的地方。」
數據發現:虛假智庫的權威偽裝術
調查發現,這個被OpenAI鎖定的俄羅斯網軍行動,核心樞紐正是那個自稱設於以色列的「國際伯克研究所」(IBI)。但說穿了,這個所謂的智庫根本不存在於以色列——它只存在於網路上。為了提升欺騙性,該網軍在IBI網站上發布了大量抄襲或捏造來源的假學術文章,甚至建立了一個刻意吹捧俄羅斯的「主權指數」。這些AI生成的內容主要用來替假智庫導流並塑造專業權威的形象,藉此散布親俄言論,同時大肆貶抑烏克蘭、歐盟與西方國家。
從結構來看,這個操作模式分為三個層次:第一層是AI生成大量貼文與留言,直接影響社群平台的輿論風向;第二層是透過假學術文章建立「智庫」的專業形象,讓引用來源看起來更有說服力;第三層則是設計「主權指數」這類看似客觀的評比工具,把政治立場包裝成數據科學。三層疊加,構成了一套完整的認知戰體系。
數據發現:AI在現代資訊戰中的新角色
OpenAI在報告中警告,此事件凸顯了AI在現代資訊戰中的新角色。惡意行為者已不再僅僅依賴AI快速生成文字,而是將其做為建立虛假權威、掩蓋偏頗訊息來源的強大輔助工具。根據資安專家的分析,這種操作模式的危險之處在於:傳統的假訊息通常來自單一來源或單一平台,容易被追蹤與封鎖;但透過AI生成的內容可以同時出現在數十個不同平台,而且每則貼文的用字遣詞都略有不同,讓平台方的審查機制更難應對。
有趣的是,這份報告也暗示了一個更深層的問題:當AI模型的訓練資料本身就包含大量公開的學術文獻、智庫報告與新聞內容時,惡意行為者可以利用這些合法素材,快速生成「看起來很專業」的假內容。換句話說,AI讓製造虛假權威的成本大幅降低——過去要偽造一份智庫報告,可能需要聘請寫手、設計網站、甚至購買紙本印刷;現在只需要一串提示詞(prompt)就能搞定。
數據背後的啟示
從OpenAI這次的調查報告來看,我們至少可以得出三個關鍵結論。第一,認知戰已進入「AI驅動的規模化時代」。過去網軍操作需要大量人力,現在只要少數幾個人搭配AI工具,就能同時在多個平台、多種語言之間切換操作。第二,虛假權威將成為下一波資訊戰的核心武器。當讀者越來越習慣質疑「這則新聞是假的」,攻擊者轉而攻擊「這個機構看起來很專業」這個判斷基準——他們不直接騙你,而是先建立一個看起來很可信的「來源」,再透過這個來源慢慢影響你的判斷。第三,對一般讀者來說,未來的資訊判讀門檻只會更高。你不能只看「這篇文章是誰寫的」,還得追問「這個機構是真的存在,還是AI生成的虛擬門面」。
回到最根本的問題:當AI可以輕易偽造一個「專家」、一個「智庫」、甚至一套「研究指數」時,我們該如何判斷什麼是真的?也許答案不在技術面,而在於回歸最傳統的媒體素養——交叉比對、追蹤原始來源、對「太完美的數據」保持懷疑。這聽起來很老派,但在AI時代,老派的謹慎反而成了最稀缺的防禦能力。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
OpenAI發現的俄羅斯認知戰操作手法有哪些?
根據OpenAI調查,俄羅斯操作者主要透過VPN規避地理限制,利用ChatGPT大量生成社群貼文與留言,並下令AI在產出內容時必須「消除俄語痕跡」以掩飾真實身分。核心手法是透過虛假智庫「國際伯克研究所」發布抄襲或捏造來源的假學術文章,同時建立「主權指數」包裝親俄立場,再將內容散播至各大社群平台。
為什麼說AI正在改變現代資訊戰的規則?
因為AI不再只是「快速生成文字」的工具,而是被用來「建立虛假的專業權威」。惡意行為者可以利用AI大量產出看似專業的學術文章、研究報告與評比指數,讓假訊息有一個「看起來很可信」的來源背書,大幅降低製造虛假權威的成本,也讓平台方的審查機制更難應對。
一般讀者該如何判斷資訊來源是否可靠?
建議採取三個步驟:第一,交叉比對同一事件在不同媒體的報導;第二,追蹤原始來源的機構是否真實存在(例如查證其登記地址、負責人、歷史紀錄);第三,對「太完美的數據」保持懷疑,尤其是立場過度鮮明且缺乏反面論述的「研究報告」。在AI時代,回歸傳統的媒體素養反而成了最有效的防禦策略。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。