簡介
- OpenAI 封鎖了它評估為很可能源自俄羅斯的 ChatGPT 帳戶。
- 這些帳戶推廣了一個表面上的以色列機構，該機構以學者名義發布了抄襲的研究。
- 大多數貼文獲得的瀏覽量很少，但相關的 Telegram 頻道每個擁有高達 20,000 名訂閱者。
根據 OpenAI 於週三發布的報告，一個源自俄羅斯的網絡使用 ChatGPT 推廣一個自稱學術機構的組織。
OpenAI 表示，它封鎖了一組帳戶，這些帳戶的操作者使用俄語提示詞生成社交媒體貼文和評論，大部分是英語。他們還指示 ChatGPT 隱藏內容源自俄羅斯的跡象。
該公司寫道：“儘管該活動似乎覆蓋的受眾相對較少，但其精心構建使其有別於我們自烏克蘭戰爭開始以來破壞的其他與俄羅斯有關的影響力行動。”
由於 ChatGPT 在俄羅斯無法使用，OpenAI 表示該組織使用虛擬私人網路（VPN）來隱藏其位置並存取服務。
該組織利用 ChatGPT 推廣國際伯克研究所，該研究所聲稱是一個總部位於以色列的專家團體，透過看似官方的個人資料和冒充普通用戶的帳戶進行推廣。OpenAI 發現，其審查的該研究所網站上的 36 篇文章中有 34 篇是複製的，有些文章被歸功於並未撰寫這些文章的學者。
「其中一些文章已有數年歷史；其他文章則被歸功於錯誤的作者，」OpenAI 寫道。「例如，一篇關於中巴經濟走廊的文章似乎是從劍橋大學出版社的原創文章複製而來，但錯誤地歸功於諾丁漢大學的一位教授，其專業領域是南亞政治。」
類似的政治影響活動也使用了生成式 AI。
2024 年，OpenAI識別了一個名為 Doppelganger 的獨立俄羅斯相關活動。該網絡使用 ChatGPT 創建文章、社交媒體貼文和評論，讚揚俄羅斯並攻擊烏克蘭、北約和美國。
與俄羅斯有關的團體也利用 ChatGPT 進行網路行動。OpenAI 表示，與俄羅斯軍事情報有關的組織 Forest Blizzard使用該聊天機器人來研究目標、編寫腳本並支援網路釣魚攻擊。
雖然該組織可能使用了俄語提示詞，但 OpenAI 並未將 IBI 活動歸因於俄羅斯政府。
根據 OpenAI 的說法，以色列的一些人可能代表該機構參加會議或提交文章。但他們與該活動的關係仍不清楚。
OpenAI 寫道：「我們無法確定這些個人、IBI 與俄羅斯營運者之間的關係。」
