中共用AI深偽科技製造「深偽主播」播報親中共、貶抑美國的報導。（圖片來源：推特）
【看中國2023年9月8日訊】（看中國記者楊天資綜合報導）人工智能（AI）無限制的發展帶來巨大隱患，據路透社報導，微軟（Microsoft）研究人員在9月7日一份新報告披露，中共控制的社交媒體假帳號利用生成式人AI技術操弄有政治色彩的內容，企圖煽動和影響美國選民的不安情緒。中共發展深偽科技，也早已引發國際關注。
微軟：中共用AI操縱社交媒體 煽動美國選民不安情緒
據路透社報導，微軟（Microsoft）研究人員在9月7日一份新報告上指出，他們發現，今年3月以來，據信由中共官方控制的社群媒體假帳號網絡，就利用生成式人工智慧（AI）技術操弄有政治色彩的內容，企圖煽動和影響美國選民的不安情緒；這些社群媒體帳號為疑似中共資訊戰行動的一環，其活動和美國司法部所指「（中共）公安部內的一個精英小組」的活動相類似。
微軟表示，中共在社交平台假帳號網絡的活動，從2023年3月左右開始使用生成AI技術，用英語創造帶有政治色彩的內容，並「模仿美國選民」。微軟研究人員並未具體指出受影響的社交媒體平台，但報告螢幕截圖顯示摘自臉書和推特（現為X）的貼文。
微軟研究人員表示，比起中國假帳號在先前競選活動中所使用的笨拙視覺效果，這些生成式AI創造的新內容「更引人注目」；中國假帳號過去視覺效果主要依賴數位繪圖、庫存照片拼貼和其他手工圖形設計。
這份研究報告以一張中國帳號張貼的AI生成影像為例，該影像描繪自由女神像手持突擊步槍，並配上說明字幕：「一切都被扔掉了。暴力女神。」
微軟發言人表示，被認出來的中國假帳號透過將其公共位置列為美國境內、張貼美國政治口號、分享相關於國內政治議題的標籤，試圖讓自己看起來是美國人。
報導稱，此報告凸顯社交媒體環境極度令人擔憂的，而美國人正準備進入2024年總統大選。美國政府指控俄羅斯以隱蔽社群媒體活動暗地干預2016年大選，並警告中國、俄羅斯和伊朗後續試圖影響選民。
中國上百家科技公司申請開發「深度偽造（deepfake）」技術
中共國家互聯網信息辦公室去年底制定「深度偽造（deepfake）技術使用規則」，據了解，包括華為、阿里巴巴等110家中國科技公司都已提出申請，要求批准他們發展可用於操縱視覺和音頻數據的模型。中共發展深偽科技，也早已引發國際關注。
美國OpenAI公司今年推出功能強大的聊天機器人ChatGPT後，立刻爆紅，更吸引多家中國科技公司投入開發。包含百度和商湯科技等5家公司8月30日獲得政府批准後，已向公眾推出AI聊天機器人。
「深度偽造（deepfake）」與聊天機器人不同的是，聊天機器人是根據用戶的提示，生成全新的文本、圖像和音頻。深度偽造則使用AI技術，生成與原始數據幾乎無法區分的視覺和音頻數據，很容易被用在操縱或提供假訊息。
美國社群媒體分析公司Graphika今年２月7日就談到，名為 《狼新聞（Wolf News）》的虛構新聞媒體，以AI深度偽造2個新聞主播，播報親中共、貶抑美國的相關報導，被認為與中國政府有關。
從影片中可看到，自稱艾利克斯（Alex）的虛構男主播，批評美國對困擾該國的槍枝暴力不作為；另一段影片中，虛構女主播則強調美中「大國合作」的重要性。
Graphika副總裁史塔布斯（Jack Stubbs）表示，「這是我們首次看到與國家結盟的行動，使用AI生成的虛構人物影片，來創建欺騙性的政治內容。」
AI恐讓虛假訊息「進化」
由美國人工智慧研究實驗室OpenAI推出的聊天機器人ChatGPT在去年問世後，隨即掀起熱潮，更被視為人工智慧重大突破。生成式人工智慧（generative AI）發展快速，輸出複雜的文章、並配合文本創造圖像，雖然加大方便程度，但明年美國、英國、印度、印尼、墨西哥、台灣等多個國家即將舉行選舉，AI的迅速發展也使得人們擔憂，在選舉前，虛假訊息宣傳活動可能會加劇。
《經濟學人》報導認為，AI的確有可能會使虛假訊息「進化」。到了2024年，大型語言模型可能會使得虛假訊息的數量出現變化，而當假訊息數量增為上千倍甚至10萬倍，就可能會說服人們做出不同投票決定；另外，在生成式AI的幫助下，虛假訊息的品質也會出現變化，虛假聲音、照片、影片被揭穿前，超現實的「深度偽造」（deepfakes）可能影響選民；第三個可能出現的變化則是精準投放（microtargeting），選民可能會被量身打造的大規模宣傳淹沒，宣傳機器人網絡可能比現有的虛假訊息運作更難被發現。
錯誤訊息傳播的社群媒體平台及人工智慧公司表示正關注風險，美國人工智慧研究實驗室OpenAI表示，它將監控使用情況，嘗試檢測政治影響操作。
