content

微軟:中共用AI操縱社媒 煽動美國選民不安情緒(圖)

 2023-09-08 02:56 桌面版 简体 打賞 3
    小字

中共 AI狼新聞 深偽主播 播報親中共貶抑美國的報導
中共用AI深偽科技製造深偽主播播報親中共、貶抑美國的報導。(圖片來源:推特)

【看中國2023年9月8日訊】(看中國記者楊天資綜合報導)人工智能(AI)無限制的發展帶來巨大隱患,據路透社報導,微軟(Microsoft)研究人員在9月7日一份新報告披露,中共控制的社交媒體假帳號利用生成式人AI技術操弄有政治色彩的內容,企圖煽動和影響美國選民的不安情緒。中共發展深偽科技,也早已引發國際關注。

微軟:中共用AI操縱社交媒體 煽動美國選民不安情緒

據路透社報導,微軟(Microsoft)研究人員在9月7日一份新報告上指出,他們發現,今年3月以來,據信由中共官方控制的社群媒體假帳號網絡,就利用生成式人工智慧(AI)技術操弄有政治色彩的內容,企圖煽動和影響美國選民的不安情緒;這些社群媒體帳號為疑似中共資訊戰行動的一環,其活動和美國司法部所指「(中共)公安部內的一個精英小組」的活動相類似。

微軟表示,中共在社交平台假帳號網絡的活動,從2023年3月左右開始使用生成AI技術,用英語創造帶有政治色彩的內容,並「模仿美國選民」。微軟研究人員並未具體指出受影響的社交媒體平台,但報告螢幕截圖顯示摘自臉書和推特(現為X)的貼文。

微軟研究人員表示,比起中國假帳號在先前競選活動中所使用的笨拙視覺效果,這些生成式AI創造的新內容「更引人注目」;中國假帳號過去視覺效果主要依賴數位繪圖、庫存照片拼貼和其他手工圖形設計。

這份研究報告以一張中國帳號張貼的AI生成影像為例,該影像描繪自由女神像手持突擊步槍,並配上說明字幕:「一切都被扔掉了。暴力女神。」

微軟發言人表示,被認出來的中國假帳號透過將其公共位置列為美國境內、張貼美國政治口號、分享相關於國內政治議題的標籤,試圖讓自己看起來是美國人。

報導稱,此報告凸顯社交媒體環境極度令人擔憂的,而美國人正準備進入2024年總統大選。美國政府指控俄羅斯以隱蔽社群媒體活動暗地干預2016年大選,並警告中國、俄羅斯和伊朗後續試圖影響選民。

中國上百家科技公司申請開發「深度偽造(deepfake)」技術 

中共國家互聯網信息辦公室去年底制定「深度偽造(deepfake)技術使用規則」,據了解,包括華為、阿里巴巴等110家中國科技公司都已提出申請,要求批准他們發展可用於操縱視覺和音頻數據的模型。中共發展深偽科技,也早已引發國際關注。

美國OpenAI公司今年推出功能強大的聊天機器人ChatGPT後,立刻爆紅,更吸引多家中國科技公司投入開發。包含百度和商湯科技等5家公司8月30日獲得政府批准後,已向公眾推出AI聊天機器人。

「深度偽造(deepfake)」與聊天機器人不同的是,聊天機器人是根據用戶的提示,生成全新的文本、圖像和音頻。深度偽造則使用AI技術,生成與原始數據幾乎無法區分的視覺和音頻數據,很容易被用在操縱或提供假訊息。

美國社群媒體分析公司Graphika今年2月7日就談到,名為 《狼新聞(Wolf News)》的虛構新聞媒體,以AI深度偽造2個新聞主播,播報親中共、貶抑美國的相關報導,被認為與中國政府有關。

從影片中可看到,自稱艾利克斯(Alex)的虛構男主播,批評美國對困擾該國的槍枝暴力不作為;另一段影片中,虛構女主播則強調美中「大國合作」的重要性。

Graphika副總裁史塔布斯(Jack Stubbs)表示,「這是我們首次看到與國家結盟的行動,使用AI生成的虛構人物影片,來創建欺騙性的政治內容。」

AI恐讓虛假訊息「進化」 

由美國人工智慧研究實驗室OpenAI推出的聊天機器人ChatGPT在去年問世後,隨即掀起熱潮,更被視為人工智慧重大突破。生成式人工智慧(generative AI)發展快速,輸出複雜的文章、並配合文本創造圖像,雖然加大方便程度,但明年美國、英國、印度、印尼、墨西哥、台灣等多個國家即將舉行選舉,AI的迅速發展也使得人們擔憂,在選舉前,虛假訊息宣傳活動可能會加劇。

《經濟學人》報導認為,AI的確有可能會使虛假訊息「進化」。到了2024年,大型語言模型可能會使得虛假訊息的數量出現變化,而當假訊息數量增為上千倍甚至10萬倍,就可能會說服人們做出不同投票決定;另外,在生成式AI的幫助下,虛假訊息的品質也會出現變化,虛假聲音、照片、影片被揭穿前,超現實的「深度偽造」(deepfakes)可能影響選民;第三個可能出現的變化則是精準投放(microtargeting),選民可能會被量身打造的大規模宣傳淹沒,宣傳機器人網絡可能比現有的虛假訊息運作更難被發現。

錯誤訊息傳播的社群媒體平台及人工智慧公司表示正關注風險,美國人工智慧研究實驗室OpenAI表示,它將監控使用情況,嘗試檢測政治影響操作。

 

来源:看中國 --版權所有,任何形式轉載需看中國授權許可。 嚴禁建立鏡像網站。
本文短網址:


【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。

分享到:

看完那這篇文章覺得

評論

暢所欲言,各抒己見,理性交流,拒絕謾罵。

留言分頁:
分頁:


x
我們和我們的合作夥伴在我們的網站上使用Cookie等技術來個性化內容和廣告並分析我們的流量。點擊下方同意在網路上使用此技術。您要使用我們網站服務就需要接受此條款。 詳細隱私條款. 同意