很難確保AI系統的安全，它們本質上就是個「黑匣子」。（图片来源: LIONEL BONAVENTURE/AFP via Getty Images）
【看中國2023年6月21日訊】（看中國記者程帆綜合報導）美國信息技術和創新基金會(Information Technology and Innovation Foundation)副主席卡斯托(Daniel Castro)警告，如果使用AI(人工智能)生成圖像，它既能開發電子遊戲，又可用來模擬戰爭運行。
為了能夠識別並應對來自中國AI對美國國家安全構成的潛在威脅，近幾個月來，白宮正在考慮採取新措施，以阻止美國公司(尤其是私募股權和風險投資公司)對中國尖端技術的投資及全面業務往來，例如AI、量子計算、5G和先進半導體等。
事實上，生成式AI技術的用途越來越廣泛，對於華盛頓而言，清晰區分哪些是北京當局用做發展軍事的，或哪些是企業用於商業目的，絕非易事。
據《華爾街日報》的報導，有研究人員舉例說，為計算機編碼設計的AI模型可以輕易被黑客拿來進行攻擊活動，而原本是幫助設計藥物的模型也會被利用生產新型化學武器。
喬治城大學(Georgetown University)研究人員近日發布了一份記錄美國在華AI領域風險投資的報告，稱美國半導體公司高通(Qualcomm)旗下的風投部門在2016年曾投資設立於北京的初創公司七鑫易維(7Invensun)，助其製造一種以AI驅動的眼球運動軌跡追蹤工具。
該項技術可用於虛擬現實眼鏡或其它消費領域產品，但也可能涉及軍事或安全用途，比如紅外面部識別相機、戰鬥機飛行員的培訓等。
研究員指出，已披露的公開消息顯示，七鑫易維同一家中共國防公司和空軍航空大學均有合作。
報告發現，從2015到2021年間，來自美國的投資總額達到74.5億美元，共參與了中國AI公司的401筆交易。
不過，想要禁止類似高通投資的行動，將會在表述與執行上頗為複雜。因為僅僅檢查特定AI的代碼未必就能確定它的性能和用途。而高端AI系統還可能涉及尤為繁複的計算過程，過程中會產生意想不到的結果，所以對系統輸出進行限制比較困難。
新美國安全中心(Center for aNew American Security)研究員菲斯特(Tim Fist)認為，很難確保這些系統的安全，它們本質上就是個「黑匣子」。
美國國家安全委員會(National Security Council)一名發言人近日表示，白宮正在完善即將發布的相關行政命令的細節。他說，「這是一個相當複雜的過程，我們希望確保把事情做對，而這需要一些時間。」
據路透社和美國之音先前的報導，上月底，美國財政部負責投資安全的助理部長羅森(Paul Rosen)在參議院作證時曾提到，對外投資審查將會「專注於對中國的關鍵高科技領域進行投資的美國資金的管制。」「這些投資可能被我們關注的國家所利用，為其軍方、情報能力和大規模監視服務。」所以我們將縮小范圍，量身定制。
研究員韋恩斯坦則指出，「對中國的任何投資都可能構成風險。聯邦政府需要決定的是他們能夠承擔多少風險，並在哪裡畫定界限。」
看完那這篇文章覺得
排序