AI的最大隱患是「深度造假」

▲這是用AI生成的圖片,令人真假難辨。Adobe Stock
第246期
程帆

隨著各式各樣人工智慧(AI)工具的出現,許多看起來似乎十分真實但實際卻是假的圖片和影片越來越普遍了。

微軟公司總裁史密斯(Brad Smith)5月時表示了對AI的最大憂慮,就是「深度造假」(Deep Fakes)的問題。史密斯呼籲,人類需要採取行動以阻止合法的內容被篡改,並確保人們能夠判斷照片或線上音像片段的真實性。他還督促美國聯邦政府設立新的監管機構,專門應對聊天機器人ChatGPT等生成式AI應用程式,承擔起「保護網路安全和國家安全的義務」。

微軟計畫在未來幾個月內增加一項功能,讓所有人都能識別由繪圖工具「影像建立者」(Bing Image Creator)和「微軟智慧設計」( Microsoft Designer)生成的產品圖像是否由AI生成。

但為了防範和杜絕這些「假藝術品」會被惡意利用,導致虛假資訊傳播,微軟採取了主動措施,「新功能將使用密碼學方法對AI合成的產品作出標記和簽名,並附上有關其來源的中繼資料資訊」。

史密斯還提出,相關政府機構需要對那些用於控制電網、供水或其他關鍵基礎設施的AI進行安全制動設置,以便人類能夠隨時駕馭這些工具。

由微軟資助的ChatGPT開發商OpenAI公司首席執行長奧特曼(Sam Altman)也示警:「需要對AI進行監管!」他指出,一旦AI技術出了問題,後果將相當嚴重,並可能影響2024年的美國總統大選。

奧特曼稱,從長遠來看,制定法規、標準及監管都是非常明智的,它將確保我們從AI技術中盡可能選取好的用處,同時盡量減少不利因素。他也奔走於歐洲國家,呼籲各國政府在AI安全合規方面進行全球合作。

谷歌5月也表示,將確保其出產的每一張AI圖片都內嵌浮水印,雖無法以肉眼識別,但若用谷歌搜尋引擎等軟體就可以讀取並顯示出標籤。

你可能會有興趣的文章

中國通脹率達11年新高
據中國國家統計局公布的數字,中國1月消費者價格指數CPI達到了7.1%的11年高點。而2月比去年同期上漲8.7%,再創新高。…
政府無心,香港樓市再掀炒風
為打壓樓市,北京在4月中旬祭出「國10條」(全名為:《國務院關於堅決遏制部分城市房價過快上漲的通知》國發〔2010〕10號),在「百日維新…
令人心痛:我們這一班集體染毒
最近,看到電視播報一則令人怵目驚心的新聞:高雄某高職夜校女學生全班40名同學中,竟然有30位集體吸毒。盯著螢幕上的畫面,我不禁深思:…
拜訪台松煤礦輕便道 尋找消失的光陰故事
煤礦,曾經支撐了台灣的經濟發展。隨著開發成本不斷提升,一條條深入地底的坑道,陸續荒廢。在旅人曾造訪過的侯硐、瑞芳等地,因應當地觀光發展,…
古人的遊說術
自我推銷是成功必要的環節。如何把自己賣出去,而且賣個好價錢,是立身於世的必備技能。攀龍附鳳固然趨之下流,且看戰國時代的縱橫家,…
澳門「戒嚴」?港人入境也遭拒
澳門當局最近接二連三拒絕香港記者、法律教授、民主派議員入境,引起香港方面強烈反彈。 港媒認為,這和澳門最近在進行〈基本法23條〉…
人生無常 起居有常
一接到親朋好友的惡耗,尤其是不在天年之時,總會驚愕地大嘆:「人生無常!」佛陀言:「諸行無常。」往生權操控在上蒼,只能說是無常,…
狗年降臨,美中關係「汪汪叫」
中國新年將至,狗年來臨,中美關係會如何發展?各種跡象顯示,美中關係今年將是「汪汪聲」不斷,因為兩國潛在的對抗因素會增加、增強,…