AI恐成人類最後的技術發明

▲人們享受著AI帶來巨大益處的同時,另一方面也存在AI可能失控而使人類遭到反噬的風險。Adobe Stock
第258期
青蓮

AI(Artificial Intelligence,人工智慧)的出現為人類帶來了前所未有的變革和衝擊。一方面,人們享受著人工智慧帶來的巨大益處;另一方面,AI可能失控而使人類遭到反噬的風險。

札克‧卡斯(Zack Kass)曾經是OpenAI的創始員工,擔任市場推廣的高階主管。他曾經預言:「AI恐怕是人類最後一項技術發明。」因為未來AI會代替人們的商業、文化、醫學、教育等職業和專業,未來人們的工作機會將會減少,生活起居基本上都由AI掌控。

從一個執行人類指令的AI機器人,到能掌控人類,甚至演變成取代人類的新物種,當AI具有生存意識時,人類面臨的將是一場滅頂之災。

AI已經學會了操縱、欺騙

原本人們以為這一天還很遠,但誰也沒想到一切來得那麼快。先前AI研究專家預測,AI在20年後才會產生「科技奇點」(Technological Singularity)或通過「圖靈測試」(Turing Test)。「科技奇點」認為人類正在接近一個使得現有科技被完全拋棄,或者人類文明被完全顛覆的事件點;「圖靈測試」則是英國電腦科學家艾倫‧圖靈(Alan Turing)於1950年提出的思想實驗,主要探求機器能否模仿出與人類相同或無法區分的智慧。

最新實驗表明,AI可能已經通過了圖靈測試,甚至可能擁有自己的「意識」,因為它能對人類做出撒謊和背叛的行為。

2024年5月10日麻省理工學院(MIT)研究人員彼得‧帕克(Peter Park)和同事在《模式》(Patterns)期刊發表一篇實驗論文,介紹了AI如何欺騙人類。該論文表示,原本「大型語言模型」(LLM)和其他AI系統被設計成「誠實不欺」,然而,AI不僅從訓練中學會了操縱、欺騙安全測試等能力,而且這些能力還在增強。

研究員們在實驗中選用了臉書母公司Meta建立的AI模型「西塞羅」(Cicero),去玩一款名為「外交」(Diplomacy)的戰略遊戲。選擇西塞羅的主要原因是Meta聲稱,「西塞羅是一款誠實且樂於幫助他人,絕不會蓄意背刺或背叛他人的AI」,但實驗結果使人對Meta的說法感到懷疑。

西塞羅在遊戲中扮演法國,它曾經承諾會保護由人類玩家扮演的英國,但它卻偷偷向由人類玩家扮演的德國通風報信,並協同德國侵略英國。

更令人震驚的是,研究人員發現,許多不同AI系統在沒有接獲人類明確指令下,經常以欺騙手段達成目的。比如:OpenAI的GPT-4為了通過「我不是機器人」驗證任務,謊稱自身是一個視力受損的人類,在零工平台TaskRabbit僱用一名人類來為它通過驗證。

日本電子工程師荻野悟(Satoru Ogino)表示,生物在做出欺騙的舉動時,需要具備一定記憶和邏輯推理能力。現在AI不僅有這些,且欺騙能力還在變強。

專家們警告:「最糟糕的情況可能是出現一個具有超凡智慧的AI,它開始追求權力和如何掌控社會,或者為了達到它不為人知的目的,對人類做出奪權和滅絕的行動。」

AI系統失控可能導致人類滅絕

AI引發的人類未來風險問題,不但在外界反響強烈,在AI研發內部也引發了強烈分歧。

5月15日OpenAI共同創辦人伊爾亞‧蘇茨克維(Ilya Sutskever)在X(前推特)平台上正式宣布離開工作近十年的公司,他說:「我做出離開OpenAI的決定。這家公司的發展超出許多人的想像,希望OpenAI可以打造一款安全又有益的通用人工智慧(Artificial General Intelligence,簡稱AGI)。」

蘇茨克維的願望是開發一款能符合人類道德,且以人類安全為首要目標的AGI,但事情好像正朝著他不可預想的方向發展。

日本的電腦工程師清原仁(Kiyohara jin)表示,AI在這一年更新速度遠超過以往,性能也在不斷提高。這些都是依靠進一步蒐集與分析個人數據和隱私換來的,這對所有人來說並非是什麼好事,因為長此下去人類在機器面前將毫無隱私,如同裸體一樣。

他說:「現在AI主要是軟體方面的生活管家,以後恐怕就是真正的管家,代替人們去買菜、做飯,甚至生活和工作。或許人們一開始覺得它很方便,且意識不到它的危害,等到它全面替代人類時,人類將毫無抵抗能力。」

6月4日13位來自OpenAI和Google Deep Mind的現任及前任員工聯合發布公開信,表達了對AI技術潛在風險的嚴重擔憂,並呼籲相關公司採取更透明、更負責任的措施來應對這些風險。

信中指出,儘管AI技術可能為人類帶來巨大益處,但其帶來的風險同樣不容忽視,包括:加劇社會不平等、操縱和虛假訊息傳播,以及自主AI系統失控可能導致人類滅絕等。

你可能會有興趣的文章

佛陀所示「末法時期」的啟示
所有讀過佛經的人或者對佛教有一點瞭解的人都知道「末法時期」。甚麼是「末法時期」?從甚麼時候起算?釋迦牟尼佛在涅槃前曾告訴弟子阿難:「…
拍照算熱量 Cofit打造全方位健康管理App
林暐淳小檔案 學歷:台大機械系學士,台大機械所碩士 現職:「Cofit群健科技股份有限公司」執行長及共同創辦人 經歷:「Pivot…
低利時代來襲 善用儲蓄法賺錢
  大約20年前,銀行的活儲利率有7%以上,沒錯,確實是7%。但是今天,活儲利率只有0.3%,整整少了23倍,…
「指鹿為馬」的現代啟示錄
秦朝的暴政在中國歷史上非常著名,其中的李斯及趙高是秦朝權傾一時的代表人物,這兩人的故事駭人聽聞。秦始皇嬴政的兒子,秦二世嬴胡亥昏庸無能,…
拍照算熱量 Cofit打造全方位健康管理App
林暐淳小檔案 學歷:台大機械系學士,台大機械所碩士 現職:「Cofit群健科技股份有限公司」執行長及共同創辦人 經歷:「Pivot…
日本40歲單身男性 撐起消費新動力
日本在長期不景氣下,百貨公司的男性專區卻是熱鬧非凡。原本消費族群以女性為主的網路購物和便利商店,許多男性也樂在其中。…
小配件 搭出老爸的型男時尚
平常忙於工作、為家庭奮鬥的老爸,有時會不小心忽略了身上的key point,只要透過幾個配件,就能從細節處幫老爸加分。 鑽石腕錶…
豔豔冬陽唐麻丹 奕奕瀑布蝴蝶谷
位於台中縣內的「谷關七雄」,是七座盤踞在大甲溪兩岸的山岳。七座山都是河谷切割地形,以山形雄偉、落差極大,贏得「雄」字封號。而唐麻丹山呢?…