AI的最大隱患是「深度造假」

隨著各式各樣人工智慧（AI）工具的出現，許多看起來似乎十分真實但實際卻是假的圖片和影片越來越普遍了。

微軟公司總裁史密斯（Brad Smith）5月時表示了對AI的最大憂慮，就是「深度造假」（Deep Fakes）的問題。史密斯呼籲，人類需要採取行動以阻止合法的內容被篡改，並確保人們能夠判斷照片或線上音像片段的真實性。他還督促美國聯邦政府設立新的監管機構，專門應對聊天機器人ChatGPT等生成式AI應用程式，承擔起「保護網路安全和國家安全的義務」。

微軟計畫在未來幾個月內增加一項功能，讓所有人都能識別由繪圖工具「影像建立者」（Bing Image Creator）和「微軟智慧設計」（ Microsoft Designer）生成的產品圖像是否由AI生成。

但為了防範和杜絕這些「假藝術品」會被惡意利用，導致虛假資訊傳播，微軟採取了主動措施，「新功能將使用密碼學方法對AI合成的產品作出標記和簽名，並附上有關其來源的中繼資料資訊」。

史密斯還提出，相關政府機構需要對那些用於控制電網、供水或其他關鍵基礎設施的AI進行安全制動設置，以便人類能夠隨時駕馭這些工具。

由微軟資助的ChatGPT開發商OpenAI公司首席執行長奧特曼（Sam Altman）也示警：「需要對AI進行監管！」他指出，一旦AI技術出了問題，後果將相當嚴重，並可能影響2024年的美國總統大選。

奧特曼稱，從長遠來看，制定法規、標準及監管都是非常明智的，它將確保我們從AI技術中盡可能選取好的用處，同時盡量減少不利因素。他也奔走於歐洲國家，呼籲各國政府在AI安全合規方面進行全球合作。

谷歌5月也表示，將確保其出產的每一張AI圖片都內嵌浮水印，雖無法以肉眼識別，但若用谷歌搜尋引擎等軟體就可以讀取並顯示出標籤。