您的位置：首頁 > 商業 >

美亞柏科發布AIGC鑒真工作站防范生成式AI濫用風險焦點熱文

來源：證券日報時間：2023-05-16 20:09:20

5月16日，美亞柏科公告發布了一則投資者關系活動記錄表。記錄表顯示，在AI監管產品方面，公司已經發布了AI-3300“慧眼”視頻圖像鑒真工作站，可以對深度合成偽造的視頻圖像、AIGC生成視頻圖像進行監測鑒定。公司推出的AIGC檢測平臺支持AIGC生成文本的檢測識別。

隨著AIGC內容大量涌現，相關應用在提升人們生產效率的同時，也有不法分子利用其生成虛假內容，擾亂社會運行的正常秩序，比如美亞柏科在投資者關系活動記錄表中提到的，中國廣東某地利用AI人工智能技術炮制虛假不實信息非法獲利的案件。

(相關資料圖)

美亞柏科AI安全首席科學家金輝曾在民生AI峰會上的發言中表示，AIGC生成式人工智能的內容確實讓人很難辨別真假，造成很多虛假的新聞，讓人顛覆了眼見為實的認知。犯罪分子也會利用生成式人工智能進行新型網絡犯罪手段的詐騙，這都對人工智能安全帶來一定的挑戰。

對此，薩摩耶云科技集團首席經濟學家鄭磊在接受《證券日報》記者采訪時表示：“為了避免這種情況的發生，必須研發相應的逆向鑒別技術和產品，作為人們日常防范這類違法犯罪活動的輔助工具，也為司法機關提供了執法證據和依據。”

此前，谷歌CEO桑達爾·皮查伊也曾表示，隨著人們不斷投入能力越來越強大的模型，谷歌也在深入研究AI應當肩負的責任，這包括讓用戶擁有可識別生成式內容的工具。

浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員盤和林在接受《證券日報》記者采訪時表示：“此類工具未來在B端和G端有一定應用場景，尤其是當前生成式AI大行其道之時，圖像鑒真將在未來成為剛需。”

美亞柏科表示，后續將持續圍繞包括反生成式AI在內的AI安全及監管領域進行研究，并根據業務需要適時布局相關產品。

頂象技術安全專家田際云向《證券日報》記者介紹：“按照安全行業的說法，反生成式AI就是防范生成式AI濫用帶來的風險。”

鄭磊表示，反生成式AI依靠AIGC的逆向工程原理開發的人工智能產品，本身也屬于人工智能，相當于對生成式AI輸出的結果進行逆向解碼，給出鑒別判斷，或恢復到之前的原形狀態。由于生成式AI輸出的結果與人類制作的內容高度相似，如果不用逆向技術手段，難以和人類生成的內容區分開。在一些應用場景中，需要進行這樣的鑒別，因此是有現實需要的。

盤和林認為，生成式AI能以假亂真，反生成式AI可以去偽存真，未來自覺標注AI生成將是免責和防偽的關鍵，而反生成式AI則是技術上的重要補充。

“對于AI監管，我們需要從多個方面入手，包括數據集獲取的安全合規性、人工智能模型的可解釋性和透明性、人工智能生成內容的識別和審核、建立相關的監管機制和法律法規。”中國移動通信聯合會元宇宙產業委執行主任于佳寧在接受《證券日報》記者采訪時表示，“美亞柏科在反生成式AI產品的研發和應用方面的布局和探索是非常值得肯定的，希望更多的企業和機構加入AI監管和安全方面的研究應用中，加強對AI濫用和AI作惡的打擊力度，形成人機合作、共同治理的良好局面。”

（文章來源：證券日報）

標簽：