下載APP
AI作假高發(fā)領(lǐng)域整治刻不容緩 上市企業(yè)積極布局網(wǎng)絡(luò)信息安全業(yè)務流程
字體：
小
中
大
一方面，監(jiān)督機構(gòu)需盡早不斷完善人工智能技術(shù)研發(fā)及運用有關(guān)法律法規(guī)和質(zhì)量標準體系，強化對高科技企業(yè)、網(wǎng)絡(luò)媒體等嚴格監(jiān)管。另一方面，給予深層生成服務的公司要堅決落實網(wǎng)絡(luò)安全管理監(jiān)督責任，不斷完善優(yōu)化算法體制審批、高新科技倫理審查、反電信詐騙等管理方案，提升生成視頻的核查及管理，對智能對話、生成人聲伴奏、面部形成、沉浸式體驗車禍模擬情景等形成信息進行明顯標志，防止群眾搞混或錯認
本報訊記者許林艷
前不久，AI領(lǐng)域發(fā)展中的諸多亂相，引起了銷售市場高度關(guān)注，網(wǎng)絡(luò)信息安全再度立在鏡頭下，好幾家全產(chǎn)業(yè)鏈上市企業(yè)也關(guān)心愛護網(wǎng)絡(luò)信息安全有關(guān)合理布局狀況。
AI市場亂象高發(fā)
“AI孫燕姿”的人氣還未完全消退，“AI變臉”明星直播間便再次成為社交媒體上關(guān)注的焦點話題討論。打開直播房間，就能看到換臉楊冪、熱巴等女星在直播賣貨。這讓顧客在感慨科技創(chuàng)新的前提下，還對AI發(fā)展形勢以及相關(guān)安全性問題表示憂慮。
“現(xiàn)在大多數(shù)企業(yè)能直接給予相關(guān)明星的算法優(yōu)化，質(zhì)優(yōu)價廉，在3萬元至4萬之間，選購以后就能直接仿冒大牌明星開展直播賣貨。如今AI市場發(fā)展亂相許多，到務必加強監(jiān)管力度和整治的時刻?！币晃徊辉妇呙臉I(yè)內(nèi)人士對記者表示。
前不久就會有福州某高新科技公司法人孫先生10分鐘之內(nèi)上當受騙430萬元事情發(fā)生。據(jù)統(tǒng)計，騙子公司先攻占了孫先生的好朋友手機微信，從而通過智能AI變臉和擬音設(shè)備對孫先生實施詐騙。
深度科技科學研究院張孝榮接受《證券日報》采訪時表示：“現(xiàn)階段的AI變臉和AI擬音牽涉到‘深度偽造’，是AI科技的衍化運用。這類運用一般根據(jù)使用‘生成式對抗網(wǎng)絡(luò)’的深度學習模型，將照片或視頻合成累加到源圖片或者視頻上，依靠神經(jīng)網(wǎng)絡(luò)技術(shù)開展大樣本學習培訓，將自身的聲響、臉部情緒及形體動作拼湊生成虛報具體內(nèi)容?！?/p>
張孝榮還強調(diào)，現(xiàn)階段也有一種新的發(fā)展趨向，即AI練習形成虛擬人物連接ChatGPT這種NLP大模型，再根據(jù)視頻語音精仿技術(shù)性，還原與真實事件交流的實際效果，如此一來，就會使線上“武松”和“內(nèi)鬼”更為真假難分。
應對現(xiàn)階段AI市場的發(fā)展亂相，網(wǎng)絡(luò)信息安全整治已刻不容緩。風險投資人、杰出人工智能專家郭濤接受《證券日報》采訪時表示：“一方面，監(jiān)督機構(gòu)需盡早不斷完善人工智能技術(shù)研發(fā)及運用有關(guān)法律法規(guī)和質(zhì)量標準體系，強化對高科技企業(yè)、網(wǎng)絡(luò)媒體等嚴格監(jiān)管。另一方面，給予深層生成服務的公司要堅決落實網(wǎng)絡(luò)安全管理監(jiān)督責任，不斷完善優(yōu)化算法體制審批、高新科技倫理審查、反電信詐騙等管理方案，提升生成視頻的核查及管理，對智能對話、生成人聲伴奏、面部形成、沉浸式體驗車禍模擬情景等形成信息進行明顯標志，防止群眾搞混或錯認?！?/p>
網(wǎng)絡(luò)信息安全受重視
AI亂相所產(chǎn)生的網(wǎng)絡(luò)信息安全引發(fā)網(wǎng)友熱議，好幾家全產(chǎn)業(yè)鏈上市企業(yè)還在關(guān)心愛護有關(guān)市場布局狀況。
“AI領(lǐng)域發(fā)展中消極事情高發(fā)，本質(zhì)上還是由于AIGC是新鮮事物，對AIGC的使用場景欠缺必須的監(jiān)管方案和檢測方式。以AI詐騙為例子，假如各種運用在鑒別到傳送內(nèi)容就是AI產(chǎn)生的情況下，可以對具體內(nèi)容接受者進行深入提示，那樣犯罪嫌疑人執(zhí)行詐騙難度將會大大增加。但目前還沒有相近嚴格監(jiān)管規(guī)章，缺乏足夠的充足合理、低成本無損檢測技術(shù)?！鄙钚欧嚓P(guān)工作人員告知《證券日報》新聞記者，企業(yè)致力于網(wǎng)絡(luò)信息安全行業(yè)，在AI安全生產(chǎn)方面關(guān)鍵對焦三個情景：一是運用AI技術(shù)賦能檢測服務和經(jīng)營業(yè)務流程，比如威脅檢測、數(shù)據(jù)分析、威脅情報、智能化系統(tǒng)安全運行等；二是運用AI全過程中數(shù)據(jù)安全與隱私維護難題，比如多方安全計算、聯(lián)邦學習等；三是AI實體模型本身安全問題，包含AI實體模型可擴展性、數(shù)據(jù)信息下毒進攻等。
永信至誠人員在接納《證券日報》采訪時表示，對于運用人工智能技術(shù)執(zhí)行的新式網(wǎng)絡(luò)詐騙，永信至誠集團旗下“i春秋”知名品牌根據(jù)多年來的網(wǎng)絡(luò)信息安全一線實踐經(jīng)驗，可面對不一樣用戶場景，根據(jù)場景式、高模擬仿真、可視化體感互動系統(tǒng)軟件提高用戶安全防范意識水準。以AI變臉行騙為例子，用戶可以通過“i春秋”的AI變臉感受系統(tǒng)軟件掌握AI變臉的基本原理及存有安全隱患，進而增強安全意識，降低AI變臉詐騙案的產(chǎn)生。
信安世紀也十分重視網(wǎng)絡(luò)信息安全，談起在這個方面合理布局狀況，信安世紀層面對《證券日報》記者說：“密碼技術(shù)在抵抗真實身份假冒、數(shù)據(jù)信息仿冒層面本身具有的優(yōu)點，現(xiàn)階段信安世紀正積極將人工智能應用與密碼技術(shù)結(jié)合，以提供更加友善、安全系數(shù)高的使用體驗。”
方正證券表明，AI將產(chǎn)生網(wǎng)絡(luò)安全產(chǎn)業(yè)邏輯重要更改。從進攻側(cè)來說，大模型、GPT、生成式AI技術(shù)將大幅度降低黑客入侵準入門檻，明顯加重了總體威協(xié)趨勢，從而產(chǎn)生各種安全性硬件軟件需求以及市企安全性費用預算的提高；從管控側(cè)來說，在類ChatGPT的形成語言工具得到了廣泛的應用以后，管控側(cè)針對視頻的監(jiān)督和核查將會成為頭等大事，網(wǎng)絡(luò)安全內(nèi)容、網(wǎng)絡(luò)信息安全、總流量可視性等安全管理側(cè)需求量獲得大幅提升。
消費界所刊載信息，來源于網(wǎng)絡(luò)，并不代表本媒體觀點。本文所涉及的信息、數(shù)據(jù)和分析均來自公開渠道，如有任何不實之處、涉及版權(quán)問題，請發(fā)送郵件：Jubao_404@163.com，我們會及時處理。本文僅供讀者參考，任何人不得將本文用于非法用途，由此產(chǎn)生的法律后果由使用者自負。投訴舉報郵箱：
相關(guān)資訊
消費界本網(wǎng)站所刊載信息，來源于網(wǎng)絡(luò)，僅供免費學習參考使用，并不代表本媒體觀點。本文所涉及的信息、數(shù)據(jù)和分析均來自公開渠道，如有任何不實之處、涉及版權(quán)問題，請聯(lián)系我們及時處理。本文僅供讀者參考，任何人不得將本文用于非法用途，由此產(chǎn)生的法律后果由使用者自負。
合作官方郵箱: hezuo@eeeck.com
投訴舉報郵箱：Jubao_404@163.com
招聘官方郵箱: rcrt@eeeck.com
Android | iOS
未經(jīng)書面授權(quán)不得復制或建立鏡像，違者必究。
Copyright © 2012 -2023 CONSUMER TIMES. All Rights Reserved.
深圳市贏銷網(wǎng)絡(luò)科技有限公司版權(quán)所有
粵ICP備14076428號
粵公網(wǎng)安備 44030702005336號