近期,因?yàn)閲L試將離職員工訓(xùn)練成人工智能數(shù)字人繼續(xù)工作,讓山東的一家游戲傳媒公司備受關(guān)注,引發(fā)了公眾熱議。
員工是否會(huì)被AI取代?AI數(shù)字分身產(chǎn)生收益、出現(xiàn)差錯(cuò),責(zé)任如何厘清?“這是社會(huì)焦點(diǎn),也是最不能模糊處理的問(wèn)題?!?月8日,山東省計(jì)算中心(國(guó)家超級(jí)計(jì)算濟(jì)南中心)主任吳曉明向科技日?qǐng)?bào)記者表示,“‘知情同意’只是起點(diǎn),‘技術(shù)可行’也絕不等于‘商業(yè)可用,法律無(wú)虞’。”
第一問(wèn):如何訓(xùn)練AI數(shù)字人,成本高不高?
在吳曉明看來(lái),訓(xùn)練AI數(shù)字人并不是簡(jiǎn)單做一個(gè)會(huì)說(shuō)話的虛擬形象,而是把一個(gè)人的外在表現(xiàn)、語(yǔ)言風(fēng)格、知識(shí)結(jié)構(gòu)、工作流程等,轉(zhuǎn)化為可被機(jī)器調(diào)用和復(fù)用的“數(shù)字能力體”。
“從技術(shù)路徑看,它通常包括四個(gè)層次?!眳菚悦鹘榻B,第一層是形象建模,即采集人臉、表情、動(dòng)作等視覺(jué)特征,生成可驅(qū)動(dòng)的數(shù)字形象;第二層是聲音復(fù)刻,通過(guò)語(yǔ)音樣本訓(xùn)練音色、語(yǔ)調(diào)和節(jié)奏;第三層是知識(shí)注入,把個(gè)人在長(zhǎng)期工作中形成的業(yè)務(wù)知識(shí)、問(wèn)答語(yǔ)料、表達(dá)習(xí)慣、處事邏輯沉淀為知識(shí)庫(kù)或?qū)倌P停坏谒膶邮橇鞒叹幣?,讓?shù)字人不只是“像某個(gè)人”,而是真能在多樣化的場(chǎng)景中完成任務(wù)?!皣?yán)格來(lái)說(shuō),前兩層解決的是‘像不像’,后兩層決定的是‘能不能用、好不好用’?!眳菚悦髡f(shuō)。
山東大學(xué)信通電子人工智能研究院常務(wù)副院長(zhǎng)、教授韓忠義表示,訓(xùn)練一個(gè)基礎(chǔ)型數(shù)字人并不難,成本也沒(méi)有外界想象的那么高。
在他看來(lái),如果企業(yè)要將其做成一個(gè)“精明能干”的數(shù)字員工,那成本就不低了?!百F的不只是技術(shù)本身,更是數(shù)據(jù)整理、業(yè)務(wù)接入、后期維護(hù)。而更為重要的,是使用數(shù)字人須得合規(guī)?!表n忠義的一席話,指向了公眾對(duì)AI數(shù)字人的風(fēng)險(xiǎn)管控疑慮。
第二問(wèn):AI數(shù)字分身如果出錯(cuò),算誰(shuí)的?
盡管離職員工知情同意,但倘若AI數(shù)字分身對(duì)外提供服務(wù)出現(xiàn)了紕漏,責(zé)任誰(shuí)來(lái)承擔(dān)?齊魯工業(yè)大學(xué)數(shù)學(xué)與人工智能學(xué)部副主任李彬表示:責(zé)任劃分不能停留在一句“員工同意了”。
“AI分身一旦對(duì)外提供服務(wù),它就不再只是內(nèi)部實(shí)驗(yàn),而是進(jìn)入了交易、傳播和組織治理體系?!彼硎?,AI數(shù)字分身進(jìn)入市場(chǎng)至少涉及三類權(quán)利邊界,一是人格權(quán)益邊界,包括姓名、肖像、聲音、隱私、名譽(yù)等;二是個(gè)人信息與數(shù)據(jù)邊界,包括采集了哪些數(shù)據(jù)、如何訓(xùn)練、保存多久、能否二次使用;三是勞動(dòng)成果和商業(yè)收益邊界,即員工多年形成的經(jīng)驗(yàn)、話術(shù)、方法論,到底哪些屬于個(gè)人特征,哪些屬于職務(wù)成果,哪些可以授權(quán)使用,哪些不能無(wú)限擴(kuò)張。
他指出,比如《中華人民共和國(guó)個(gè)人信息保護(hù)法》要求處理個(gè)人信息應(yīng)具有明確、合理目的并遵循最小必要原則;《中華人民共和國(guó)民法典》人格權(quán)編也明確保護(hù)姓名、肖像、名譽(yù)、隱私等合法權(quán)益;現(xiàn)行深度合成和生成式人工智能治理的相關(guān)規(guī)則,進(jìn)一步要求服務(wù)提供者落實(shí)內(nèi)容審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)等責(zé)任。
“換句話說(shuō),即便有授權(quán),也不能一勞永逸,取得‘無(wú)限復(fù)制、永久使用、任意變現(xiàn)’的通行證?!崩畋蛘f(shuō),“一旦AI數(shù)字分身對(duì)外服務(wù),收益和責(zé)任更應(yīng)當(dāng)按照‘誰(shuí)控制系統(tǒng)、誰(shuí)設(shè)定規(guī)則、誰(shuí)從中獲益、誰(shuí)承擔(dān)主責(zé)’的原則來(lái)劃分?!?/p>
第三問(wèn):AI數(shù)字分身是否會(huì)催生全新職場(chǎng)模式?
用AI數(shù)字分身承接基礎(chǔ)事務(wù)性工作,是否會(huì)催生全新的職場(chǎng)模式?針對(duì)這一問(wèn)題,受訪專家?guī)缀醵冀o出了肯定的答案。
“這種變化不應(yīng)被簡(jiǎn)單理解為‘AI替人’,而更應(yīng)理解為‘人機(jī)協(xié)同重構(gòu)崗位’?!眳菚悦髡f(shuō),AI數(shù)字分身并不只是替代某個(gè)人,更是在推動(dòng)崗位由“本人親自完成”,轉(zhuǎn)向“本人設(shè)計(jì)規(guī)則、訓(xùn)練系統(tǒng)、監(jiān)督結(jié)果、兜底風(fēng)險(xiǎn)”。吳曉明進(jìn)一步指出,從這個(gè)意義上講,有可能催生“數(shù)字員工訓(xùn)練師”“行業(yè)知識(shí)標(biāo)注師”“人機(jī)協(xié)同流程設(shè)計(jì)師”“AI風(fēng)控審校師”等新角色。
“新崗位的出現(xiàn),并不意味著機(jī)器把人一下子替掉了,而是慢慢變成AI先做一輪,人再來(lái)判斷、把關(guān)和兜底。”韓忠義說(shuō),崗位會(huì)重新分工,管理方式也會(huì)變,企業(yè)看重的不只是員工自己干了多少,還會(huì)看他能不能把AI用好、管好。
“不過(guò),需要冷靜看待的是,新模式會(huì)提高效率,也可能壓縮一些初級(jí)崗位?!表n忠義表示,真正值得鼓勵(lì)的方向,不是把人變成一個(gè)可以隨時(shí)復(fù)制的工具,而是讓AI去接住那些重復(fù)勞動(dòng),把人放到更有判斷價(jià)值、更需要責(zé)任心的工作上。
“歸根到底,AI最值得追求的,是構(gòu)建一個(gè)更高效、更公平、更尊重人的智能生產(chǎn)體系?!眳菚悦髡f(shuō)。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2026 中國(guó)高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號(hào)-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證060344號(hào)主辦單位:《中國(guó)高新技術(shù)產(chǎn)業(yè)導(dǎo)報(bào)》社有限責(zé)任公司