近期，音樂(lè)人包小柏用AI技術(shù)“復(fù)活”離世兩年的女兒；又有網(wǎng)友未經(jīng)明星親屬授權(quán)，將多名去世明星AI“復(fù)活”。AI“復(fù)活術(shù)”一時(shí)引發(fā)相關(guān)法律、倫理邊界的爭(zhēng)論。

2023年4月，就已經(jīng)有公司開(kāi)始對(duì)外提供AI“復(fù)活術(shù)”服務(wù)。2023年9月，江蘇徐州的楊先生委托這家公司，為已故的二舅做了數(shù)字分身，目的是向90歲高齡的外婆隱瞞二舅的死訊。當(dāng)年8月，楊先生的二舅在外務(wù)工期間意外去世。外婆大病初愈，又剛經(jīng)歷了外公的離世。家人考慮到老人身體一時(shí)承受不住噩耗，就同意了楊先生的方案。

“一方面是換臉，一方面是聲音的克隆。外婆視頻的時(shí)候，其實(shí)是工作人員坐在視頻對(duì)面，是實(shí)時(shí)換臉和聲音提取?！睏钕壬嬖V看看新聞Knews記者。

龍年春節(jié)前，楊先生為外婆和“二舅”安排了一場(chǎng)“團(tuán)圓”。視頻聊天時(shí)，外婆和“二舅”有說(shuō)有笑，聊些家常，最后招手道別。

為了實(shí)現(xiàn)外貌、表情、聲音、語(yǔ)氣實(shí)時(shí)仿真的效果，楊先生向這家公司提供了二舅為數(shù)不多的日常照片、視頻，并提前約定了聊天語(yǔ)境。

“（做數(shù)字孿生）花了9800元。后面三次的話，按照他們定的費(fèi)用結(jié)構(gòu)，多一次加200元?！?/p>

張澤偉（右）和他的“數(shù)字孿生”

為了進(jìn)一步了解AI“復(fù)活術(shù)”的細(xì)節(jié)，我們找到了楊先生委托的這家公司，見(jiàn)到了公司的創(chuàng)始人張澤偉。他向我們展示了他自己的“數(shù)字孿生”，以及迭代后的換臉技術(shù)。

在屏幕前，張澤偉向記者演示了一番，遮擋攝像頭、捏臉和捅鼻子等方法，已經(jīng)不能鑒別AI換臉。但是他認(rèn)為，“科技在不斷發(fā)展，這些科技漏洞都是會(huì)被修復(fù)和彌補(bǔ)的”。

今年清明節(jié)前，有北京和云南的養(yǎng)老產(chǎn)業(yè)和殯葬產(chǎn)業(yè)公司找到張澤偉，他們計(jì)劃在老人群體中推廣AI定制服務(wù)?！鞍衙總€(gè)老人的形象，數(shù)據(jù)化做成數(shù)字分身。比如說(shuō)墓地上有一個(gè)二維碼，未來(lái)只要過(guò)來(lái)祭奠，你掃一下，他的數(shù)字人形象就會(huì)出現(xiàn)。”

過(guò)去的半年，他的團(tuán)隊(duì)接到了1500多條訴求，履約完成了600多條“復(fù)活”“療愈”和“數(shù)字孿生”的客戶訂單。還有明星向他提出了“AI爆改”的合作，一時(shí)間他也成了AI紅人。

關(guān)于可能存在的商業(yè)風(fēng)險(xiǎn)和爭(zhēng)議，他們有著自己的運(yùn)作防范機(jī)制?！耙呀?jīng)離開(kāi)的人，他是沒(méi)辦法進(jìn)行授權(quán)的。我們的宗旨，只要有直系親屬的簽字或者同意，我們都可以去給他制作。如果他是在世的，那肯定是要本人授權(quán)的。另外，合同里或者協(xié)議里直接寫(xiě)清楚，這個(gè)東西你不能去用任何違法違規(guī)的事情。”

張偉澤的終極目標(biāo)是做真正的“數(shù)字永生”。對(duì)于可能存在的風(fēng)險(xiǎn)，他持樂(lè)觀態(tài)度。“科技是永遠(yuǎn)不會(huì)停下腳步的，它既然一直要往前發(fā)展，那你還不如去早點(diǎn)去順應(yīng)這個(gè)發(fā)展的趨勢(shì)。”

復(fù)旦大學(xué)教授 上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任 肖仰華

復(fù)旦大學(xué)肖仰華教授，上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任，他是國(guó)內(nèi)AI研究領(lǐng)域的一線專家。在他看來(lái)，意識(shí)編碼上傳、人類的數(shù)字永生眼下還是遙遠(yuǎn)的科幻；不過(guò)，當(dāng)下“復(fù)活”已故親人的技術(shù)并不復(fù)雜?！八举|(zhì)上是在大模型強(qiáng)大算力基礎(chǔ)上，結(jié)合親人的某一些語(yǔ)音和視頻片段，能夠比較逼真地進(jìn)行模擬，僅此而已。”

肖教授認(rèn)為，“數(shù)字孿生”和照片、視頻一樣，都可以緬懷親人，不過(guò)，AI“復(fù)活術(shù)”帶來(lái)的法律、倫理問(wèn)題必須警醒，未來(lái)“數(shù)字孿生”和“AI復(fù)活”“數(shù)字永生”的邊界最好提前劃定。

“追憶、懷念、紀(jì)念我們的親人，這個(gè)初衷是好的。但是一定程度上，這也是AI技術(shù)在干涉我們非常傳統(tǒng)的倫理生活。它是否有可能將我們對(duì)親人的懷念變成了一種執(zhí)念？事實(shí)上，技術(shù)應(yīng)該是有所為、有所不為的?！?/p>

目前，AI領(lǐng)域新產(chǎn)品、新技術(shù)、新突破層出不窮。在他看來(lái)，如何監(jiān)管、立法，在安全的前提下使用AI，是快速發(fā)展中必須規(guī)范的。虛實(shí)難辨的AI換臉技術(shù)很容易滋生低成本的詐騙案件。

“AI生成能力已經(jīng)做到以假亂真，所以這種虛假信息、虛假新聞、虛假視頻的泛濫，可能是我們要面對(duì)的，非常重要的AI治理、社會(huì)治理的問(wèn)題。對(duì)于這種AI生成能力的提供方要進(jìn)行規(guī)范，比如說(shuō)要主動(dòng)在AI生成內(nèi)容里面加上‘AI生成’的標(biāo)識(shí)，以防我們的普通民眾被誤導(dǎo)，所以這些都是我們應(yīng)該積極去推動(dòng)的舉措?！?/p>

連尚網(wǎng)絡(luò)AI工作室負(fù)責(zé)人程翰（左）和同事

程翰是連尚網(wǎng)絡(luò)的AI研發(fā)帶頭人。投身AI開(kāi)發(fā)后，程翰在新應(yīng)用上馬之前，一定要到法務(wù)部咨詢細(xì)節(jié)，避免法律風(fēng)險(xiǎn)和商業(yè)損失。“當(dāng)我們創(chuàng)造了這樣一個(gè)智能體之后，它的行為和選擇是要偏向人類的，要按照我們社會(huì)的價(jià)值觀和基本的社會(huì)道德去處理所有的問(wèn)題，否則它就是對(duì)人類有害的。”

人工智能高速突破技術(shù)邊界的同時(shí)，也把從業(yè)者和受眾帶到了法規(guī)、監(jiān)管暫未完全覆蓋的領(lǐng)域。目前，全球范圍內(nèi)對(duì)AI的監(jiān)管已經(jīng)進(jìn)入立法和執(zhí)法階段，我國(guó)AI行業(yè)可以遵循的個(gè)人信息法規(guī)政策有181項(xiàng)。2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》鼓勵(lì)生成式人工智能創(chuàng)新應(yīng)用的同時(shí)，也對(duì)AI領(lǐng)域的合法權(quán)益和義務(wù)做了明確規(guī)定，其中第二章、第四章對(duì)個(gè)人信息、個(gè)人隱私都有清晰的論述。2023年11月，人工智能安全峰會(huì)舉行，包括中國(guó)、歐盟在內(nèi)的參會(huì)方簽署了《布萊切利宣言》。

2024年，AI前沿的技術(shù)更新周期從年縮短到月，甚至周。由于AI擁有能夠操縱內(nèi)容或生成欺騙性內(nèi)容的能力，可能存在無(wú)法預(yù)料的風(fēng)險(xiǎn)，肖仰華教授認(rèn)為，我們?cè)诎l(fā)展的同時(shí)，必須清醒認(rèn)識(shí)到解決這些問(wèn)題的必要性和緊迫性。

“AI作為一種先進(jìn)生產(chǎn)力，它的到來(lái)是具有不可阻擋的趨勢(shì)，很有可能隨著AGI（通用型人工智能）的發(fā)展，我們?nèi)祟惿鐣?huì)會(huì)進(jìn)入新的一輪技術(shù)革命浪潮，這波浪潮可能已然襲來(lái)。”

在發(fā)展新質(zhì)生產(chǎn)力的路上，我們必然倚重人工智能。未來(lái)，類似AI“復(fù)活術(shù)”引發(fā)的預(yù)警還會(huì)出現(xiàn)。怎么保障科技安全，避免技術(shù)濫用？面對(duì)新風(fēng)險(xiǎn)，適應(yīng)性的立法監(jiān)管、倫理規(guī)范需要加快更新步伐。

肖仰華教授建議，在立法規(guī)范的同時(shí)，要讓更多人學(xué)習(xí)、使用AI?！敖ㄗh從應(yīng)用開(kāi)始，從我們?nèi)粘Ｉ铋_(kāi)始，融入AI，使用AI，擁抱AI，然后了解AI，但是這個(gè)也要端正心態(tài)，要對(duì)未來(lái)可能面臨的一些沖擊做好準(zhǔn)備。”