來(lái)源：qiuzhx時(shí)間：2019-09-04
最近，一款名為“ZAO”的變臉軟件突然變得流行起來(lái)，在“ZAO”熱潮之后，人工智能變化的灰色產(chǎn)業(yè)鏈開(kāi)網(wǎng)站定制始浮出水面。 中新經(jīng)緯的調(diào)查發(fā)現(xiàn)，在網(wǎng)絡(luò)平臺(tái)上，淫穢視頻銷售明星面孔，提供定制的視頻換面服務(wù)，以及教學(xué)變臉技術(shù)已成為一項(xiàng)業(yè)務(wù)。
律師指出，生產(chǎn)和銷售人工智能面對(duì)不雅視頻已構(gòu)成傳播淫穢物品以謀取利益的罪行，并涉嫌侵犯他人的肖像權(quán)和聲譽(yù)權(quán)。 此外，律師還提醒說(shuō)，變臉的視頻可能被用于欺詐或勒索，造成更大的傷害，應(yīng)引起全社會(huì)的注意。
超過(guò)40位女演員已被改變面孔，數(shù)百個(gè)視頻已售出49元。
9月2日下午，在二手交易平臺(tái)上，中信經(jīng)緯搜索關(guān)鍵詞“AI for face”，系統(tǒng)提示“無(wú)法搜索違規(guī)信息”，但在搜索“換臉”時(shí)，可以檢索 “愛(ài)”改變面子，整個(gè)網(wǎng)絡(luò)是最完整的，最低的價(jià)格“”改變面部收藏可以試圖看到“和其他賣家發(fā)揮信息。中信經(jīng)緯與兩個(gè)商人溝通，發(fā)現(xiàn)他們賣的不雅 平臺(tái)上的明星視頻。
賣家余瑜（化名）告訴中新經(jīng)緯，他手里有45個(gè)女明星，有數(shù)百個(gè)人工智能改變面貌的視頻資源。 隨后，余宇將上述視頻截圖發(fā)送至中新經(jīng)緯。 “網(wǎng)盤發(fā)送，在線觀看，套餐價(jià)格49元。擔(dān)心不喜歡免費(fèi)試用，熱門第一線（明星）的內(nèi)容比較好，第三和第四行（明星）的內(nèi)容是一般的。”
另一位賣家還表示，它可以以75元的網(wǎng)站開(kāi)發(fā)價(jià)格將超過(guò)40位女性名人打包并出售給數(shù)百個(gè)AI變臉視頻，這些視頻可免費(fèi)測(cè)試并在線發(fā)貨。
以上兩位賣家都建議不要在二手交易平臺(tái)上傳達(dá)內(nèi)容，而是要求在QQ上聊聊。 其中一位賣家對(duì)中信經(jīng)緯說(shuō)：“該平臺(tái)更嚴(yán)格地監(jiān)控這些信息，產(chǎn)品信息可能隨時(shí)被刪除。我們也很幸運(yùn)能夠賣出一個(gè)訂單。”
中新經(jīng)緯指出，9月2日晚，上述兩款產(chǎn)品的信息已被平臺(tái)刪除，但搜索“換面”仍可看到許多其他類似的產(chǎn)品信息。
換臉視頻可定制，一分鐘10元
此外，在其他電子商務(wù)平臺(tái)上，也有賣家可以提供視頻定制的換臉產(chǎn)品。 只有買家需要提供面部變化人物的一些照片，并且賣家可以將照片中的面部“轉(zhuǎn)向”特定視頻中的特定人物。
“提供五到十張照片和視頻片段，其中包括正在更換的人。費(fèi)用是每分鐘10元。可以在五分鐘內(nèi)完成，并在一到兩個(gè)小時(shí)內(nèi)發(fā)貨。如果視頻很長(zhǎng)，可以更便宜。 “ 賣家說(shuō)：“你可以自己提供視頻或使用它，但視頻越清晰越好。不要面對(duì)并遮住你的臉。”
賣方強(qiáng)調(diào)視頻是由他自己完成的，他手里有許多固定客戶。 “在做視頻時(shí)，電腦無(wú)法做任何事情，它也會(huì)消耗顯卡，所以我的價(jià)格非常公平。” 賣家說(shuō)：“找我的人就是做'小黃片'，但更多的是推銷一些產(chǎn)品。短片，每個(gè)人都有自己的用途。”
另外，在一些與“人臉改變”相關(guān)的QQ群中，有一些賣家可以教授人臉改變技術(shù)，“教學(xué)套餐，公平價(jià)格”，還可以提供全套明星面貌變化的視頻資源。 據(jù)了解，“學(xué)習(xí)”AI換臉技術(shù)的學(xué)費(fèi)約為500元，可以在四五個(gè)小時(shí)內(nèi)學(xué)到。
一些用戶對(duì)此表示擔(dān)憂。 網(wǎng)友“嘻嘻”說(shuō)：“有人會(huì)在社交平臺(tái)上使用我的自畫像制作改變面貌的視頻嗎？那太可怕了。” 還有評(píng)論說(shuō)這個(gè)簡(jiǎn)單的應(yīng)用程序可能會(huì)被誤解。 用戶使用它來(lái)制作各種色情，暴力，虛假的視頻。
律師：人工智能改變面孔的風(fēng)險(xiǎn)不容忽視
ZAO應(yīng)用程序的突然普及引發(fā)了人們關(guān)于AI面部改變技術(shù)的關(guān)注和討論，但事實(shí)上，這項(xiàng)技術(shù)最近還沒(méi)有出現(xiàn)。 今年年初，通過(guò)人工智能技術(shù)取代演員朱寅在“帝國(guó)射擊英雄”中與楊冪取代的視頻在互聯(lián)網(wǎng)上引起了激烈的討論。 目前，在一些視頻網(wǎng)站上仍然有很多人臉變化的視頻。
AI的面孔是Deepfake技術(shù)，Deepfake指的是由FakeApp程序創(chuàng)建的人工智能軟件制作的假視頻，而FakeApp可以實(shí)現(xiàn)AI面部變化。
由于可網(wǎng)站定制能存在版權(quán)和隱私問(wèn)題，ZAO網(wǎng)站定制引起了用戶的廣泛關(guān)注，北京安利律師事務(wù)所高級(jí)合伙人王新瑞表示，ZAO軟件使用深度學(xué)習(xí)技術(shù)改變面貌的最大問(wèn)題是大規(guī)模收集。 生物識(shí)別信息和Deepfake“不真實(shí)且難以區(qū)分”，給社會(huì)帶來(lái)了安全風(fēng)險(xiǎn)，目前公眾普遍低估了這種風(fēng)險(xiǎn)，但實(shí)際上已經(jīng)造成嚴(yán)重后果。
北京芝林律師事務(wù)所律師趙湛在接受中信經(jīng)緯采訪時(shí)表示，制作和銷售人工智網(wǎng)站開(kāi)發(fā)能變臉色情影片無(wú)疑構(gòu)成傳播淫穢物品的罪行，也涉嫌侵犯肖像權(quán)利 和聲譽(yù)。 對(duì)于購(gòu)買面對(duì)面視頻AI的買家，如果他們傳播或傳播它以獲取利潤(rùn)，它也可能構(gòu)成非法甚至是犯罪。
趙職業(yè)進(jìn)一步指出，除了使用人工智能變臉技術(shù)制作淫穢視頻外，提供定制的視頻變臉?lè)?wù)，如果非法使用，可能會(huì)造成更大的社會(huì)危害。 “對(duì)于普通人來(lái)說(shuō)，有人拍攝你的照片來(lái)改變視頻的面貌。這可能是為了戲弄，但也可以使用這個(gè)視頻詐騙和勒索面子改變者的親屬。職業(yè)說(shuō) ，“我擔(dān)心這項(xiàng)技術(shù)被濫用，或被那些肆無(wú)忌憚和惡意的人使用，它相當(dāng)于打開(kāi)潘多拉的盒子。 “
趙職業(yè)認(rèn)為，網(wǎng)站開(kāi)發(fā)對(duì)于這種新型的刑事犯罪，有必要及時(shí)改進(jìn)現(xiàn)有的法律規(guī)則和技術(shù)手段，同時(shí)應(yīng)采取更多手段讓公眾了解這種行為造成的危害。
原創(chuàng)來(lái)源：恩尼斯網(wǎng)站定制網(wǎng)站開(kāi)發(fā)
粵公網(wǎng)安備 44010602005325號(hào)