作者|石燦
編輯|鐵林
DeepNude（深度裸體）App的出現(xiàn)，令美國女性感到害怕。四天的時間，這種害怕擴(kuò)散演變成了全球性恐慌。
一名叫阿爾貝托的程序員開發(fā)出了這款應(yīng)用。只要你給DeepNude一張女性圖片，借助神經(jīng)網(wǎng)絡(luò)技術(shù)，它就可以自動“脫掉”女性身上的衣服，顯示出那位女性的“裸體”來。
有人問，DeepNude能對男性造成直接傷害嗎？從目前的情況來看，不會。它只能處理女性圖片，即便上傳男性圖片，最后輸出的圖片中，關(guān)鍵隱私部位也會顯示為女性。
“低級需求下產(chǎn)生的應(yīng)用，是有原罪的。”
6月23日，DeepNude在一個網(wǎng)站上首度被展示，上面羅列了人們該如何下載并使用這款軟件的步驟信息。
DeepNude有免費(fèi)版和50美元付費(fèi)版，使用免費(fèi)版獲得的圖片會有較大水印，付費(fèi)版不會出現(xiàn)較大水印，但在圖片左上角會加上“FAKE”的小logo。
使用者無需任何***知識，就可輕而易舉地使用，技術(shù)削低了準(zhǔn)入門檻。有人好奇了問：DeepNude是怎么誕生的？
兩年前，開發(fā)者阿爾貝托發(fā)現(xiàn)了人工智能的潛力，開始研究這門技術(shù)的基礎(chǔ)知識。當(dāng)他知道人工智能技術(shù)能將白天照片轉(zhuǎn)換成夜間照片時，他意識到，自己可以將一張穿著衣服的女性照片，轉(zhuǎn)換成另一種模樣的照片。
阿爾貝托在接受《Motherboard》的采訪時說，DeepNude基于加州大學(xué)伯克利分校研究者開發(fā)的開源算法pix2pix創(chuàng)建，并使用1萬張女性裸圖加以訓(xùn)練。這一算法與人工智能換臉技術(shù)DeepFake算法相似，也和無人車技術(shù)所使用的算法相似。
圖片來自GitHub社區(qū)，賬號“yuanxiaosc”
他把這種發(fā)現(xiàn)滋生出來的結(jié)果理解為樂趣和熱情。憑借這兩個驅(qū)動力，他對穿著衣服的女性照片做了一次“卸裝”嘗試，并從中獲得了“有趣的結(jié)果”。
但這并不是讓他創(chuàng)建DeepNude的核心原因，到底是什么讓它創(chuàng)建了一個飽受爭議的應(yīng)用呢？
《Motherboard》的報道為我們解答了這一疑惑。
此前，阿爾貝托創(chuàng)業(yè)失敗了，在經(jīng)濟(jì)上遭遇困境，“我問自己，是否能憑借這個算法技術(shù)賺到錢”？
答案是肯定的。
短短五天內(nèi)，就有50萬人在使用DeepNude。巨大的流量一度使服務(wù)器不穩(wěn)定，導(dǎo)致付款出現(xiàn)問題。他一直在社交媒體推特上安撫用戶，“Wehadproblemswithpayments.Pleasetrylaterorusecrypto.”（我們的付款出現(xiàn)問題，請稍后再試或使用加密。）
DeepNudeApp的Twitter賬號界面截圖
6月26日當(dāng)天，用戶量太大，他被迫關(guān)閉服務(wù)器。還說，在解決問題之前，不接受任何付款。
DeepNude推出四天后，阿爾貝托還沒意識到有人在用它做一些充滿惡意的事情。6月27日，連發(fā)了5條推特闡述團(tuán)隊在努力維修D(zhuǎn)eepNude的下載通道和支付通道，“耐心點，我們將在未來發(fā)布越來越穩(wěn)定的版本?！?/p>
即便如此，他們還是離線了，人們下載不了DeepNude，原因不是封禁，而是“因為我們沒有預(yù)料到這么多訪問，我們的服務(wù)器需要加強(qiáng)?！?/p>
DeepNude太火爆了。它能讓人輕而易舉地看到一些明星的隱私，哪怕是合成的。時間前進(jìn)到6月27日晚些時間，阿爾貝托才被迫做出妥協(xié)，決定關(guān)停DeepNude。
“我們以為我們每個月都能以一種可控的方式銷售很少的DeepNude”，但“我們從未想過它會變成病毒，發(fā)展到了不可控的狀態(tài)”，“人們?yōu)E用它的可能性太高了，我們不想這樣賺錢”，“從現(xiàn)在起，DeepNude將不再發(fā)布其他版本，也不允許任何人使用它”。
DeepNude網(wǎng)站的一部分屏幕截圖
阿爾貝托的口頭阻止令毫無效果，至今仍有DeepNude在網(wǎng)絡(luò)上傳播。
就在這一消息發(fā)布前幾小時，他還在認(rèn)為“世界還沒有為DeepNude的到來做好準(zhǔn)備”。
“‘世界尚未準(zhǔn)備好’？我想你的意思是‘我們編寫了一個深刻攻擊性、令人毛骨悚然的應(yīng)用程序，它基本上是一個濫用和侵犯人們隱私的應(yīng)用程序，我們很抱歉’?！币晃籘witter網(wǎng)友看起來很生氣，她不認(rèn)同阿爾貝托的說辭。
“低級需求下產(chǎn)生的應(yīng)用，是有原罪的?！眹鴥?nèi)一名叫“潘一先生”的網(wǎng)友譴責(zé)稱，DeepNude滿足的本就不是正當(dāng)合法的需求。和真實圖像相比，如果說生成的照片與女性很像，那么侵犯了女性的隱私權(quán)；如果說不像，則可能侵犯女性的名譽(yù)權(quán)。
世界永遠(yuǎn)不應(yīng)該為像DeepNude這樣的應(yīng)用做好準(zhǔn)備，而且也不應(yīng)該這樣做。
但就在DeepNude被***之前，DeepFake（深度偽造，多用于換臉）技術(shù)也充滿了爭議。
楊冪和蔡徐坤都被“換臉”去年12月，一段涉及漫威電影《神奇女俠》主演蓋爾·加朵的“成人短片”，在一個類似于貼吧一樣的美國網(wǎng)絡(luò)社區(qū)Reddit流傳，被諸多網(wǎng)友圍觀。***這段視頻的人不是職業(yè)拍攝者，而是一名程序員，網(wǎng)名叫“deepfakes”。
他在業(yè)余時間學(xué)習(xí)了DeepFake技術(shù)，用一些互聯(lián)網(wǎng)免費(fèi)***的工具和素材，將蓋爾·加朵的臉“移植”到了一名色情演員身上。蓋爾·加朵與那部“成人短片”產(chǎn)生聯(lián)系，是非自愿行為。
但那位程序員顯然是沉迷其中了。泰勒·斯威夫特、艾瑪·沃特森、斯嘉麗·約翰遜和麥茜·威廉姆斯等在美國家喻戶曉的女明星都被換臉。
給女明星換臉，國內(nèi)也出現(xiàn)過類似的網(wǎng)絡(luò)事件。那件事發(fā)生在今年初。
把楊冪推進(jìn)換臉風(fēng)波的人，在微博開通了一個叫“換臉哥”的賬號。2月底，他把一段涉及楊冪的視頻上傳到網(wǎng)絡(luò)，引發(fā)熱議。視頻內(nèi)容的主角原本是《射雕英雄傳》中黃蓉的扮演者朱茵，但他用DeepFakes技術(shù)把朱茵的臉換成了楊冪的臉。
一方面，很多人擔(dān)心自己會被同樣的技術(shù)裹入洪流，被人玩弄，開始譴責(zé)他；一方面，有人找到他，希望他幫忙做換臉技術(shù)，其中不少涉及違法犯罪。沒過多久，他與楊冪官方工作室溝通，并下架了相關(guān)視頻。
最為人熟知的換臉惡搞潮發(fā)生在今年初的“雞你太美事件”中，蔡徐坤展示自己興趣愛好的一段視頻，被網(wǎng)友換臉，他們還陸續(xù)推出了新的惡搞版本。蔡徐坤方面為避免被惡搞，還發(fā)出了律師函警告。
蔡徐坤的換臉主角是游戲知名主播五五開
DeepFake的發(fā)展時間不長，在2017年底才興起的，被主流深度討論，也是那時。幾個月后，Reddit禁止上傳非自愿色情內(nèi)容，其他網(wǎng)站也禁止使用深度偽造非自愿色情內(nèi)容。
它的危害之一在于，技術(shù)權(quán)力毫無約束，像瘋狗一樣逮誰咬誰，很容易讓人被技術(shù)另一端的人支配。
演員斯嘉麗·約翰遜是世界上收入最高的女演員之一，以參演漫威系列電影而聞名，江湖人稱“黑寡婦”。她卻深受DeepFake之害。
斯嘉麗·約翰遜
《***》稱，她的臉已經(jīng)被匿名在線“創(chuàng)作者”嫁接到數(shù)十個圖形***場景中，他們正在使用免費(fèi)的人工智能軟件來***令人信服的逼真視頻。一個假視頻，被描述為真正的“泄露”鏡頭，已被觀看超過150萬次。
在現(xiàn)代名望的黑暗現(xiàn)實中，她擁有比大多數(shù)人更多的經(jīng)驗。2011年，她被一名***泄露隱私，這名***后來被判處10年有期徒刑。
在線***虛假的色情照片已經(jīng)存在了幾十年。她在接受《***》采訪時說，DeepFakes的崛起，已被用來騷擾和羞辱女性，這對于尋求在互聯(lián)網(wǎng)上保護(hù)自己的女性來說，是一個新的令人沮喪的挑戰(zhàn)。她對這一現(xiàn)象表示擔(dān)憂，將互聯(lián)網(wǎng)描述為“吃掉自己的巨大黑暗蟲洞”。
在英國，DeepFakes的生產(chǎn)者可能會因騷擾而受到起訴，但有人要求對某種特定犯罪行為進(jìn)行深刻打擊?！缎l(wèi)報》稱，一位學(xué)術(shù)專家認(rèn)為，根據(jù)真實人物的照片***虛假的***應(yīng)該成為修正法案中的刑事犯罪，以解決騷擾問題。
在美國，人們一直在追究身份盜竊，網(wǎng)絡(luò)跟蹤和復(fù)仇色情等各種指控，并討論了更全面的法規(guī)。據(jù)“機(jī)器之心”的報道，目前，美國弗吉尼亞州率先對DeepFakes這些新應(yīng)用采取了行動，擴(kuò)大了其“復(fù)仇色情法”的范疇。修正后的法律于當(dāng)?shù)貢r間7月1日生效。
2014年，弗吉尼亞州對“復(fù)仇色情”的定義是，“以完全或部分裸體狀態(tài)惡意傳播另一個人的錄像或靜止圖像，意圖強(qiáng)迫，騷擾或恐嚇”?，F(xiàn)在，這一法令包含了“DeepFake”，***或操縱的視頻和使用機(jī)器學(xué)習(xí)***的圖像。
現(xiàn)在的規(guī)定稱，未經(jīng)許可分享某人視頻的***照片是違法的——無論是真實的還是偽造的。除了DeepFake，用Photoshop或其他工具***的虛假照片、視頻也包含在內(nèi)。
在現(xiàn)有狀況來看，這項法案保護(hù)的大多是女性。有數(shù)據(jù)顯示，大約有1000萬美國人受到復(fù)仇色情的威脅或成為其復(fù)仇的受害者。根據(jù)美國一家研究所2016年的一項研究，女性遭受男性威脅的可能性是男性的兩倍。
為什么受傷的總是女性？
用“深度假”技術(shù)取悅?cè)藗?p>2018年8月13日，一個叫“原諒寶”的項目嶄露頭角，微博網(wǎng)友“將記憶深埋”發(fā)文稱，為了幫助碼農(nóng)朋友們做一個初步過濾，他聯(lián)合了幾位朋友把1024、91等網(wǎng)站上的視頻和圖片打上標(biāo)簽，進(jìn)行人臉匹配。在碼農(nóng)界一直流傳著一個說法，很多碼農(nóng)每天的時間都分配給了工作，加上天生情商不夠高，內(nèi)心又想著找一個女朋友，在找女朋友方面，很不擅長。這可能導(dǎo)致一個情況，有些碼農(nóng)找到的女朋友可能是“特殊工作者”，或者是“***”，或者是被***女性，或者是其他情況。
發(fā)起者稱，“原諒寶”起到的一個作用就在于，鑒別對方有沒有出現(xiàn)在1024、PronHub等特殊網(wǎng)站上。
使用***不難，你可以上傳一張照片到“原諒寶”，系統(tǒng)會自動匹配1024、PronHub等特殊網(wǎng)站上的數(shù)據(jù)，如果結(jié)果顯示“Fail”，意味著那個人的樣貌出現(xiàn)在了特殊網(wǎng)站上；如果顯示“Pass”，則是“幸運(yùn)過關(guān)”。
消息一出，引來無數(shù)質(zhì)疑和謾罵?！霸弻殹眲t為自己辯解，研發(fā)的目的是“為保護(hù)老實人而生”“接盤俠的福音”，可以解決戀愛中的信任關(guān)系。
5月27日，“將記憶深埋”說，“半年時間，100多TB數(shù)據(jù)，利用1024、91、sex8、PronHub、xvideos等網(wǎng)站采集的數(shù)據(jù)對比Facebook、instagram、TikTok、抖音、微博等社交媒體。我們在全球范圍內(nèi)成功識別了10多萬從事不可描述行業(yè)的小姐姐?！?/p>
“知道這些素材夠判斷多少年嗎？”有人看到這條信息后發(fā)出質(zhì)問。
“你知道什么叫違法嗎？首先，我現(xiàn)在沒有傳播任何數(shù)據(jù)，其次，我沒有公布查詢接口泄露任何人的隱私。”“將記憶深埋”在微博中為自己辯解，“我居住在德國，色情產(chǎn)業(yè)是合法的”。
“將記憶深埋”的囂張氣焰并沒有變?nèi)醯内厔?。直到輿論緊逼，無數(shù)人涌入他的個人微博主頁，對其進(jìn)行譴責(zé)?！皩⒂洃浬盥瘛辈坏貌蛔龀鲋虑福拔視h除這個項目”，“100多TB數(shù)據(jù)在半小時內(nèi)徹底清空”。
此事沒有就此終止，關(guān)于“原諒寶”以App方式轉(zhuǎn)世的消息卻傳了出來，“將記憶深埋”將此事與自己撇清，“本人沒有發(fā)布過任何手機(jī)端App”。但這些設(shè)計背后的動機(jī)天然針對女性，甚至于控制和羞辱女性。
我們習(xí)慣了太多事情了。對社交媒體習(xí)以為常的我們，早就接受了一個來自于技術(shù)世界的觀念：技術(shù)本身是沒有錯的，即便是技術(shù)被披上了狼皮，也是人的錯，它可以作惡，也可以行善。但在今年，科技向善的價值觀導(dǎo)向逐漸成為主流，即便有人在抨擊這一觀念非常模糊，也阻止不了它在這一階段的流行程度。
但DeepNude、DeepFake和原諒寶的故事告訴我們，技術(shù)可以前所未有地、輕而易舉地使人擁有權(quán)力，他們可以通過大數(shù)據(jù)操縱任何一個普通人的生活，讓你感到恐懼，讓你的一切網(wǎng)絡(luò)隱私變成商品公之于眾。它已經(jīng)不再是一個單純的技術(shù)問題，而是一個社會信任問題，從個人信任到新聞信任，我們可能陷入一個再也無法確定媒體內(nèi)容是否符合事實的時代。
“深度假”技術(shù)變得越來越流行，不論是在抖音、快手上的動畫特效，還是美顏相機(jī)里面的貓咪耳朵，都變花樣兒地討好人們。如果說技術(shù)本身是中立，那么道德的存在，就是為了引導(dǎo)技術(shù)別輕易成為“吃掉自己的巨大黑暗蟲洞”。
當(dāng)《Motherboard》的記者向美國加州大學(xué)伯克利分校計算機(jī)科學(xué)教授HanyFarid展示DeepNude時，得知其發(fā)展到這種程度，他感到震驚。
他說，學(xué)術(shù)界和研究人員不得不更加帶有批判性的視角，考慮我們該如何推進(jìn)技術(shù)，以便技術(shù)不被武器化，或以有害的方式被使用。
很多AI研究者也針對DeepNude事件發(fā)聲，大多是譴責(zé)。
3月份，吳恩達(dá)和他的女兒/圖片來自吳恩達(dá)的Twitter賬號
“我很高興DeepNude死了。作為一個人和一個父親，我認(rèn)為這是人工智能最令人作嘔的應(yīng)用之一?！鼻鞍俣仁紫茖W(xué)家、斯坦福大學(xué)CS***教師吳恩達(dá)，在社交媒體發(fā)文表達(dá)了他的憤怒。
他還告誡AI社區(qū)和社員們：“你的確擁有超能力，你建立的東西很重要。請將你的力量用在可以推動世界前進(jìn)的有價值的項目上?！?/p>
（文中部分內(nèi)容根據(jù)編譯資料整理）
