澎湃新聞?dòng)浾?陳宇曦 綜合報(bào)道
1月7日，據(jù)路透社報(bào)道，F(xiàn)acebook宣布，將移除deepfake視頻（即換臉視頻）以及其他被人工操控的視頻，旨在遏制美國(guó)大選前的錯(cuò)誤信息傳播。但一些意在模仿和諷刺的視頻不在移除之列。
Facebook在1月6日于公司博客上發(fā)布了上述消息。Facebook介紹，操縱視頻可以使用簡(jiǎn)單的技術(shù)，比如Photoshop，或者一些運(yùn)用AI技術(shù)和深度學(xué)習(xí)技術(shù)的復(fù)雜工具來(lái)實(shí)現(xiàn)，后者通常體現(xiàn)為deepfake，即換臉視頻。
Facebook介紹了如何處理deepfake的做法，包括調(diào)查AI生成內(nèi)容和欺騙行為（比如虛假賬戶），與學(xué)術(shù)界、政府和產(chǎn)業(yè)界進(jìn)行合作。
具體而言，當(dāng)視頻滿足以下兩個(gè)標(biāo)準(zhǔn)時(shí)，將會(huì)被移除，一是視頻經(jīng)過(guò)編輯后，誤導(dǎo)人們認(rèn)為該視頻的人說(shuō)出了一些話，但實(shí)際并沒(méi)有；另一個(gè)是使用人工智能或機(jī)器學(xué)習(xí)產(chǎn)品，對(duì)視頻進(jìn)行內(nèi)容整合、替換或疊加，使得視頻看上去是真實(shí)的。
Facebook稱，與現(xiàn)有政策一致，如果音頻、照片或視頻違反了其社區(qū)標(biāo)準(zhǔn)，包括裸露、暴力、仇恨言論等，將從平臺(tái)上移除。
不符合移除標(biāo)準(zhǔn)的視頻也會(huì)由獨(dú)立第三方事實(shí)檢查員進(jìn)行審查，如果照片或置評(píng)被認(rèn)定為虛假或部分虛假，F(xiàn)acebook將減少在新聞feed流中的分發(fā)。
Facebook介紹，該公司也在進(jìn)行操縱內(nèi)容的識(shí)別工作，其中，deepfake是最具有挑戰(zhàn)性的部分。在2019年9月，F(xiàn)acebook發(fā)起了Deep Fake檢測(cè)挑戰(zhàn)，鼓勵(lì)世界各地的人們對(duì)deepfake檢測(cè)進(jìn)行研究，創(chuàng)造更多開(kāi)源工具。
華爾街日?qǐng)?bào)稱，借助深度學(xué)習(xí)和人工智能，計(jì)算機(jī)生成的視頻變得越來(lái)越逼真，甚至更難以檢測(cè)，這些換臉視頻可能很有趣，但會(huì)對(duì)人類生活帶來(lái)破壞性的后果。在今年的美國(guó)總統(tǒng)大選之前，社交媒體公司承受著越來(lái)越大的壓力，被要求在網(wǎng)站上消除虛假或誤導(dǎo)性內(nèi)容。
路透社指出，F(xiàn)acebook長(zhǎng)期以來(lái)被政客批評(píng)其內(nèi)容政策，民主黨人譴責(zé)Facebook拒絕對(duì)政治廣告進(jìn)行政治審查，共和黨人則指責(zé)該公司歧視保守派觀點(diǎn)。
Facebook此次移除換臉視頻的做法，也被指存在漏洞。Facebook稱，其禁止deepfake的政策不會(huì)拓展到模仿或諷刺的內(nèi)容中，或僅為了省略和改變順序而被編輯的視頻。華爾街日?qǐng)?bào)認(rèn)為，這會(huì)使得公司處于不得不決定哪些視頻是諷刺視頻，而哪些不是的狀態(tài)。
一個(gè)案例是，美國(guó)眾議院議長(zhǎng)南?！づ迓逦鳎∟ancy Pelosi）一段被編輯過(guò)的視頻不在移除之列，據(jù)華爾街日?qǐng)?bào)介紹，在去年，佩洛西的這段視頻被廣泛分享，視頻被人為編輯放慢了速度，改變了語(yǔ)調(diào)，是她說(shuō)話的感覺(jué)變?yōu)槟＠鈨煽伞?/p>
Facebook表示，由于使用了常規(guī)剪輯，該視頻不屬于deepfake，但該公司仍因?yàn)樵撘曨l被人為故意操作而減少了其分發(fā)。這一做法則招致了廣泛批評(píng)，F(xiàn)acebook此次推出的“新政”也因此充滿爭(zhēng)議。
