成本1元的假視頻讓全網(wǎng)圍觀！當(dāng)科技開始撒謊，人要學(xué)會清醒

作者 | 陳振

來源 | 財經(jīng)八卦（ID：caijingbagua）

引言：我們都在同一張臉上打補(bǔ)丁，但補(bǔ)丁會變成陷阱。

這個時代的荒誕，總是從一句“我就試試”開始。

最近，安徽一個女子閑來無事，想“測試”一下丈夫的反應(yīng)。她用AI整出一張逼真的照片——家里多了個陌生的流浪漢，坐在客廳里，表情陰郁、光影真實，乍一看和真的一模一樣。她發(fā)給丈夫，本想看看他慌不慌。

結(jié)果——慌的不是丈夫，是整個派出所。男人直接報警求助，警車嗷嗷趕到家門口，最后發(fā)現(xiàn)所謂“流浪漢”，只存在于照片里。

這場從客廳到派出所的烏龍劇，一夜之間沖上視頻號熱搜。有人笑著評論“夫妻信任危機(jī)”，也有人冷靜指出：“你以為是玩笑，下次可能是詐騙?！?/strong>

更離譜的是，這種事已經(jīng)不是第一次。

有男人偽造“女兒被拐”的視頻博取流量，被拘；有騙子用“換臉+擬音”騙走公司幾百萬；有女孩發(fā)現(xiàn)自己“出演了”根本沒拍過的不雅視頻；甚至還有人做出“假火災(zāi)現(xiàn)場”“假求救直播”，專門騙同情。

我們正活在一個真假難辨的時代。信息像洪水一樣涌來，但真相越來越貴。

一個按鈕，就能生成一場“災(zāi)難”；一張圖，就能掀起一場恐慌。

沒人能預(yù)料，下一次，假象會砸到誰頭上。

造假成本一塊錢

信任代價是整個社會

這年頭，真相越來越貴，假貨越來越便宜。

過去造謠要成本，要人演戲、要剪視頻、要擺場景。現(xiàn)在不用了，只要上傳一張臉、點兩下按鈕，就能在幾十秒內(nèi)生成“你從沒做過的事”。

更離譜的是，這種服務(wù)在一些平臺上打擦邊球，賣價低至一元錢。是的，一塊錢，比一瓶礦泉水還便宜。有平臺明碼標(biāo)價：換臉：0.8元/秒；合成語音：1元/秒；“安裝包”：19.9元開通隨便玩。

于是，造假開始“平民化”。

明星被P上假視頻；老板被合成假語音；普通人也可能被拿去拼成“熱點素材”。有網(wǎng)友曬出教程：“輸入照片、選場景、換臉?！?/strong>

所以，這門生意的本質(zhì)是——“造假簡單化”。以前造謠需要專業(yè)，現(xiàn)在人人都能動手。

曾經(jīng)以為AI是還沒成熟的科技玩笑，如今對方可能已經(jīng)拿它做了生意。有人靠造虛假八卦號賺點擊，有人靠偽造受害視頻博同情，還有人更狠，直接拿換臉視頻敲詐勒索。

“新科技”興起了一堆暴發(fā)戶，可被害者的命運卻是無處申冤。

更夸張的是，假事件傳播速度遠(yuǎn)超真相傳播速度。你澄清十次，人家轉(zhuǎn)發(fā)一次“真的假的”，就夠讓真相埋了。

一個小玩笑能驚動派出所，一場謠言能引爆一座城市?？勺钤牡脑虿贿^是——成本太低。

惡意的起點只是一塊錢，而被破壞的是別人半生的信任。這不是科技帶來的魔法，這是人心滑向的深淵。

當(dāng)“真”成了奢侈品，謊言的成本幾乎為零。這才是比“用假流浪漢騙老公”更值得警惕的事。

技術(shù)異化的時代

從“工具人”到“被工具”

本來，這些AI技術(shù)的初衷很單純——讓人們更方便創(chuàng)作、更高效辦公、更輕松表達(dá)、更溫情表達(dá)愛。

但如今，它正在悄悄反噬創(chuàng)造它的人。

一開始，人們把它當(dāng)玩具。有人拿來整蠱、娛樂、試探情感，這都還不算大事。

可當(dāng)“玩笑”多了，就不再是玩笑。比如那位安徽女子，她或許只是想逗丈夫，卻沒意識到——在這個真假混亂的時代，一個假圖，可能比真相更快地觸發(fā)社會反應(yīng)。

警察、鄰居、媒體，全都卷入其中，最后變成一場全網(wǎng)的笑話。

類似的事頻繁發(fā)生，今年六月，北京海淀查處了一起全國首例濫用AI技術(shù)生成的“假名人代言案”。

一家食品公司，把央視知名主持人李梓萌的視頻剪開重組，塞進(jìn)自編口播：“我每天都吃這款深海魚油，頭暈手麻都好了。”

畫面清晰、語音自然、語氣、真誠，足以讓中老年觀眾信以為真。短短幾天，視頻播放量超過萬。

最終這家公司被查封，主持人方面也憤怒聲明：那不是本人說的。

故事聽起來像段子，但現(xiàn)實遠(yuǎn)比段子狠。

因為那段視頻用的所謂“換臉”技術(shù)成本不到十元，甚至只要簡單地輸入人物照片、上傳幾秒原聲，就能生成一段以假亂真的“代言視頻”。

過去騙子要請演員、寫劇本、錄視頻；現(xiàn)在一個人在家敲幾下鍵盤，就能偽造一個你最信任的“官方形象”。

這便是異化的可怕之處：技術(shù)開始支配人的行為。

你想表達(dá)愛，它卻放大猜疑；你想博人一笑，它卻制造恐慌；你以為掌控它，結(jié)果自己成了它的素材庫。

有意思的是，人類的恐懼往往姍姍來遲。

之前，假照片第一次出現(xiàn)在朋友圈，人們驚嘆“太逼真了”；而現(xiàn)在，假語音第一次騙走存款，人們才開始后悔“太相信了”；當(dāng)假視頻第一次毀掉一個女孩的名譽(yù)，人們才終于明白——我們真的需要防護(hù)。

技術(shù)沒有錯，但人有弱點。它放大了人性的好奇、貪婪、窺私與報復(fù)。

而當(dāng)這種“低門檻魔法”落入無底線之手，現(xiàn)實就變成了一場大型“真·整蠱秀”。

造謠的速度

已經(jīng)超過真相的反應(yīng)力

在QQ爆火的年代，網(wǎng)絡(luò)謠言靠文字；而在自媒體泛濫的年代，網(wǎng)絡(luò)謠言靠影像。

有研究者做過實驗：同一條假消息，用AI生成圖片、視頻傳播，比其他口頭語言、文字謠言的轉(zhuǎn)發(fā)速度還要快。因為視頻太逼真了，甚至連新聞機(jī)構(gòu)都一度信以為真。

人類大腦天生信任視覺，“看見”幾乎等于“相信”。于是，當(dāng)影像開始說謊，信任也開始崩塌。

人們開始懷疑視頻證據(jù)，懷疑明星道歉，甚至懷疑身邊人?！斑@段錄音是真的嗎？”、“他真的說過這話嗎？”、“那真的是她本人拍的嗎？”這些原本屬于偵探小說的問題，已經(jīng)進(jìn)入日常對話。

而當(dāng)懷疑成為常態(tài)，社會也變得疲憊。

值得一提的是，AI換臉的第一個明顯受害群體，是女性。被換臉的不雅視頻不再只是個別侵害，而是成長為一條灰色產(chǎn)業(yè)鏈：把某名博主、某個普通女性按粉絲量級分級定價，輸出“私人訂制”色情視頻，收會員費、賣下載權(quán)限、開打賞群。

受害者不僅失去名譽(yù)，還要承受電話騷擾、人肉騷擾、職業(yè)影響甚至生命風(fēng)險。

這類“黃謠產(chǎn)業(yè)”有兩個惡劣特點：“可復(fù)制可規(guī)?；?/strong>——只要有一張清晰臉盤，可能生成無數(shù)版本；“按需定制”——買家可以提出臺詞、場景、甚至“私人劇情”。

當(dāng)羞恥被商品化時，受害者的權(quán)利被系統(tǒng)性侵蝕：不是一次被侵犯，而是被無限次“再利用”。

一方面，我們害怕被騙，于是對任何“真相”都保持懷疑；另一方面，我們又太容易被刺激的影像打動，于是仍舊會被騙。

而當(dāng)所有人都開始懷疑，真正的受害者反而更難發(fā)聲。

造謠者一句“開玩笑的”，輕飄飄；但被害人要花幾個月、甚至幾年去澄清、起訴、恢復(fù)。

科技帶來了速度，但也削弱了真相的耐心。

這就是最悲哀的地方——我們活在最智能的時代，卻變成最不敢信的時代。我們不再相信“真”，卻被“假”操控。

監(jiān)管在追

公眾得學(xué)會“帶腦子”生活了

AI從來都不是原罪，濫用才是。

就像刀子本來是切菜的，現(xiàn)在卻有人拿它去“拍小眾引流視頻”；AI本來是幫人創(chuàng)作、剪片、修圖的，如今卻被用來騙人、造謠、炒流量。

其實，相關(guān)部門早就注意到這股“造假風(fēng)”。

今年以來，“清朗專項行動”已經(jīng)啟動，重點整治偽造人像、合成色情、虛假信息傳播等行為。各大平臺也推出了“AI生成內(nèi)容識別系統(tǒng)”，并計劃強(qiáng)制標(biāo)注AI作品來源。

但這些措施就像修水壩——上游的水越來越多，下游的人游得越來越累。

技術(shù)在瘋長，監(jiān)管在補(bǔ)課，而用戶，還在“哈哈哈，好玩”地轉(zhuǎn)發(fā)。

法律其實已經(jīng)給出了答案。《治安管理處罰法》規(guī)定，編造謊報警情可拘留罰款；刑法中的“編造、故意傳播虛假信息罪”可判三到七年。

可現(xiàn)實中，大多數(shù)人并非故意違法，只是沒意識到：“我以為是玩笑”，法律并不覺得好笑。歸根結(jié)底，最有效的防線，是人自己。

——看到“驚天大瓜”，先別信；

——遇到“哭著求助”的AI語音，先核實；

——想“用AI逗一下對象”，先想想值不值。

技術(shù)越聰明，人就越要有腦子。

最重要的是，不要做那個“傳播起點”的人。別為了圖一樂、賺點贊、秀智商，就把假消息傳下去。

一次點擊，也許就是一場恐慌的導(dǎo)火線。

我們正在進(jìn)入一個“真假共生”的時代。

技術(shù)可以造出最完美的假象，也可以修復(fù)最真實的真相。關(guān)鍵不在于技術(shù)，而在于人。

當(dāng)妻子用生成圖“測試”丈夫，當(dāng)詐騙犯用換臉騙走幾百萬，當(dāng)黃謠視頻毀掉無辜者的人生——這一切背后都在說明：我們太容易相信了，也太容易利用信任去試探別人。

AI并不可怕，可怕的是人心的浮躁。

當(dāng)我們開始拿謊言當(dāng)玩笑、拿虛構(gòu)當(dāng)手段、拿技術(shù)當(dāng)掩護(hù)，這個時代最昂貴的東西，不是算力，而是信任。

或許未來的生活，會越來越“真假難辨”。

那就更需要我們在點“生成”的時候，想一想：——這張臉，這段話，這個視頻，真的該存在嗎？

世界可以被偽造，但人，得保持清醒。技術(shù)的盡頭，不是智能，而是良知。

對此，您怎么看？歡迎在評論區(qū)留言討論，發(fā)表您的意見或者看法，謝謝。