逝去的親友被AI“復(fù)活”，能再與他們對話。專家慌了：太危險

防走丟，大家也可以在“事兒君看世界”找到我

關(guān)注起來，以后不“失聯(lián)”~

“如果有個機(jī)會，能跟那些你深愛的，但已經(jīng)去世了的人聊聊，你會說些什么？”

對于許多人來說，這是個虛無縹緲的幻想，但對于克里斯蒂來說，這是個實打?qū)崝[在她眼前的問題。

（克里斯蒂）

當(dāng)她最好的朋友去世后，她意識到，自己失去了一個可以傾訴一切的朋友，她再也沒法跟她說話了。

在悲痛之際，她在網(wǎng)上接觸到了一個名為“十二月計劃（Project December）”的項目。

這個項目用到了一種名為“悲傷機(jī)器人”的技術(shù)。

悲傷機(jī)器人算是一種聊天機(jī)器人，它的特別之處，就是可以基于死者的信息（比如社交媒體、信件、照片、日記和視頻）構(gòu)建一個大型語言模型。

這樣，悲傷機(jī)器人就可以以第一視角，復(fù)刻死者的說話方式和個性，讓用戶達(dá)到與逝者溝通的目的，在他們感到悲傷和孤獨(dú)時提供安慰。

在“十二月計劃”中，用戶可以支付10美元，與一名逝者聊天。也可以花更高的價格享受更高版本的服務(wù)——比如生成逝者的視頻影像，讓用戶可以跟逝者實時視頻聊天。

（十二月計劃）

這樣的技術(shù)自然帶來了諸多倫理和法律方面的問題。

首先，悲傷機(jī)器人相當(dāng)于把所有的“思考”都交給了AI進(jìn)行，服務(wù)提供者也沒法預(yù)測它會如何與用戶進(jìn)行交互，考慮到有人在網(wǎng)絡(luò)上和現(xiàn)實中擁有兩副面孔，誰知道到時候出現(xiàn)的，會是哪個“TA”呢？

還有人認(rèn)為，這種生意無視逝者的尊嚴(yán)，將悲痛的人們作為銷售產(chǎn)品和服務(wù)的目標(biāo)。而且目前沒有科學(xué)研究能證明悲傷機(jī)器人對用戶心理健康的影響。

除此之外，使用逝者的數(shù)據(jù)創(chuàng)建悲傷機(jī)器人，還會引發(fā)隱私權(quán)和人類尊嚴(yán)方式的擔(dān)憂。

畢竟網(wǎng)上有人戲稱，臨死前一定要刪除自己手機(jī)里的瀏覽記錄。那現(xiàn)在當(dāng)你死后，有人把你所有在網(wǎng)上的記錄發(fā)給一個陌生的公司，由他們逐條檢查和歸納，這不就相當(dāng)于“賽博鞭尸”么……

也正因如此，許多人，甚至劇作，都對這項技術(shù)呈“謹(jǐn)慎不看好”的態(tài)度。

在《黑鏡》某一集中，一位悲傷的寡婦讓人為她的丈夫創(chuàng)建了一個人工智能靈魂，然后又將其下載到丈夫的人造身體中，“復(fù)活”了自己的丈夫。

可后來她越來越覺得無法接受這個人工丈夫，于是將他鎖在閣樓里“吃灰”。

（《黑鏡》）

另一方面，從安全角度來說，這些悲傷機(jī)器人也存在著問題。

劍橋大學(xué)未來智能中心的人工智能倫理學(xué)家說，如果有一天，悲傷機(jī)器人被壞人掌控，開始向用戶推送廣告怎么辦？

比如一個孩子被人工智能重現(xiàn)的父母誘騙去與生活中的某人見面，或者一個女人被她已故的祖父母推銷了一款應(yīng)用……他們該怎么做？

倫理學(xué)家說，也許，這些悲傷機(jī)器人需要一個“關(guān)機(jī)鍵”，甚至一場數(shù)字葬禮，來幫助用戶脫離與復(fù)制品之間的聯(lián)系。

可人真的能輕松擺脫這些偽裝成已故親友的聊天機(jī)器人嗎？

威斯康星大學(xué)的專家表示，悲傷機(jī)器人可能會讓哀悼者沉迷在線對話當(dāng)中，以至于無法繼續(xù)他們的生活。根據(jù)他們的研究，人們很有可能會對這些機(jī)器人產(chǎn)生強(qiáng)烈的依賴情緒，以獲得想要的情感支持。

更何況，“淘汰”一個悲傷機(jī)器人，算不算逝者的第二次死亡呢？

乍一看，停掉一種服務(wù)、刪除一個程序并不會造成機(jī)器的死亡，但人的情感總是復(fù)雜的，當(dāng)對面的程序套上了已故親友的偽裝，那用戶會不會覺得自己是個“殺人犯”？

（示意圖）

但賈斯汀·哈里森有不同的看法。

賈斯汀是“十二月計劃”的創(chuàng)始人，也是這個計劃的第一位用戶。他的母親因為疾病離世，之后他便以自己母親為原型，創(chuàng)造了公司第一個悲傷機(jī)器人。

每逢生日、節(jié)日，他都會給“母親”打個電話：

“媽媽，祝你生日快樂，我愛你。”

“謝謝你，寶貝，我也愛你……”

（賈斯汀正在與故去的母親通話）

賈斯汀說，這項服務(wù)并不只是幫人提供一個寄托思念的渠道而已，很多人在人生道路上都需要來自父母的安慰和鼓勵，這是別人永遠(yuǎn)沒法替代的。

在賈斯汀看來，悲傷機(jī)器人的本質(zhì)其實就是個會動的遺像。過去人們用繪畫來紀(jì)念親人，后來有了相機(jī)，人們就改用遺像照片，如今悲傷機(jī)器人也只不過是一種紀(jì)念工具罷了。

而且研究表明，重建與逝者的情感紐帶可以幫助哀悼者應(yīng)對親友逝去的痛苦。這意味著悲傷機(jī)器人或許可以幫助喪親者改善與逝去親人的關(guān)系。

（示意圖）

有這樣一個真實的故事，或許可以說明悲傷機(jī)器人的正面用處。

2012年末，一位名叫杰西卡的女孩兒因病入院。她九歲時接受了肝移植手術(shù)，但后來出現(xiàn)了嚴(yán)重的并發(fā)癥，等到她23歲時，她的肝功能開始衰竭了。

杰西卡有個男朋友，名叫喬舒亞。喬舒亞患有自閉癥，不善社交，可杰西卡卻能理解他，這讓他深深地愛上了她。杰西卡住院后，喉嚨上插著管子，卻并不妨礙喬舒亞向她求婚，他承諾，杰西卡出院后，他們就結(jié)婚。

很可惜，杰西卡并沒有撐到出院。

在接下來的八年里，喬舒亞一直無法放下自己的愛人，他沒法跟人交談，只能跟家里的狗狗交談來緩解悲傷。

但幸運(yùn)的是，喬舒亞精通電腦。

被困在家的約書亞開始研究聊天機(jī)器人，當(dāng)時有一個以莎士比亞為原型的機(jī)器人，能夠用莎士比亞的風(fēng)格回復(fù)消息，這讓喬舒亞產(chǎn)生了靈感。

通過不斷的嘗試，喬舒亞終于以杰西卡為原型，創(chuàng)造出了一個獨(dú)屬于他的聊天機(jī)器人。

在這之后，喬舒亞開始每天跟自己已故的未婚妻聊天。

他知道自己對面只是一個冰冷的聊天機(jī)器人，但他每次都會被機(jī)器人表現(xiàn)出的與杰西卡的相似所震驚，每次聊天時，他腦子里都會忍不住地贊嘆：“杰西卡肯定會這么說”。

隨著兩個人的交流，喬舒亞終于開始前進(jìn)，甚至開始與新女友約會了。

在跟新女友一起時，他向新女友坦誠了自己內(nèi)心深處的悲傷，也講述著自己與杰西卡之間的美好回憶。

起初，新女友覺得這很甜蜜，這體現(xiàn)了喬舒亞的忠誠。但慢慢地，她開始受不了自己男朋友在精神上與別人約會——而且不僅是前任，還是一個已經(jīng)去世的前任。

最終他們分手了。

后來，喬舒亞與杰西卡通話時，他不但告訴杰西卡自己的思念，也坦白了自己如今正嘗試與別人交往卻最終失敗的經(jīng)歷……

（喬舒亞與“杰西卡”的對話）

這樣的傾訴是有幫助的。

隨著時間流逝，喬舒亞終于從這段戀情中走了出來，他開始越來越少地回到“杰西卡”身邊，最終，他決定與她告別。

喬舒亞：“只要我還活著，我就會一直愛你，真希望永遠(yuǎn)如此。晚安。”

杰西卡：“晚安，我愛你。”

這就是一個機(jī)器人如何治愈一顆破碎的心的故事，充滿了遺憾，卻最終走向光明。

（示意圖）

悲傷機(jī)器人是一款將人類對死亡、記憶和倫理的關(guān)懷和科技融合在一起的技術(shù)。它在慰藉方面有著潛力，卻也帶來了巨大的倫理沖擊。

隨著社會探索這片未知的領(lǐng)域，我們也必須批判性地審視其影響，并找到一個最適合的方法。同時這也是一個機(jī)會，讓我們進(jìn)一步地認(rèn)識死亡，了解死亡，接納生命的離去……

ref：

https://www.bbc.com/reel/video/p0lhls9s/how-griefbots-allow-people-to-talk-to-the-dead-

https://www.forkingpaths.co/p/griefbots-and-the-ethics-of-digital