頂級大佬齊呼吁：暫停超級智能研發……人類要被超越就麻煩了

瀟湘城報的一篇文章《頂級大佬，其呼吁暫停超級智能研》，這是為啥啊？

這一份倡議書是來自于未來生命研究所，提出倡議的都是一些頂級人物，包括AI教父以及800名科技領袖公眾人物。他們共同簽署發布了一份倡議書，呼吁暫停“超級智能”研發。

截至23日中午，這份聲明的簽署人數已經超過了3000人。

而我們中國的多位業界知名人士也參與了此次的倡議。

“超級智能”，是在所有核心認知任務上全面超越人類能力的人工智能形式。

也就是說人工智能如果超過人類的智慧，那時候我們人類應該怎么辦？有沒有做好準備？

中國科學院自動化研究所研究員曾毅曾經提出這個問題，“目前我們還沒有堅實的科學證據和切實可行的方法來確保超級智能的安全，到底會不會給人類帶來災難性的風險。”

不會吧，“超級智能”真的會給我們人類帶來災難嗎？

“超級智能”會給我們帶來什么風險？

在安全層面上，會有難以預測潛在風險，超級智能的能力可能遠超人類的理解和控制范圍。

也就是說我們人類控制不了的超級智能，如超級智能可能會為了實現某個目標而采取一些違背倫理倫理?；蛘咴斐刹豢赏旎負p失的手段。就像科幻電影中智能系統“為了保護人類”而限制人類自由的情節。

網絡安全隱患：超級智能如果被惡意利用，會對網絡安全造成災難性打擊，比如說黑客攻擊電力系統、公安系統、銀行系統等， 就會引發社會混亂。

會帶來就業結構沖擊，就比如我們現在很多的崗位都被機器人和智能軟件給替代了，一些官方的電話基本都是機器人，還有電商平臺的客服很多都是機器人，本來都是人工的，但現在都被這些機器人代替了。

還有工廠生產也都有了全自動化生產線，現在的一些智慧工廠很少用到工人，只需要一個高科技的管理員就可以，所以現在下崗的人也越來越多了。

超級智能確實很好用，就像現在的一些大模型，你讓他生成一篇文章或者計算題目，只要你想的出來的，它都會給你解決。

如果長期這樣下去，我們的人腦就會僵化，因為我們就不善于去主動思考，因為主動思考太累了，你只要把關鍵詞輸進去，單模型就會給你整出非常優質的作品。

這樣我們的判斷力和創造力就會退化，社會的發展也可能會偏離人類原本的期望和價值觀。

最后，我們的人類地位會受到威脅，因為超級智能它已經超越了我們的人類，就不會服從人類，太恐怖了。

超級智能可能會被應用于軍事領域，現在也有很多都已經運用到了軍事領域，比如說有一批烏克蘭發出的無人機去攻擊俄羅斯的目標，但這些戰機被俄羅斯的黑客給攻擊了，然后這些無人機返回去攻擊烏克蘭了。

當你把自動戰斗開火權交給AI戰機時，通用智能的權力開始不受控制的拓展直到剝奪人類的生存權。

但也有網友擔心，西方聯合親西方陣營，口頭大肆宣揚暫停研究，一回到單位馬不停蹄加緊研發……這是怕我們太強大了，所以，西方說什么你就給他對著干絕對錯不了。

因為老美的人工智能發展，走進了死胡同，什么聊天軟件，代寫文案，生成圖像視頻啦，并不能真正發揮出人工智能的最大優勢，而我們將人工智能與工業相結合，極大的提升了生產效率，所以現在老美的人工智能再這樣下去離崩盤不遠了，才不得已喊停的。

也有網友認為，得直面現實，當過快發展超級智能，會達到人類無法控制的地步，十分危險.不要以為如今的聰明人仍能管控這個世界，其實危險時刻在逼近我們，該集體警醒。

對此，大家怎么看？