原文：科技狐

圖片來源：由無界AI 生成

ChatGPT 誕生後，關於AI 的討論就從來沒斷過。

今年5 月底，370 多名AI 從業人員聯合簽署了一封公開信，瞬間引爆了全球科技圈。

這封《AI 風險聲明》警告稱：人工智能可能會像核戰爭那樣，給人類帶來滅頂之災，全世界應該行動起來，降低人工智能滅絕的風險。

別看內容就一句話，卻得到了包括AI 頂尖企業OpenAI 創始人、老牌科技巨頭微軟和谷歌高管等，多位行業大佬的支持。

還記得，今年3 月份的時候，馬斯克也聯合過超千名專家，呼籲暫停AI 研發至少6 個月。

如今，好像連OpenAI 的創始人都覺得AI 這玩意再發展下去，真的要幹翻人類了？

在全球AI 風口之下，大廠小廠齊上陣大搞人工智能，這封重磅的公開信猶如當頭一擊。

難道，假以時日，毀滅人類的，或許不是突如其來的病毒，也不是槍林彈雨，而是由人類一手締造的人工智能？

AI正在污染知識庫

遠的不說，就說狐妹經常逛的知乎。

如果你虔誠地在知乎提問，可能會收穫到一堆AI 編造的虛假答案，不知不覺中AI 正在瘋狂地污染知識庫。

就拿這位叫“百變人生”的知乎用戶來說，語氣像個沒有感情的機器人，差不多一兩分鐘能搞定一個問題，掐著鼻子讀下來，沒有一點人味。

不用懷疑，他壓根就不是真人。

這個AI 賬戶把大量沒有經過核實的信息，輸入到中文互聯網，並且誤導了Bing AI ，以至於Bing 都給出了錯誤答案。

雖然目前已經被禁言了，但知乎這樣的賬戶還有很多。而且百家號，頭條號，小紅書等內容平台無一倖免，全部淪陷。

AI 依靠強大的資料庫，提高了寫作效率，但與此同時，也成為中國互聯網的垃圾製造者。

ChatGPT 誕生僅僅半年多的時間，人們就要面對千篇一律的表達，大量低質內容充斥著互聯網。用戶搜索資料，即便翻幾頁廣告之後，看到的也都是似曾相識的廢話。

如果AI 被餵進的只有虛假的垃圾數據，那創作出來的也將是比垃圾還垃圾的東西。

從根上就爛透了，還怎麼指望它能輸出有創造力、有價值的信息呢？只能陷入一種惡性循環。

AI 詐騙全面爆發

如今，小到惡搞名人，自娛自樂，大到引起社會恐慌。在AI 的導演之下，全世界都變得真假難辨。

諸如特朗普被抓之類的魔幻事件，幾乎每天都在上演。

這些梗圖確實很有意思，不禁讓人哈哈大笑。但笑過之後卻是莫名的擔憂：“有圖有真相”的時代已經悄然結束了。

有專家預言，AI 技術濫用未來可能產出各種假新聞，甚至引起不必要的社會恐慌，而這一天早就到來了。

之前，“甘肅一火車撞上修鐵路工人，致9 人死亡”的消息在網絡上瘋傳。

如此駭人聽聞的標題，引起了不網友的討論。沒過多久，甘肅警方出警，結果發現這個新聞是偽造的，完全就是一個博流量的幌子。

犯罪嫌疑人蒐集了近年來的大熱新聞，然後用ChatGPT 打散重寫，批量發佈到了21 個賬號上。

很輕易就避開平台的查重審查，炮製出一條聳人聽聞的社會新聞。而且，這條假新聞換個地名還能繼續發，如果不是人被抓了，不知道危害還要擴散到什麼程度。

如今，以假亂真的AI 換臉已經成為不少詐騙分子的新花招。

在網上購買一套AI 實時換臉的模型僅需3.5 萬元。不少電商直播間未經允許，就擅自使用明星AI 換臉進行直播。

特別是隨著人聲合成技術的成熟，騙子們工作起來更加如魚得水了。

現在的AI 模型簡直“成精”，AI 孫燕姿一出道，有不少人開玩笑說歌手孫燕姿要失業了。就連多年老粉聽了都開始懷疑人生，這難道真的不是本人？

在猶如“真假美猴王”的技術面前，誰能保證擁有“火眼金睛”呢？騙子就是利用了這一點，為非作歹。

今年4 月，福州某企業老闆郭先生被騙走430 萬。

犯罪分子採用AI 換臉和擬聲技術，假扮成郭先生的好友，特意打了微信視頻來獲取信任。臉和聲音都對的上，一般人真分辨不出來，郭先生也是轉賬後才發現上當了。

雖然，警方努力追回了大部分款項，但仍有93 萬元流入犯罪分子手中。

最怕就是家裡的老人因此受騙，他們本來分辨意識就差，而且心理承受能力低，很容易釀成無法挽回的悲劇。

在電視劇《獵罪圖鑑》就有這樣一個真實的案例。

犯罪分子利用AI 換臉技術，製作出老人兒子求救的視頻，老人被騙的傾家蕩產，最終承受不住自殺而亡。

## 換臉脫衣造黃謠

AI 換臉技術已經逐漸突破了法律和倫理界線，不僅在線詐騙，還動不動就給女性造黃謠。

很多黃色網站的“換臉AI”專區，主角都變成了當紅女明星。

不僅公眾人物深受其害，普通人也難以倖免。

廣東一名女大學生在網上哭訴：我突然被54 萬人看了裸照。甚至被人侮辱是“中山大學母狗”。

一夜之間，她的微信和微博都爆炸了，各種陌生人來加好友，個不少人都說看過她的裸照，要和她“交朋友”。

而始作俑者，竟然是她高中的某位追求者，當初表白被拒絕了，得不到，乾脆就毀掉。

即使她一遍又一遍地澄清真相，甚至將造謠者送進了警局，但還是有人說，不知道是不是炒作？

電影《保你平安》裡有句台詞說得好：當你說一個女孩是小姐的時候，不管她是不是，她就已經是了。

別以為，這就突破下線了，AI 一鍵脫衣功能更加喪心病狂。

只需要短短30 秒，就能把照片上的衣服全扒光。而且生成的對比圖，效果能以假亂真。

之前，廣州三號線女子裸照的圖片在網絡上瘋傳，而且聊天記錄說的有鼻子有眼：“三號線有個美女，把衣服脫了。”

然而這個聽上去好像真有那麼回事的圖片，竟然是某些猥瑣之人使用AI “一鍵脫衣”功能，把人家姑娘的衣服給惡意扒光了。

其實原照片上，女孩好端端地穿著衣服，根本沒有招惹任何人，簡直是無妄之災。

這對於經常乘坐3 號線的狐妹，產生了嚴重的心裡陰影

。

現實生活中，很多女生遭遇這種事，不知道如何去證明，只能啞巴吃黃連，有苦說不出！

電影《讓子彈飛》老六遭誣陷吃兩碗涼粉，只給了一碗的錢。他百口莫辯，只能剖開肚子去證明自己，可真到那時候，誰還真正關心結果。

如果再這樣繼續放任下去，AI 勢必會進化到無法無天的地步。圖片不能相信，家人的聲音不能相信，如今連電話視頻都需要反复確認是不是真的，發個照片還要擔心自己被黃謠。

以前，人人都害怕虛假的楚門世界，現在，人人都是主角。

***AI 還有必要發展嗎？ ***

那既然AI 的負面作用如此之大，就像專家們所說的那樣，一不留神玩大了可能會滅絕人類，那還有必要繼續發展嗎？

先別急著擔心，那封《AI風險聲明》說不定也別有用心。資本家怎麼就突然良心發現，開始關心全人類的安危了？這本身就很值得懷疑。

OpenAI 創始人嘴上說著，這是一件威脅全人類安危的事情，可實際上就他幹的最起勁。

在5 月接連給自己的GPT 開放了插件和移動端APP，不僅解放了AI 的限制，還擴大了用戶使用範圍。

一番操作之下，GPT 的iOS 版本下載量早就突破了百萬，訂閱的付費服務也超過了30 萬美元。

馬斯克也是一樣，呼籲別人快停下來吧，警惕人類小心AI，自己卻從來沒有放棄在AI 上的投入。今年3 月9 日成立了一家名為X.AI 的公司。

特斯拉的機器人Tesla Bot ，去年就已經發布。

如果像他們說的那樣，AI 像流行病和核戰爭一樣可怕，他們怎麼非要冒死沖在第一線？

既然都覺得有風險，那乾脆就都別乾了吧。

很顯然，不行。

這不禁讓我想到了著名的“潘嘎之交”，潘子苦口婆心勸嘎子說，互聯網水太深，你把握不住。其實，內心潛台詞是：這事兒交給我一個人就行了。

當然除了不想讓競爭對手赶超自己，分走更多的蛋糕。這個話題也是一個很好的營銷手段。陰謀論向來都是大家關注的焦點，一項可能毀滅世界的技術，想不引人注目都難。

而且，一個當初號稱毀滅世界的東西，最後卻被他們發展成為造福人類的項目。到時候，用戶會不由得覺得，這公司好偉大，良心大大的好。

所以，對於AI，別人不停，咱們也堅決不能停，除非我們中國企業掌控了它。

再者說，毀滅人類的從來都不是AI，而是人類自己。

不如反向思考一下，到底是誰在造AI？又是誰在濫用這項技術？歸根結底，還是人類惹的禍。

我們永遠都在談論技術無罪，但在人性和金錢面前，AI 就像是一把懸在頭上的達摩克利斯之劍。

解鈴還須繫鈴人，既然是人工智能，那人工與智能必定是相伴相生的。不過遺憾的是，很多時候，在人工和AI 的博弈中，人工陷入了下風。

但如今，AI 生產的內容垃圾過多，帶來的問題也會越來越多，是時候該增加人工的戰鬥力了，加大監管力度，完善相關法律法規，迫在眉睫。

AI 和人類的博弈或許才剛剛開始。

狐妹覺得，無論怎樣，人工智能是大勢所趨，我們已經昂首走進了這個新時代，沒有退路可言。最好的辦法就是創造一個和AI 良性共處的和諧世界。