Orijinal: Tech Fox

Görsel kaynağı: Unbounded AI tarafından oluşturuldu

ChatGPT doğduktan sonra yapay zeka hakkındaki tartışmalar hiç durmadı.

Bu yılın Mayıs ayının sonunda, 370'den fazla AI uygulayıcısı, küresel teknoloji çemberini anında patlatan bir açık mektubu ortaklaşa imzaladı.

Bu "AI Risk Beyanı", yapay zekanın insanlığa nükleer savaş gibi felaketler getirebileceği ve tüm dünyanın yapay zekanın yok olma riskini azaltmak için harekete geçmesi gerektiği konusunda uyarıyor.

İçeriği tek bir cümleyle okumakla yetinmeyin, en iyi AI şirketi OpenAI'nin kurucusu ve kıdemli teknoloji devleri Microsoft ve Google'ın yöneticileri de dahil olmak üzere birçok sektör liderinden destek aldı.

Musk'ın bu yılın Mart ayında binden fazla uzmana katıldığını ve AI araştırma ve geliştirme konusunda en az 6 ay süreyle bir moratoryum çağrısında bulunduğunu hala hatırlıyorum.

Bugünlerde, OpenAI'nin kurucusu bile, AI gelişmeye devam ederse, gerçekten insanları devirecek mi?

Küresel AI trendi altında, büyük ve küçük fabrikalar yapay zekaya girmek için güçlerini birleştiriyor.Bu ağır açık mektup, kafaya bir darbe gibidir.

Zaman verilse, ani bir virüs ya da bir kurşun yağmuru değil de, insanoğlunu yok edecek, insanoğlunun yarattığı bir yapay zeka olabilir mi?

AI bilgi tabanını kirletiyor

Bunun hakkında konuşmayalım, Tilki Kızın sık sık ziyaret ettiği Zhihu hakkında konuşalım.

Zhihu'da samimi bir şekilde sorular sorarsanız, yapay zeka tarafından üretilmiş bir sürü yanlış yanıt alabilirsiniz. Yapay zeka bilmeden bilgi tabanını çılgınca kirletiyor.

Örnek olarak "Çeşitli Yaşam" adlı bu Zhihu kullanıcısını alın. Ses tonu duygusuz bir robot gibidir. Bir sorunu yaklaşık bir veya iki dakikada çözebilir ve hiç de insan olmayan burnuyla okuyabilir.

Hiç şüphe yok ki o hiç de gerçek değil.

Bu AI hesabı, Çin İnternetine büyük miktarda doğrulanmamış bilgi girdi ve Bing AI'yı yanlış yönlendirdi, böylece Bing yanlış cevaplar verdi.

Şu anda yasaklanmış olmasına rağmen, hala Zhihu gibi birçok hesap var. Ve Baijiahao, Toutiaohao, Xiaohongshu ve diğer içerik platformları bağışlanmadı ve hepsi düştü.

AI, yazma verimliliğini artırmak için güçlü bir veritabanına güveniyor, ancak aynı zamanda Çin İnternetinde bir çöp üreticisi haline geldi.

ChatGPT'nin doğumundan sadece altı ay sonra, insanlar basmakalıp ifadelerle yüzleşmek zorunda kalıyor ve pek çok düşük kaliteli içerik İnternet'i dolduruyor. Kullanıcılar bilgi aradıklarında, birkaç sayfalık reklamları çevirdikten sonra bile, gördükleri tek şey tanıdık saçmalıklar.

AI yalnızca sahte önemsiz verilerle beslenirse, çöpten daha kötü bir şey yaratacaktır.

Baştan aşağı berbat, öyleyse ondan yaratıcı, değerli bilgiler çıkarmasını nasıl bekleyebilirsiniz? Sadece bir kısır döngüye düşebilir.

AI Dolandırıcılık Tam Salgını

Günümüzde, kişisel eğlence için ünlüleri taklit etmek kadar küçük ve sosyal paniğe neden olacak kadar büyük. AI'nın yönlendirmesi altında, tüm dünya doğru ile yanlışı ayırt etmek zorlaştı.

Trump'ın tutuklanması gibi büyülü olaylar neredeyse her gün yaşanıyor.

Bu memler gerçekten ilginç ve yardım edemiyor ama insanları güldürüyor. Ama gülmenin ardından anlaşılmaz bir endişe var: "Resimler var ve gerçekler var" dönemi sessizce kapandı.

Bazı uzmanlar, AI teknolojisinin kötüye kullanılmasının gelecekte her türlü sahte haber üretebileceğini ve hatta gereksiz toplumsal paniğe neden olabileceğini tahmin ediyor ve bu gün çoktan geldi.

Daha önce, "Gansu'da bir trenin demiryolu tamircilerinin üzerine çarparak 9 kişinin hayatını kaybettiği" haberi internette viral oldu.

Böylesine şok edici bir başlık, netizenler arasında tartışmalara yol açtı. Kısa bir süre sonra, Gansu polisi polisi görevlendirdi ve haberlerin sahte olduğunu ve bunun tamamen bir blog trafiği görüntüsü olduğunu anladı.

Şüpheli, son yıllarda sıcak haberleri topladı, ardından ChatGPT'yi kullanarak onu parçalayıp yeniden yazdı ve toplu olarak 21 hesapta yayınladı.

Platformun intihal kontrolünden ve sansürden kaçınmak ve sansasyonel bir sosyal haber uydurmak kolaydır. Üstelik bu yalan haber başka bir yer adı altında yayınlanmaya devam edebilir.Kişi tutuklanmasaydı zarar nereye kadar yayılır bilemiyorum.

Günümüzde sahte yapay zeka ile yüz değiştirmek birçok dolandırıcı için yeni bir numara haline geldi.

Çevrimiçi olarak bir dizi AI gerçek zamanlı yüz değiştiren model satın almak yalnızca 35.000 yuan'a mal oluyor. Birçok e-ticaret canlı yayın stüdyosu, izinsiz canlı yayın için yüzleri değiştirmek için yıldız yapay zekasını kullanır.

Özellikle vokal sentez teknolojisinin olgunluğuyla, yalancılar işlerinde daha rahatlar.

Mevcut AI modeli tek kelimeyle "iyi". AI Stefanie Sun çıkışını yapar yapmaz, birçok kişi şarkıcı Stefanie Sun'ın işini kaybedeceği konusunda şaka yaptı. Yıllarca dinleyen eski hayranları bile hayattan şüphe etmeye başladı, bu gerçekten ben değil miyim?

"Maymun Kral" gibi bir teknoloji karşısında, "altın gözlere" sahip olmayı kim garanti edebilir? Dolandırıcılar suç işlemek için bundan yararlanır.

Bu yılın nisan ayında, Fuzhou'da bir işletmenin sahibi olan Bay Guo, 4.3 milyon yuan dolandırıldı.

Suçlular, Bay Guo'nun arkadaşları gibi davranmak için AI yüz değiştirme ve yansıma teknolojisini kullandılar ve güven kazanmak için WeChat videoları hazırladılar. Hem yüz hem de ses doğru ve çoğu insan gerçekten farkı anlayamıyor Bay Guo, aldatıldığını ancak parayı transfer ettikten sonra öğrendi.

Polis paranın çoğunu geri almak için çok çalışsa da, 930.000 dolar yine de suçlulara gitti.

En çok korktuğum şey, ailedeki yaşlıların bu yüzden aldatılacak olmaları, ayırt etme duyguları zayıf ve psikolojik dayanıklılıkları düşük, bu da kolayca telafisi mümkün olmayan trajedilere yol açabiliyor.

"Resimli Av Suçları Kitabı" dizisinde böyle gerçek bir durum var.

Suçlular, yardım isteyen yaşlı adamın oğlunun videosunu çekmek için AI yüz değiştirme teknolojisini kullandı.Yaşlı adam, ailesini ve malını mahvetmesi için kandırıldı ve sonunda buna dayanamadığı için intihar etti.

## Pornografik dedikodular çıkarmak için yüz değiştirmek ve soyunmak

Yapay zeka yüz değiştirme teknolojisi, yavaş yavaş yasal ve etik sınırları aştı ve yalnızca çevrimiçi dolandırıcılık yapmakla kalmıyor, aynı zamanda her fırsatta kadınlar için pornografik söylentiler üretiyor.

Pek çok pornografik web sitesinin "yüz değiştiren AI" bölümünde, kahramanlar popüler kadın yıldızlar haline geldi.

Sadece tanınmış kişiler bundan muzdarip değil, sıradan insanların da kaçması zor.

Guangdong'da bir üniversite öğrencisi kadın internette ağladı: 540.000 kişi aniden çıplak fotoğraflarımı gördü. Hatta "Sun Yat-sen Üniversitesi sürtüğü" diye hakarete uğradı.

Bir gecede WeChat ve Weibo hesapları patladı ve her türden yabancı arkadaş eklemek için geldi ve birçoğu onun çıplak fotoğraflarını gördüklerini ve onunla "arkadaş olmak" istediklerini söyledi.

Ve kışkırtıcı, lisesinin belli bir talip olduğu ortaya çıktı, başlangıçta ona itiraf ettiğinde reddedildi ve alamazsa, onu mahvetti.

Gerçeği defalarca açıklamasına ve hatta dedikoducuyu karakola göndermesine rağmen, bazı insanlar hala "Bilmem abartı mı?"

"Güvende Kal" filminde şöyle bir replik vardır: Bir kız hanımefendidir dediğiniz zaman hanımefendi olsun ya da olmasın zaten öyledir.

Bunun çevrim dışı olduğunu düşünmeyin, AI tek tıklamayla soyunma işlevi daha da çılgın.

Fotoğraftaki tüm kıyafetleri çıkarmak sadece 30 saniye sürüyor. Ayrıca, oluşturulan karşılaştırma tablosunun gerçekleri olabilir.

Daha önce, Guangzhou'da 3. hatta kadınların çıplak fotoğraflarının fotoğrafları internette viral olmuştu ve sohbet kayıtlarında "3. hatta güzel bir kadın var, kıyafetlerini çıkarmış" yazıyordu.

Bununla birlikte, kulağa gerçekten yaşanmış gibi görünen bu resim, bazı sefil insanların, kızın kıyafetlerini kötü niyetli bir şekilde soymak için AI "tek tıklamayla soyunma" işlevini kullandığı ortaya çıktı.

Aslında orijinal fotoğrafta kız iyi giyimliydi ve kimseyi gücendirmedi.

Bu, genellikle 3. Sırayı alan tilki kız için ciddi bir psikolojik gölge yarattı.

.

Gerçek hayatta birçok kız bu tür şeylerle karşılaşır, bunu nasıl kanıtlayacaklarını bilmezler, bu yüzden sadece aptal olup polisiye yiyebilirler ve acıyı anlatamazlar!

"Bırak Kurşunlar Uçsun" filminde altıncı çocuk iki kase jöle yemekle suçlandı, ancak yalnızca bir kase için ödeme yapıldı. Hiçbir şeyle tartışamazdı, bu yüzden sadece kendini kanıtlamak için karnını kesebilirdi, ama o zaman kimin gerçekten umursadığı sonucu.

Bu kontrol edilmeden bırakılmaya devam edilirse, AI kanunsuzluk noktasına doğru gelişmeye mahkumdur. Resimlere inanamıyorsunuz, aile fertlerinizin seslerine inanamıyorsunuz ve artık telefon görüşmelerinin ve videoların bile doğruluğunun defalarca teyit edilmesi gerekiyor ve fotoğraf yayınlarsanız size yalan söylenmesinden endişe duymanız gerekiyor. .

Geçmişte herkes Truman'ın sahte dünyasından korkardı ama şimdi herkes baş kahraman.

***AI'nın hala geliştirilmesi gerekiyor mu? ***

Yapay zekanın olumsuz etkileri çok büyük olduğu için, uzmanların dediği gibi, dikkat etmeden çok büyük oynarsanız insanları yok edebilir, gelişmeye devam etmek gerekli mi?

Endişelenmeyin, "AI Risk Bildirimi"nin gizli amaçları olabilir. Kapitalistler neden bir anda vicdanlarının farkına varıp tüm insanlığın güvenliğini düşünmeye başladılar? Bu kendi içinde oldukça şüphelidir.

OpenAI'nin kurucusu bunun tüm insanlığın güvenliğini tehdit eden bir şey olduğunu ama aslında en çok çalışanın kendisi olduğunu söyledi.

Mayıs ayında, art arda kendi GPT'si için yalnızca yapay zekanın sınırlamalarını ortadan kaldırmakla kalmayan, aynı zamanda kullanıcı kullanım kapsamını da genişleten eklentileri ve mobil uygulamaları açtı.

Bazı işlemlerden sonra, GPT'nin iOS sürümünün indirme hacmi şimdiden bir milyonu aştı ve ücretli abonelik hizmeti 300.000 ABD dolarını aştı.

Aynı şey Musk için de geçerli, başkalarını bir an önce durmaya, insanlardan ve yapay zekadan sakınmaya çağırıyor ama o, yapay zekaya yatırım yapmaktan asla vazgeçmedi. Bu yıl 9 Mart'ta X.AI isimli bir şirket kuruldu.

Tesla'nın robotu Tesla Bot geçen yıl piyasaya çıktı.

Yapay zeka, dedikleri gibi salgın hastalıklar ve nükleer savaşlar kadar korkutucuysa, ön saflarda yer almak için neden hayatlarını riske atmaları gerekiyor?

Riskli olduğunu düşünüyorsan hiç yapma.

Açıkçası, hayır.

Bu bana ünlü "Pan Ga'nın arkadaşlığını" hatırlatmadan edemiyor. Pan Zi, Ga Zi'yi İnternet'in kavrayamayacağınız kadar derin olduğuna ikna etmek için elinden geleni yaptı. Aslında, iç alt metin şudur: bu konuyu bana bırakın.

Tabii rakiplerin kendilerine yetişmesini ve daha fazla pasta paylaşmasını istememenin yanı sıra. Bu konu aynı zamanda iyi bir pazarlama aracıdır. Komplo teorileri her zaman herkesin ilgi odağı olmuştur.Dünyayı yok edebilecek bir teknolojiye dikkat çekmemek elde değil.

Üstelik başlangıçta dünyayı yok etmesi gereken bir şey, sonunda insanlığın yararına olacak bir projeye dönüştü. O zamanlar kullanıcılar, bu şirketin çok büyük ve büyük bir vicdan sahibi olduğunu düşünmeden edemiyorlar.

Bu nedenle yapay zeka için diğerleri durmazsa, Çinli şirketlerimiz kontrol etmedikçe biz de durmamalıyız.

Dahası, insanları yok eden asla yapay zeka değil, insanın kendisidir.

Yapay zekayı kim yaratıyor? Ve bu teknolojiyi kim kötüye kullanıyor? Son tahlilde insan hatasıdır.

Hep teknolojinin masumiyetinden bahsediyoruz ama insanlık ve para karşısında yapay zeka, Demokles'in başının üzerinde sallanan kılıcı gibi.

Zili çözmek için bağlamak lazım, yapay zeka olduğu için yapay zeka ve zeka el ele gitmeli. Ama ne yazık ki birçok kez yapay zeka ile yapay zeka arasındaki oyunda yapay zeka dezavantaja düştü.

Ama şimdi, yapay zeka tarafından üretilen içerik çok fazla çöp ve daha fazla sorun getirecek.İnsanların savaş etkinliğini artırmanın, denetimi artırmanın ve ilgili yasa ve yönetmelikleri iyileştirmenin zamanı geldi, ki bu çok yakın.

AI ve insanlar arasındaki oyun yeni başlamış olabilir.

Tilki kız, ne olursa olsun yapay zekanın genel trend olduğunu düşünüyor.Bu yeni döneme başımız dik girdik ve çıkış yolu yok. En iyi yol, AI'nın iyi huylu bir şekilde bir arada var olduğu uyumlu bir dünya yaratmaktır.