Asli: Rubah Teknologi

Sumber gambar: Dihasilkan oleh AI Tak Terbatas

Setelah ChatGPT lahir, diskusi tentang AI tidak pernah berhenti.

Pada akhir Mei tahun ini, lebih dari 370 praktisi AI bersama-sama menandatangani surat terbuka, yang langsung meledakkan lingkaran teknologi global.

"Pernyataan Risiko AI" ini memperingatkan bahwa kecerdasan buatan dapat membawa bencana bagi umat manusia seperti perang nuklir, dan seluruh dunia harus bertindak untuk mengurangi risiko kepunahan kecerdasan buatan.

Jangan hanya membaca konten dalam satu kalimat, tetapi telah mendapat dukungan dari banyak pemimpin industri, termasuk pendiri OpenAI, perusahaan AI teratas, dan eksekutif dari raksasa teknologi veteran Microsoft dan Google.

Saya masih ingat bahwa pada bulan Maret tahun ini, Musk juga bergabung dengan lebih dari seribu pakar dan menyerukan moratorium penelitian dan pengembangan AI setidaknya selama 6 bulan.

Saat ini, bahkan pendiri OpenAI tampaknya merasa bahwa jika AI terus berkembang, apakah itu benar-benar akan menggulingkan manusia?

Di bawah tren AI global, pabrik besar dan kecil bergabung untuk terlibat dalam kecerdasan buatan Surat terbuka yang berat ini seperti pukulan di kepala.

Mungkinkah, mengingat waktu, itu mungkin bukan virus yang tiba-tiba, atau hujan peluru, tetapi kecerdasan buatan yang diciptakan oleh manusia yang akan menghancurkan manusia?

AI mencemari basis pengetahuan

Jangan membicarakannya, mari kita bicara tentang Zhihu, yang sering dikunjungi Gadis Rubah.

Jika Anda mengajukan pertanyaan di Zhihu dengan tulus, Anda mungkin mendapatkan banyak jawaban palsu yang dibuat oleh AI Tanpa sadar, AI mencemari basis pengetahuan dengan gila-gilaan.

Ambil pengguna Zhihu ini bernama "Various Life" sebagai contoh. Nada suaranya seperti robot tanpa emosi. Dia dapat memecahkan masalah dalam waktu sekitar satu atau dua menit, dan membacanya dengan hidungnya, yang sama sekali bukan manusia.

Tidak ada keraguan bahwa dia sama sekali tidak nyata.

Akun AI ini memasukkan sejumlah besar informasi yang belum diverifikasi ke Internet China, dan menyesatkan AI Bing, sehingga Bing memberikan jawaban yang salah.

Meski saat ini sudah di-banned, masih banyak akun seperti Zhihu. Dan Baijiahao, Toutiaohao, Xiaohongshu, dan platform konten lainnya tidak luput, dan semuanya jatuh.

AI mengandalkan database yang kuat untuk meningkatkan efisiensi penulisan, tetapi pada saat yang sama, AI juga menjadi penghasil sampah di Internet Cina.

Hanya setengah tahun setelah ChatGPT lahir, orang harus menghadapi ekspresi stereotip, dan banyak konten berkualitas rendah membanjiri Internet. Ketika pengguna mencari informasi, bahkan setelah membalik beberapa halaman iklan, semua yang mereka lihat hanyalah omong kosong biasa.

Jika AI hanya diberi data sampah palsu, itu akan menciptakan sesuatu yang lebih buruk daripada sampah.

Itu menyebalkan dari bawah ke atas, jadi bagaimana Anda bisa mengharapkannya menghasilkan informasi yang kreatif dan berharga? Hanya bisa jatuh ke dalam lingkaran setan.

*** Wabah Penipuan AI Penuh ***

Saat ini, hal itu sekecil memalsukan selebritas untuk hiburan diri sendiri, dan sebesar menyebabkan kepanikan sosial. Di bawah arahan AI, seluruh dunia menjadi sulit untuk membedakan antara yang benar dan yang salah.

Peristiwa ajaib seperti penangkapan Trump terjadi hampir setiap hari.

Meme ini sangat menarik dan tidak bisa tidak membuat orang tertawa. Namun setelah tertawa, ada kekhawatiran yang tak bisa dijelaskan: era "ada gambar dan kebenaran" telah berakhir dengan tenang.

Beberapa ahli memperkirakan bahwa penyalahgunaan teknologi AI dapat menghasilkan semua jenis berita palsu di masa mendatang, bahkan menyebabkan kepanikan sosial yang tidak perlu, dan hari ini telah tiba.

Sebelumnya, berita bahwa "kereta di Gansu menabrak pekerja perbaikan kereta api, menewaskan 9 orang" menjadi viral di Internet.

Judul yang mengejutkan tersebut telah menimbulkan perbincangan di kalangan netizen. Tidak lama kemudian, polisi Gansu memberangkatkan polisi dan menemukan bahwa berita tersebut palsu, dan itu sepenuhnya kedok lalu lintas blog.

Tersangka mengumpulkan berita hangat dalam beberapa tahun terakhir, kemudian menggunakan ChatGPT untuk memecah dan menulis ulang, dan menerbitkannya ke 21 akun secara berkelompok.

Sangat mudah untuk menghindari pemeriksaan plagiarisme dan penyensoran platform, dan membuat berita sosial yang sensasional. Apalagi berita bohong ini bisa terus diterbitkan dengan nama tempat lain.Kalau orangnya tidak ditangkap, saya tidak tahu sejauh mana kerugiannya akan menyebar.

Saat ini, mengubah wajah dengan AI palsu telah menjadi trik baru bagi banyak penipu.

Hanya perlu 35.000 yuan untuk membeli satu set model pengubah wajah real-time AI secara online. Banyak studio siaran langsung e-niaga menggunakan AI bintang untuk mengubah wajah siaran langsung tanpa izin.

Apalagi dengan kematangan teknologi vocal synthesis, para pembohong lebih betah dalam berkarya.

Model AI saat ini "baik-baik saja". Begitu AI Stefanie Sun memulai debutnya, banyak orang bercanda bahwa penyanyi Stefanie Sun akan kehilangan pekerjaannya. Bahkan penggemar lama yang telah mendengarkannya selama bertahun-tahun mulai meragukan kehidupan, apakah ini benar-benar bukan saya?

Di hadapan teknologi seperti "Raja Kera", siapa yang bisa menjamin memiliki "mata emas"? Scammers memanfaatkan ini untuk melakukan kejahatan.

Pada bulan April tahun ini, Tuan Guo, pemilik sebuah perusahaan di Fuzhou, ditipu sebesar 4,3 juta yuan.

Para penjahat menggunakan teknologi pengubah wajah dan onomatopoeia AI untuk berpura-pura menjadi teman Tuan Guo, dan membuat video WeChat untuk mendapatkan kepercayaan. Wajah dan suaranya sama-sama benar, dan kebanyakan orang benar-benar tidak bisa membedakannya, Tuan Guo baru mengetahui bahwa dia ditipu setelah mentransfer uang.

Meskipun polisi telah bekerja keras untuk mendapatkan kembali sebagian besar uang, $930.000 masih jatuh ke tangan penjahat.

Yang paling saya takutkan adalah para lansia dalam keluarga akan tertipu karena hal ini, mereka memiliki rasa diskriminasi yang buruk dan daya tahan psikologis yang rendah, yang dapat dengan mudah menyebabkan tragedi yang tidak dapat diperbaiki.

Ada kasus nyata dalam serial TV "The Illustrated Book of Hunting Crimes".

Penjahat menggunakan teknologi pengubah wajah AI untuk membuat video anak laki-laki lelaki tua itu meminta bantuan. Orang tua itu tertipu untuk menghancurkan keluarga dan harta bendanya, dan akhirnya bunuh diri karena dia tidak tahan.

## Mengubah wajah dan membuka baju untuk membuat rumor porno

Teknologi pertukaran wajah AI secara bertahap menembus batas hukum dan etika, tidak hanya menipu secara online, tetapi juga menciptakan rumor pornografi untuk wanita di setiap kesempatan.

Di bagian "AI yang mengubah wajah" di banyak situs porno, protagonis telah menjadi bintang wanita populer.

Tidak hanya tokoh masyarakat yang menderita karenanya, masyarakat biasa juga sulit untuk melarikan diri.

Seorang mahasiswi di Guangdong menangis di Internet: 540.000 orang tiba-tiba melihat foto telanjang saya. Dia bahkan dihina sebagai "pelacur Universitas Sun Yat-sen".

Semalam, akun WeChat dan Weibo-nya meledak, dan semua jenis orang asing datang untuk menambah teman, dan banyak dari mereka mengatakan bahwa mereka telah melihat foto telanjangnya dan ingin "berteman" dengannya.

Dan penghasutnya ternyata adalah pelamar tertentu dari sekolah menengahnya, yang ditolak ketika dia mengaku padanya di awal, dan jika dia tidak bisa mendapatkannya, dia menghancurkannya begitu saja.

Meskipun dia mengklarifikasi fakta berulang kali, dan bahkan mengirim pembuat rumor ke kantor polisi, beberapa orang masih berkata, Saya tidak tahu apakah itu hype?

Ada kalimat dalam film "Keep You Safe": Ketika Anda mengatakan seorang gadis adalah seorang wanita, tidak peduli apakah dia atau tidak, dia sudah menjadi wanita.

Jangan dikira ini tembus offline, fungsi buka baju sekali klik AI malah lebih heboh.

Hanya butuh waktu 30 detik untuk melepas semua pakaian yang ada di foto. Selain itu, bagan perbandingan yang dihasilkan dapat memiliki yang asli.

Sebelumnya, foto-foto telanjang wanita di Jalur 3 di Guangzhou menjadi viral di Internet, dan catatan obrolan berbunyi: "Ada seorang wanita cantik di Jalur 3, dia melepas pakaiannya."

Namun, gambar yang terdengar seperti benar-benar terjadi ternyata beberapa orang malang menggunakan fungsi AI "membuka baju sekali klik" untuk menelanjangi pakaian gadis itu dengan jahat.

Padahal, di foto aslinya, gadis itu berpakaian bagus dan sama sekali tidak menyinggung siapa pun.

Ini menciptakan bayangan psikologis yang serius bagi gadis rubah yang sering mengambil Jalur 3

。

Dalam kehidupan nyata, banyak gadis menghadapi hal semacam ini, mereka tidak tahu bagaimana membuktikannya, jadi mereka hanya bisa bodoh dan memakan coptis, dan mereka tidak bisa membedakan rasa sakitnya!

Dalam film "Let the Bullets Fly", anak keenam dijebak karena memakan dua mangkuk agar-agar, tetapi hanya dibayar untuk satu mangkuk. Dia tidak bisa berdebat dengan apa pun, jadi dia hanya bisa membelah perutnya untuk membuktikan dirinya, tetapi pada saat itu, siapa yang benar-benar peduli dengan hasilnya.

Jika ini terus dibiarkan, AI pasti akan berkembang ke titik pelanggaran hukum. Anda tidak dapat mempercayai foto-foto itu, Anda tidak dapat mempercayai suara-suara anggota keluarga Anda, dan sekarang bahkan panggilan telepon dan video perlu berulang kali dikonfirmasi kebenarannya, dan Anda harus khawatir dibohongi jika Anda memposting foto .

Dulu, semua orang takut dengan dunia palsu Truman, tapi sekarang, semua orang adalah protagonisnya.

***AI masih perlu dikembangkan? ***

Karena efek negatif AI begitu besar, seperti yang dikatakan para ahli, dapat memusnahkan manusia jika Anda bermain terlalu besar tanpa memperhatikan, apakah perlu untuk terus berkembang?

Jangan khawatir, "Pernyataan Risiko AI" mungkin memiliki motif tersembunyi. Mengapa kapitalis tiba-tiba menyadari hati nuraninya dan mulai peduli dengan keselamatan seluruh umat manusia? Ini sendiri sangat mencurigakan.

Pendiri OpenAI mengatakan bahwa ini adalah sesuatu yang mengancam keselamatan seluruh umat manusia, namun nyatanya dialah yang bekerja paling keras.

Pada bulan Mei, secara berturut-turut membuka plug-in dan aplikasi seluler untuk GPT-nya sendiri, yang tidak hanya membebaskan batasan AI, tetapi juga memperluas cakupan penggunaan pengguna.

Setelah beberapa operasi, volume unduhan GPT versi iOS telah melebihi satu juta, dan layanan berbayar berlangganan telah melebihi 300.000 dolar AS.

Hal yang sama berlaku untuk Musk, meminta orang lain untuk segera berhenti, dan berhati-hatilah terhadap manusia dan waspadalah terhadap AI, tetapi dia tidak pernah berhenti berinvestasi di AI. Sebuah perusahaan bernama X.AI didirikan pada 9 Maret tahun ini.

Robot Tesla, Tesla Bot, dirilis tahun lalu.

Jika, seperti yang mereka katakan, AI sama menakutkannya dengan epidemi dan perang nuklir, mengapa mereka harus mempertaruhkan nyawa untuk berada di garis depan?

Jika menurut Anda itu berisiko, maka jangan lakukan sama sekali.

Jelas tidak.

Ini tidak bisa tidak mengingatkan saya pada "persahabatan Pan Ga" yang terkenal.Pan Zi mencoba yang terbaik untuk membujuk Ga Zi bahwa Internet terlalu dalam untuk Anda pahami. Nyatanya, subteks batinnya adalah: serahkan saja masalah ini kepada saya sendiri.

Tentu saja, selain tidak ingin pesaing mengejar ketinggalan, dan berbagi lebih banyak kue. Topik ini juga merupakan alat pemasaran yang baik. Teori konspirasi selalu menjadi fokus perhatian semua orang, sulit untuk tidak menarik perhatian pada teknologi yang dapat menghancurkan dunia.

Apalagi, hal yang seharusnya menghancurkan dunia pada awalnya dikembangkan menjadi proyek yang menguntungkan umat manusia pada akhirnya. Saat itu, pengguna mau tidak mau merasa bahwa perusahaan ini sangat hebat dan memiliki hati nurani yang baik.

Oleh karena itu, untuk AI, jika yang lain tidak berhenti, kita tidak boleh berhenti kecuali perusahaan China kita yang mengendalikannya.

Selain itu, bukan AI yang menghancurkan manusia, tetapi manusia itu sendiri.

Mengapa tidak memikirkannya secara terbalik, siapa yang menciptakan AI? Dan siapa yang menyalahgunakan teknologi ini? Pada analisis terakhir, itu adalah kesalahan manusia.

Kami selalu berbicara tentang kepolosan teknologi, tetapi di hadapan kemanusiaan dan uang, AI seperti pedang Damocles yang tergantung di atas kepala.

Untuk melepaskan bel, seseorang harus mengikatnya, karena ini adalah kecerdasan buatan, kecerdasan buatan dan kecerdasan harus berjalan seiring. Namun sayangnya, berkali-kali, dalam permainan antara kecerdasan buatan dan AI, kecerdasan buatan justru mengalami kerugian.

Tapi sekarang, AI menghasilkan terlalu banyak sampah konten, dan itu akan membawa lebih banyak masalah.Sudah waktunya untuk meningkatkan efektivitas tempur manusia, meningkatkan pengawasan, dan memperbaiki undang-undang dan peraturan yang relevan, yang akan segera terjadi.

Permainan antara AI dan manusia mungkin baru saja dimulai.

Gadis rubah merasa bahwa apa pun yang terjadi, kecerdasan buatan adalah tren umum.Kami telah memasuki era baru ini dengan kepala tegak, dan tidak ada jalan keluar. Cara terbaik adalah menciptakan dunia yang harmonis di mana AI hidup berdampingan dengan ramah.