原作：テックフォックス

画像ソース: Unbounded AI によって生成

ChatGPTが誕生してからもAIに関する議論は止まらない。

今年 5 月末、370 名を超える AI 実践者が共同で公開書簡に署名し、これにより世界のテクノロジー界は即座に爆発しました。

この「AIリスク声明」は、人工知能が核戦争のような災害を人類にもたらす可能性があり、全世界が人工知能絶滅のリスクを減らすために行動すべきであると警告している。

内容を読むだけでなく、AI のトップ企業である OpenAI の創設者や、ベテランのテクノロジー大手である Microsoft や Google の幹部など、多くの業界リーダーからの支持を受けています。

今年3月、マスク氏も1000人以上の専門家に加わり、AIの研究開発を少なくとも6カ月は一時停止するよう呼びかけたのは今でも記憶に新しい。

最近では、OpenAI の創始者ですら、AI がこのまま発展していけば、本当に人間を倒すことになるのだろうか、と感じているようです。

世界的なAIトレンドの下、大小の工場が力を合わせて人工知能に取り組んでおり、この重い公開書簡は頭を殴られるようなものだ。

時間が経てば、それは突然のウイルスや銃弾の雨ではなく、人類が生み出した人工知能が人類を滅ぼす可能性があるのだろうか？

AI が知識ベースを汚染しています

それについては話さないで、キツネ少女がよく訪れる芝湖について話しましょう。

知乎で熱心に質問すると、AI によって捏造された虚偽の回答が大量に得られる可能性があり、知らないうちに AI はナレッジ ベースを狂ったように汚染しています。

「Various Life」という名前の Zhihu ユーザーを例に挙げると、彼の口調は感情のないロボットのようで、問題を 1 ～ 2 分で解決し、鼻で読み解くという、まったく人間的ではありません。

彼がまったく本物ではないことは疑いの余地がありません。

この AI アカウントは、大量の未検証の情報を中国のインターネットに入力し、Bing AI を誤解させ、Bing が間違った答えを出したのです。

現在は禁止されていますが、Zhihuのようなアカウントはまだたくさん存在します。そして、Baijiahao、Toutiaohao、Xiaohongshu、その他のコンテンツプラットフォームも免れず、すべて崩壊しました。

AI は強力なデータベースに依存して書き込み効率を向上させていますが、同時に中国のインターネット上でゴミを生成する存在にもなりました。

ChatGPT が誕生してからわずか半年で、人々は固定的な表現に直面しなければならず、大量の低品質なコンテンツがインターネットに氾濫しています。ユーザーが情報を検索するとき、広告を数ページめくっても、目にするのは見慣れたナンセンスばかりです。

AIに偽のジャンクデータだけを与えれば、ゴミよりも悪いものを生み出すことになる。

根本からダメダメなのに、どうやって創造的で価値のある情報を出力できると期待できるでしょうか？悪循環に陥るだけです。

AI 詐欺の完全発生

今日では、それは自己娯楽のために有名人になりすますのと同じくらい小さなものであり、社会的なパニックを引き起こすのと同じくらい大きなものです。 AIの指導により、世界全体が真実と偽りの区別が困難になりました。

トランプ大統領の逮捕など、魔法のような出来事が毎日のように起きている。

これらのミームは本当に面白くて、人々を笑わせずにはいられません。しかし、笑った後には説明のつかない不安が残ります。「写真があって真実がある」という時代は静かに終わったのです。

一部の専門家は、AI技術の悪用が将来あらゆる種類のフェイクニュースを生み出し、不必要な社会的パニックを引き起こす可能性さえあると予測しており、その日はすでに到来している。

これに先立ち、「甘粛省の列車が鉄道修理作業員に衝突し、9人が死亡した」というニュースがインターネット上で広まった。

この衝撃的なタイトルがネット民の間で議論を呼んでいる。それから間もなく、甘粛省警察が出動したところ、そのニュースはフェイクであり、完全にブログのトラフィックを装ったものであることが判明した。

容疑者は近年話題になったニュースを収集し、ChatGPTを使って分割・書き換えて21のアカウントにまとめて公開した。

プラットフォームの盗作チェックや検閲を回避して、センセーショナルなソーシャル ニュースをでっち上げるのは簡単です。しかもこのフェイクニュースは別の地名で発信され続ける可能性があり、逮捕されていなかったら被害はどこまで広がるか分かりません。

今日、偽の AI で顔を変えることは、多くの詐欺師にとって新たな手口となっています。

AI リアルタイム顔変更モデルのセットをオンラインで購入するには、わずか 35,000 元かかります。多くの e コマース ライブ ブロードキャスト スタジオは、スター AI を使用して、許可なくライブブロードキャストの顔を変更します。

特に音声合成技術の成熟により、嘘つきは仕事にもっと慣れています。

AI のステファニー・サンがデビューするとすぐに、歌手のステファニー・サンは職を失うだろうと多くの人が冗談を言いました。長年聴き続けてきたオールドファンですら人生を疑い始めているのですが、これは本当に私ではないのでしょうか？

「モンキーキング」のようなテクノロジーを前にして、誰が「金の目」を持つことを保証できるでしょうか？詐欺師はこれを利用して犯罪を犯します。

今年4月、福州市の企業経営者郭氏は430万元をだまし取られた。

犯人らはAIの変面技術やオノマトペ技術を利用して郭氏の友人になりすまし、WeChat動画を作成して信頼を獲得した。顔も声も正確で、ほとんどの人は区別がつきませんが、郭さんは送金後に初めて騙されたことに気づきました。

警察は大部分の回収に尽力したが、依然として93万ドルが犯罪者の手に渡った。

私が一番恐れているのは、家族の高齢者がそのために騙されてしまうことであり、差別意識や精神的耐久力が低く、取り返しのつかない悲劇を引き起こしやすいのです。

ＴＶシリーズ「狩猟犯罪図鑑」には、そんな実際の事件があった。

犯罪者らはAIの顔を変える技術を使って老人の息子が助けを求める動画を作成したが、老人は騙されて家族と財産を破滅させられ、最終的には耐えられず自殺した。

## ポルノの噂を立てるために顔を変えたり、服を脱いだりする

AI の顔交換テクノロジーは、法的および倫理的な境界を徐々に突破し、オンラインで詐欺を行うだけでなく、あらゆる場面で女性に対するポルノの噂を生み出します。

多くのポルノ ウェブサイトの「顔を変える AI」セクションでは、主人公は人気の女性スターになっています。

この病気に苦しむのは公人だけではなく、一般人も逃れることは困難です。

広東省の女子大生がインターネットで叫んだ：突然54万人が私のヌード写真を見た。彼女は「中山大学のビッチ」とさえ侮辱された。

一夜にして、彼女のWeChatとWeiboのアカウントは爆発的に爆発し、あらゆる種類の見知らぬ人が友達を追加しに来て、その多くが彼女のヌード写真を見て彼女と「友達を作りたい」と言いました。

そして、その扇動者は、彼女の高校のとある求婚者であったことが判明しました。彼は、最初に告白したときに拒否され、もし彼女が得られなかったら、彼女は単にそれを台無しにしました。

彼女が何度も真実を明らかにし、噂屋を警察署に送り込んだにもかかわらず、まだ誇大広告かどうかわからないという人もいます。

映画「Keep You Safe」の中に次のようなセリフがあります。「女の子がレディだというとき、彼女がレディであるかどうかに関係なく、彼女はすでにレディなのです。」

これがオフラインを突破するとは思えず、AIワンクリック脱衣機能はさらに熱狂的です。

写真に写っている服をすべて脱ぐのにかかる時間はわずか 30 秒です。さらに、生成された比較チャートには実際の比較チャートを含めることができます。

以前、広州の3号線で女性のヌード写真がインターネット上で拡散し、チャット記録には「3号線に美しい女性がいて、服を脱いだ」という内容が記録されていた。

しかし、本当に起こったかのようなこの写真は、一部の卑劣な人々がAIの「ワンクリック脱衣」機能を利用して悪意を持って少女の服を剥がしたものであることが判明した。

実際、元の写真では、女の子はきちんとした服を着ており、誰にもまったく気分を害しませんでした。

これは、ライン 3 を頻繁に利用するキツネの女の子に深刻な心理的影をもたらしました。

。

実生活では、多くの女の子がこのようなことに遭遇しますが、それを証明する方法を知らないので、ただ愚かになってオウレンを食べることしかできず、痛みを伝えることができません。

映画「Let the Bullets Fly」では、6 番目の子供がゼリーを 2 杯食べたという罪に問われましたが、支払われたのは 1 杯分だけでした。彼は何も反論することができなかったので、自分を証明するために腹を切ることしかできませんでしたが、そのとき、誰が結果など気にしていませんでした。

このまま放っておけば、AIは無法地帯にまで進化することは必至だ。写真も信じられない、家族の声も信じられない、今では電話やビデオさえも何度も真実であることを確認する必要があり、写真を投稿すると嘘をつかれないか心配しなければなりません。

昔は誰もがトルーマンの偽りの世界を恐れていましたが、今では誰もが主人公です。

***AI はまだ開発する必要がありますか? ***

専門家が言うようにAIの悪影響はあまりに大きく、あまり注意せずに大げさな行動をすると人類を滅ぼしてしまう可能性があるのに、開発を続ける必要があるのでしょうか？

心配する必要はありません。「AI リスクに関する声明」には裏の動機がある可能性があります。なぜ資本家たちは突然良心に気づき、全人類の安全を気にかけ始めたのでしょうか?これ自体が非常に疑わしい。

OpenAI の創設者は、これは全人類の安全を脅かすものだと言いましたが、実際には彼が最も熱心に取り組んでいます。

5月には自社GPTのプラグインやモバイルアプリを相次いで公開し、AIの限界を解放しただけでなく、ユーザーの利用範囲も拡大した。

いくつかの操作を経て、iOS 版 GPT のダウンロード量はすでに 100 万件を超え、サブスクリプション有料サービスの金額は 30 万ドルを超えています。

マスク氏も同様で、すぐに立ち止まり、人間とAIに注意するよう呼びかけているが、彼はAIへの投資を決してやめていない。今年3月9日にX.AIという会社が設立されました。

テスラのロボット「テスラボット」は昨年リリースされた。

彼らが言うように、AI が疫病や核戦争と同じくらい怖いのであれば、なぜ彼らは命を危険にさらして最前線に立つ必要があるのでしょうか?

リスクがあると思うなら、絶対にやらないでください。

明らかに、そうではありません。

これを聞くと、有名な「パン ガーの友情」を思い出さずにはいられません。パン ジーはインターネットは奥が深すぎて理解できないとガ ジーに全力で説得しました。実際、内なる意味は、「この問題は私に任せてください」というものです。

もちろん、競合他社が自分たちに追いつき、より多くのケーキを共有することを望まないことに加えて。このトピックは優れたマーケティング ツールでもあります。陰謀論は常に人々の注目の的であり、世界を破滅させる可能性のあるテクノロジーに注目を集めないことは困難です。

しかも、当初は世界を滅ぼすはずだったものが、最終的には人類に利益をもたらすプロジェクトへと発展していきました。そのとき、ユーザーはこの会社はとても素晴らしい、良心のある会社だと感じずにはいられません。

したがって、AIについては、他の企業が止めない限り、中国企業が制御しない限り、私たちも止めてはなりません。

さらに、人間を滅ぼすのは決してAIではなく、人間そのものです。

AIを作っているのは誰なのか、逆に考えてみてはいかがでしょうか？そして、誰がこのテクノロジーを悪用しているのでしょうか?結局のところ、それは人間のせいです。

私たちはテクノロジーの無実について常に話していますが、人類とお金の前では、AI は頭上にぶら下がっているダモクレスの剣のようなものです。

鐘を解くには、鐘を結ばなければなりませんが、人工知能である以上、人工知能と知能は連携しなければなりません。しかし、残念なことに、人工知能と AI の間のゲームでは、人工知能が不利な状況に陥ることがよくあります。

しかし現在、AI がコンテンツのゴミを大量に生み出し、問題はますます増えており、人間の戦闘能力を高め、監視を強化し、関連する法律や規制を改善する時期が差し迫っています。

AIと人間の勝負はまだ始まったばかりなのかもしれない。

キツネの女の子は、何があっても人工知能が一般的な傾向であると感じています。私たちは胸を張ってこの新しい時代に突入しており、出口はありません。最善の方法は、AI が仲良く共存する調和のとれた世界を作り出すことです。