#ETH# d/ACC:1年後の振り返りと展望

昨年頃、私は技術的楽観主義に関する記事を書き、技術に対する全体的な熱意とそれがもたらす可能性のある巨大な利益について述べましたが、特にスーパーインテリジェントAIに関する特定の問題には慎重な姿勢を示しました。この技術が適切に構築されない場合、壊滅的なリスクをもたらす可能性があり、また人類が取り返しのつかない形で権力を失うことにもなりかねません。
私がその記事で提案した核心的な理念は、非中央集権的で民主的かつ差別化された防御的な加速です。これは、技術の発展を加速させることを意味しますが、私たちの防御能力を強化する技術に選択的に焦点を当て、力を集中させるのではなく、分散させる努力をすることを意味します。少数のエリートに権力を集中させ、彼らにすべての人を代表して善悪を決定させるのではなく、です。防御モデルは、民主的なスイスや歴史的な準無政府状態のゾミア地域に似ているべきであり、中世の封建主義の下ではなく。