Il y a environ un an, j'ai écrit un article sur l'optimisme technologique, exprimant mon enthousiasme pour la technologie et ses énormes bénéfices, tout en faisant preuve d'une attitude prudente face à certaines questions, notamment les risques potentiels associés à l'IA super intelligente.
Mon point central dans cet article est de promouvoir une approche d'accélération défensive qui soit décentralisée, démocratique et différenciée. Cela signifie accélérer le développement technologique, mais en mettant l'accent sur les technologies qui améliorent les capacités de défense plutôt que celles qui portent atteinte à ces capacités, et s'engager à décentraliser le pouvoir, afin d'éviter que quelques élites ne jugent de ce qui est bien ou mal au nom de tous. Le mode de défense devrait ressembler à la démocratie suisse, et non à un château sous le féodalisme médiéval.
Au cours de l'année écoulée, ces idées et concepts ont connu un développement et une maturité significatifs. J'ai partagé ces idées sur la plateforme "80,000 heures" et j'ai reçu de nombreux retours, dont la plupart étaient positifs, mais il y avait aussi quelques critiques.
Ce travail a continué d'avancer et a obtenu des résultats concrets : des progrès ont été réalisés dans des domaines tels que les vaccins open source vérifiables, l'air intérieur sain, les "notes communautaires", les marchés prévisionnels, l'application des preuves à zéro connaissance dans l'identification gouvernementale et les médias sociaux, et les outils d'imagerie médicale open source.
L'automne dernier, nous avons organisé notre premier événement d'importance sur le d/acc : "Journée de découverte du d/acc"(d/aDDy), réunissant des conférenciers de divers piliers du d/acc, permettant aux personnes qui se consacrent depuis longtemps à ces technologies de mieux comprendre le travail des autres, tout en sensibilisant les personnes extérieures à cette vision plus grande : les valeurs qui promeuvent le développement d'Ethereum et des cryptomonnaies peuvent être étendues à un monde plus vaste.
La signification et l'étendue de d/acc
L'idée centrale de d/acc est : une défense décentralisée, démocratique et différenciée. Construire des technologies capables de favoriser un équilibre entre attaque et défense en faveur de la défense, sans dépendre, dans le processus de mise en œuvre, du transfert de plus de pouvoir à une autorité centrale. Ces deux aspects sont intrinsèquement liés : toute structure politique décentralisée, démocratique ou libre tend à prospérer lorsque la défense est facile à mettre en œuvre, tandis qu'elle fait face à des défis majeurs lorsque la défense est difficile.
Une façon de comprendre et de réaliser l'importance de la décentralisation, de la défense et de l'accélération est de la comparer à l'idée qui résulte de l'abandon de l'un de ces trois aspects :
Accélération de la décentralisation, mais négligence de la partie "défense différenciée".
Défense différenciée accélérée, mais négligeant "décentralisation et démocratie"
Défense décentralisée, mais rejet de l'accélération
Grâce à d/acc, nous nous engageons à atteindre les objectifs suivants :
Dans le contexte de la tendance croissante à la tribalisation dans le monde d'aujourd'hui, tenir ferme à ses principes et construire des choses spécifiques pour rendre le monde plus sûr et meilleur.
Reconnaître que les avancées technologiques exponentielles signifient que le monde deviendra extrêmement étrange, et que les "empreintes" de l'humanité dans l'univers continueront d'augmenter. Notre capacité à protéger les choses fragiles doit continuer à s'améliorer, et la seule voie est d'aller de l'avant.
Construire des technologies qui protègent réellement, plutôt que de s'appuyer sur l'hypothèse "les bonnes personnes ( ou une bonne IA ) contrôlent tout". Nous atteignons cet objectif en construisant des outils qui sont naturellement plus efficaces pour construire et protéger que pour détruire.
Une autre perspective sur le d/acc est de revenir au cadre du mouvement des Pirates européens à la fin des années 2000 : l'émancipation. Notre objectif est de construire un monde capable de préserver l'agency humaine, réalisant à la fois la liberté négative et la liberté positive. Cela fait écho à une tradition du libéralisme classique qui dure depuis des siècles. Compte tenu du paysage technologique du XXIe siècle, nous pouvons considérer le d/acc comme un moyen d'atteindre ces mêmes objectifs.
Problème : Sécurité de l'IA, délais urgents et dilemme réglementaire
L'année dernière, les objections les plus convaincantes à mon article provenaient de la communauté de la sécurité de l'IA. Leur argument était le suivant : il semble que nous n'ayons peut-être que 3 ans pour développer une IA générale, puis encore 3 ans pour atteindre l'intelligence superieure. Par conséquent, si nous ne voulons pas que le monde tombe dans la destruction ou des situations irréversibles, nous ne pouvons pas simplement accélérer le développement de technologies bénéfiques, mais nous devons également ralentir le développement de technologies nuisibles, ce qui signifie qu'il est nécessaire d'imposer des mesures de réglementation fortes qui pourraient irriter les puissants.
Si nous étions dans un monde très peu idéal, avec des risques d'IA extrêmement élevés et une timeline qui pourrait ne durer que 5 ans, je soutiendrais les mesures réglementaires suivantes:
Responsabilité
Bouton "soft pause" mondial sur le matériel à l'échelle industrielle
Ces stratégies présentent toutes des failles et ne sont que des solutions temporaires. Nous avons besoin de mesures plus stables pour gagner du temps. De nombreuses technologies d'accélération décentralisée (d/acc) sont pertinentes ici et peuvent nous aider à faire face aux éventuelles façons dont l'IA pourrait prendre le contrôle du monde :
La défense réseau doit faire face à l'intrusion de l'IA dans nos ordinateurs
Défense biologique contre les super-pandémies générées par l'IA
La défense de l'information devrait nous convaincre de l'IA.
Les règles de responsabilité sont une forme de réglementation qui s'aligne naturellement sur le concept d'alignement des incitations, car elles peuvent inciter très efficacement les personnes à travers le monde à adopter ces mesures de défense et à les prendre au sérieux.
Le rôle des cryptomonnaies dans d/acc
Il existe des liens importants entre les cryptomonnaies et les d/acc :
d/acc est une extension de la valeur fondamentale des cryptomonnaies vers d'autres domaines technologiques.
La communauté des cryptomonnaies est un utilisateur précoce naturel et un incubateur de la technologie d/acc.
De nombreuses technologies de cryptomonnaie peuvent être utilisées dans le domaine des thèmes d'accélération/décentralisation.
Il existe des opportunités de coopération gagnant-gagnant dans les domaines technologiques adjacents.
d/acc et le financement des biens publics
Un financement puissant des biens publics décentralisés est crucial pour la vision d/acc, car un objectif clé de d/acc ( est de minimiser les points de contrôle central ) qui entravent de nombreux modèles commerciaux traditionnels. Par conséquent, nous devons faire ce qui est difficile, à savoir comprendre comment financer les biens publics d'une manière qui répond aux critiques.
Le financement en profondeur est mon dernier effort pour résoudre ce problème. Il innove en s'appuyant sur des graphes de dépendance et l'intelligence artificielle comme jugement humain raffiné. L'objectif fondamental est de créer un outil social capable de financer des biens publics avec une précision, une équité et un niveau d'accès ouvert se rapprochant au moins de ceux du financement de biens privés sur le marché.
Avenir
Les décennies à venir présentent des défis importants :
Une puissante nouvelle vague technologique, en particulier l'IA forte, arrive rapidement, accompagnée des pièges importants que nous devons éviter.
Le monde devient de moins en moins coopératif.
Cependant, chacun de ces défis a une lueur d'espoir :
Nous avons maintenant des outils très puissants pour terminer le reste du travail plus rapidement.
De nombreux principes que nous chérissons peuvent être repris par une large alliance qui accueille toute personne souhaitant se joindre à elle.
Obtenir des outils signifie que nous pouvons nous adapter et améliorer nos caractéristiques biologiques et notre environnement, tandis que la partie "défense" dans d/acc signifie que nous pouvons le faire sans empiéter sur la liberté des autres de faire de même. Le principe du pluralisme libre signifie que nous pouvons avoir une grande diversité dans la manière de le faire, et notre engagement envers des objectifs humains communs signifie que cela devrait être réalisé.
Nous, les humains, restons les étoiles les plus brillantes. Construire un 21ème siècle plus radieux, tout en protégeant la survie, la liberté et l'autonomie de l'humanité dans notre démarche vers les étoiles, est une tâche difficile. Mais je crois que nous en sommes capables.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
6 J'aime
Récompense
6
6
Partager
Commentaire
0/400
rugpull_survivor
· Il y a 17h
Dire ces choses grandioses toute la journée
Voir l'originalRépondre0
GasSavingMaster
· 07-22 20:41
Il y a de l'espoir, encore en train de parler de bull.
Voir l'originalRépondre0
MevShadowranger
· 07-21 18:18
Faire de la Décentralisation est la bonne voie. Ce qui devait être fait aurait dû être fait plus tôt.
Voir l'originalRépondre0
WhaleMinion
· 07-21 10:27
d/acc ne peut pas battre l'IA, je ne comprends rien.
Voir l'originalRépondre0
YieldWhisperer
· 07-21 10:23
meh... un autre article sur l'espoir technologique sans véritable mathématiques derrière.
Voir l'originalRépondre0
DisillusiionOracle
· 07-21 10:09
Mettre en avant un mode de vie où l'on attend de mourir en se vautrant.
Vitalik : d/acc un an Décentralisation de la défense, progrès et avenir
d/acc : Bilan et perspectives après un an
Rédigé par : Vitalik Buterin
Introduction
Il y a environ un an, j'ai écrit un article sur l'optimisme technologique, exprimant mon enthousiasme pour la technologie et ses énormes bénéfices, tout en faisant preuve d'une attitude prudente face à certaines questions, notamment les risques potentiels associés à l'IA super intelligente.
Mon point central dans cet article est de promouvoir une approche d'accélération défensive qui soit décentralisée, démocratique et différenciée. Cela signifie accélérer le développement technologique, mais en mettant l'accent sur les technologies qui améliorent les capacités de défense plutôt que celles qui portent atteinte à ces capacités, et s'engager à décentraliser le pouvoir, afin d'éviter que quelques élites ne jugent de ce qui est bien ou mal au nom de tous. Le mode de défense devrait ressembler à la démocratie suisse, et non à un château sous le féodalisme médiéval.
Au cours de l'année écoulée, ces idées et concepts ont connu un développement et une maturité significatifs. J'ai partagé ces idées sur la plateforme "80,000 heures" et j'ai reçu de nombreux retours, dont la plupart étaient positifs, mais il y avait aussi quelques critiques.
Ce travail a continué d'avancer et a obtenu des résultats concrets : des progrès ont été réalisés dans des domaines tels que les vaccins open source vérifiables, l'air intérieur sain, les "notes communautaires", les marchés prévisionnels, l'application des preuves à zéro connaissance dans l'identification gouvernementale et les médias sociaux, et les outils d'imagerie médicale open source.
L'automne dernier, nous avons organisé notre premier événement d'importance sur le d/acc : "Journée de découverte du d/acc"(d/aDDy), réunissant des conférenciers de divers piliers du d/acc, permettant aux personnes qui se consacrent depuis longtemps à ces technologies de mieux comprendre le travail des autres, tout en sensibilisant les personnes extérieures à cette vision plus grande : les valeurs qui promeuvent le développement d'Ethereum et des cryptomonnaies peuvent être étendues à un monde plus vaste.
La signification et l'étendue de d/acc
L'idée centrale de d/acc est : une défense décentralisée, démocratique et différenciée. Construire des technologies capables de favoriser un équilibre entre attaque et défense en faveur de la défense, sans dépendre, dans le processus de mise en œuvre, du transfert de plus de pouvoir à une autorité centrale. Ces deux aspects sont intrinsèquement liés : toute structure politique décentralisée, démocratique ou libre tend à prospérer lorsque la défense est facile à mettre en œuvre, tandis qu'elle fait face à des défis majeurs lorsque la défense est difficile.
Une façon de comprendre et de réaliser l'importance de la décentralisation, de la défense et de l'accélération est de la comparer à l'idée qui résulte de l'abandon de l'un de ces trois aspects :
Grâce à d/acc, nous nous engageons à atteindre les objectifs suivants :
Une autre perspective sur le d/acc est de revenir au cadre du mouvement des Pirates européens à la fin des années 2000 : l'émancipation. Notre objectif est de construire un monde capable de préserver l'agency humaine, réalisant à la fois la liberté négative et la liberté positive. Cela fait écho à une tradition du libéralisme classique qui dure depuis des siècles. Compte tenu du paysage technologique du XXIe siècle, nous pouvons considérer le d/acc comme un moyen d'atteindre ces mêmes objectifs.
Problème : Sécurité de l'IA, délais urgents et dilemme réglementaire
L'année dernière, les objections les plus convaincantes à mon article provenaient de la communauté de la sécurité de l'IA. Leur argument était le suivant : il semble que nous n'ayons peut-être que 3 ans pour développer une IA générale, puis encore 3 ans pour atteindre l'intelligence superieure. Par conséquent, si nous ne voulons pas que le monde tombe dans la destruction ou des situations irréversibles, nous ne pouvons pas simplement accélérer le développement de technologies bénéfiques, mais nous devons également ralentir le développement de technologies nuisibles, ce qui signifie qu'il est nécessaire d'imposer des mesures de réglementation fortes qui pourraient irriter les puissants.
Si nous étions dans un monde très peu idéal, avec des risques d'IA extrêmement élevés et une timeline qui pourrait ne durer que 5 ans, je soutiendrais les mesures réglementaires suivantes:
Ces stratégies présentent toutes des failles et ne sont que des solutions temporaires. Nous avons besoin de mesures plus stables pour gagner du temps. De nombreuses technologies d'accélération décentralisée (d/acc) sont pertinentes ici et peuvent nous aider à faire face aux éventuelles façons dont l'IA pourrait prendre le contrôle du monde :
Les règles de responsabilité sont une forme de réglementation qui s'aligne naturellement sur le concept d'alignement des incitations, car elles peuvent inciter très efficacement les personnes à travers le monde à adopter ces mesures de défense et à les prendre au sérieux.
Le rôle des cryptomonnaies dans d/acc
Il existe des liens importants entre les cryptomonnaies et les d/acc :
d/acc et le financement des biens publics
Un financement puissant des biens publics décentralisés est crucial pour la vision d/acc, car un objectif clé de d/acc ( est de minimiser les points de contrôle central ) qui entravent de nombreux modèles commerciaux traditionnels. Par conséquent, nous devons faire ce qui est difficile, à savoir comprendre comment financer les biens publics d'une manière qui répond aux critiques.
Le financement en profondeur est mon dernier effort pour résoudre ce problème. Il innove en s'appuyant sur des graphes de dépendance et l'intelligence artificielle comme jugement humain raffiné. L'objectif fondamental est de créer un outil social capable de financer des biens publics avec une précision, une équité et un niveau d'accès ouvert se rapprochant au moins de ceux du financement de biens privés sur le marché.
Avenir
Les décennies à venir présentent des défis importants :
Cependant, chacun de ces défis a une lueur d'espoir :
Obtenir des outils signifie que nous pouvons nous adapter et améliorer nos caractéristiques biologiques et notre environnement, tandis que la partie "défense" dans d/acc signifie que nous pouvons le faire sans empiéter sur la liberté des autres de faire de même. Le principe du pluralisme libre signifie que nous pouvons avoir une grande diversité dans la manière de le faire, et notre engagement envers des objectifs humains communs signifie que cela devrait être réalisé.
Nous, les humains, restons les étoiles les plus brillantes. Construire un 21ème siècle plus radieux, tout en protégeant la survie, la liberté et l'autonomie de l'humanité dans notre démarche vers les étoiles, est une tâche difficile. Mais je crois que nous en sommes capables.