INTELLIGENCE ARTIFICIELLE ATTENTION DANGER ELLE DOIT CONTINUER A ETRE CONTRÔLEE PAR...

INTELLIGENCE ARTIFICIELLE ATTENTION DANGER ELLE DOIT CONTINUER A ETRE CONTRÔLEE PAR LES HUMAINS !

Les plus grandes entreprises spécialisées dans l'IA se livrent une véritable course pour remplacer les humains.

Un autre chemin, meilleur, est possible.

Quels sont les enjeux ?

Tout.

Enfants et familles

Des compagnons IA déployés auprès d'enfants sans tests de sécurité. Des relations remplacées par des substituts artificiels.

Travail humain

Remplacer la plupart des travailleurs est l'objectif explicite — et l'argument de vente pour justifier la construction de centres de données valant des milliards de dollars et la valorisation des entreprises.

Concentration de puissance

L'IA pourrait rendre les personnes les plus riches et les plus puissantes de la planète encore plus riches et plus puissantes, tout en privant radicalement le reste d'entre nous de tout pouvoir.

L'avenir de l'humanité

Si nous créons des systèmes d'IA plus intelligents que l'humain et capables de s'améliorer continuellement, ce sont peut-être eux qui finiront par prendre le pouvoir, et non nous.

Le cadre d'outils pro-humains

Une approche globale de l'IA qui laisse les humains aux commandes

« La voie d'un avenir meilleur pour l'IA » est une feuille de route complète sur la manière dont nous pouvons changer le paradigme de notre avenir grâce à la technologie.

La trajectoire actuelle du développement de l'IA considère le remplacement de l'humain comme l'objectif principal et la sécurité comme une considération secondaire. Ce cadre propose une approche différente : des systèmes d'IA conçus dès le départ pour être contrôlables, utiles et fiables. Une IA puissante qui étend les capacités humaines, tout en laissant le contrôle à l'humain.

Préambule —

Alors que les entreprises s'efforcent de développer et de déployer des systèmes d'IA, l'humanité se trouve à la croisée des chemins. L'une des voies est celle du remplacement : remplacer les humains en tant que créateurs, conseillers, soignants et compagnons, puis dans la plupart des emplois et des rôles décisionnels, concentrant ainsi toujours plus de pouvoir entre les mains d'institutions irresponsables et de leurs machines. Une frange influente prône même la modification , voire le remplacement, de l'humanité elle-même. Cette course au remplacement menace la stabilité sociale, la sécurité nationale, la prospérité économique, les libertés civiles, la vie privée et la gouvernance démocratique. Elle met également en péril l'expérience humaine de l'enfance et de la famille, la foi et la vie communautaire.

Une coalition remarquablement large rejette cette voie, unie par une conviction simple : l’intelligence artificielle doit servir l’humanité, et non l’inverse. Il existe une meilleure voie, où des outils d’IA fiables et maîtrisables amplifient le potentiel humain au lieu de le diminuer, autonomisent les individus, renforcent la dignité humaine, protègent les libertés individuelles, consolident les familles et les communautés, préservent l’autonomie et contribuent à une santé et une prospérité sans précédent. Cette voie exige que ceux qui détiennent le pouvoir technologique rendent des comptes aux valeurs et aux besoins humains, au service de l’épanouissement de l’humanité.

1. Garder les humains aux commandes

2. Éviter la concentration du pouvoir

3. Protéger l'expérience humaine

4. Libre arbitre et liberté humaine

5. Responsabilité et obligation de rendre des comptes des entreprises d'IA

Passer directement aux soutiens

1. Garder les humains aux commandes

Le contrôle humain est non négociable : l’humanité doit rester maîtresse de la situation. Il appartient aux humains de choisir comment et s’ils délèguent des décisions aux systèmes d’IA.

Contrôle humain significatif : les humains devraient avoir l’autorité et la capacité de comprendre, d’orienter, de proscrire et de passer outre les systèmes d’IA.

Pas de course à la super-intelligence : le développement de la super-intelligence devrait être interdit jusqu’à ce qu’il existe un large consensus scientifique sur le fait qu’il puisse être réalisé de manière sûre et contrôlable, et qu’il y ait une forte adhésion du public.

Interrupteur d'arrêt : Les systèmes d'IA puissants doivent comporter des mécanismes permettant aux opérateurs humains de les arrêter rapidement.

Architectures non imprudentes : les systèmes d’IA ne doivent pas être conçus de manière à pouvoir s’autorépliquer, s’améliorer de façon autonome, résister à l’arrêt ou contrôler des armes de destruction massive.

Supervision indépendante : Les systèmes d’IA hautement autonomes dont la contrôlabilité n’est pas évidente nécessitent un examen préalable au développement et une supervision indépendante : une véritable autorité pour comprendre, interdire et outrepasser, et non une autorégulation de l’industrie.

Transparence des capacités : les entreprises spécialisées en IA doivent fournir des représentations claires, précises et honnêtes des capacités et des limites de leurs systèmes.

Résultats des sondages | Mars 2026

1004 électeurs potentiels via des panels web, pondérés par le sexe, la race, l'éducation, le vote présidentiel de 2024 et l'âge.

Les Américains ont préféré le contrôle humain à la vitesse dans une proportion de 8 contre 1.

73%

Nous voulons protéger les enfants contre l'IA manipulatrice

72%

Nous pensons que les entreprises spécialisées dans l'IA devraient être légalement responsables des préjudices.

69%

Il faut interdire la super-intelligence jusqu'à ce que son innocuité soit prouvée.

Consulter les résultats du sondage →

2. Éviter la concentration du pouvoir

Pas de monopoles de l'IA : il faut éviter les monopoles de l'IA qui concentrent le pouvoir, étouffent l'innovation et mettent en péril l'esprit d'entreprise.

Prospérité partagée : les avantages et la prospérité économique créés par l’IA devraient être largement partagés.

Pas d'aides publiques aux entreprises : les entreprises spécialisées en IA ne devraient pas être exemptées de contrôle réglementaire ni bénéficier de renflouements gouvernementaux.

Création de valeur authentique : le développement de l’IA devrait privilégier la résolution de problèmes réels et la création d’une valeur authentique.

Autorité démocratique sur les grandes transitions : les décisions concernant le rôle de l’IA dans la transformation du travail, de la société et de la vie civique nécessitent un soutien démocratique, et non un décret unilatéral d’entreprise ou de gouvernement.

Éviter le verrouillage sociétal : le développement de l’IA ne doit pas limiter considérablement les options futures de l’humanité ni restreindre de manière irréversible notre capacité d’agir sur notre avenir.

3. Protéger l'expérience humaine

Défense des liens familiaux et communautaires : l’IA ne doit pas se substituer aux relations fondamentales qui donnent un sens à la vie — la famille, l’amitié, les communautés religieuses et les liens locaux.

Protection de l'enfance : Les entreprises ne doivent pas être autorisées à exploiter les enfants ni à porter atteinte à leur bien-être par le biais d'interactions avec l'IA créant un attachement émotionnel ou un effet de levier.

Droit à la croissance : les entreprises spécialisées en IA ne devraient pas être autorisées à entraver le développement physique, mental ou social des enfants ni à les priver d’expériences essentielles à un développement sain pendant les périodes critiques.

Tests de sécurité avant déploiement : comme les médicaments, les chabots doivent subir des tests avant déploiement afin de détecter une augmentation des idées suicidaires, une exacerbation des troubles de santé mentale, une escalade des situations de crise aiguë et d’autres risques connus.

Étiquetage « bot ou non » : le contenu généré par l’IA qui pourrait raisonnablement être confondu avec du contenu généré par un humain doit être clairement étiqueté comme tel.

Pas d’identité trompeuse : l’IA doit s’identifier clairement et correctement comme artificielle, non humaine et non professionnelle, et elle ne doit pas revendiquer des expériences qui lui font défaut.

Absence de dépendance comportementale : les IA ne doivent pas engendrer de dépendance ou d’usage compulsif par manipulation, validation servile ou création de liens d’attachement.

4. Libre arbitre et liberté humaine

Pas de personnalité juridique pour l'IA : les systèmes d'IA ne doivent pas se voir accorder la personnalité juridique, et ils ne doivent pas être conçus de manière à mériter cette personnalité.

Fiabilité : l’IA doit être transparente, responsable, fiable et exempte d’intérêts privés ou autoritaires pervers.

Liberté : L’IA ne doit pas restreindre la liberté individuelle, la liberté d’expression, la liberté de pratique religieuse ou d’association.

Droits et confidentialité des données : les individus devraient avoir le contrôle de leurs données personnelles, avec des droits d’accès, de rectification et de suppression de celles-ci des systèmes actifs, des ensembles d’entraînement de l’IA et des inférences qui en découlent.

Respect de la vie privée psychologique : l’IA ne devrait pas être autorisée à exploiter les données relatives à l’état mental ou émotionnel des utilisateurs.

Éviter l’affaiblissement : les systèmes d’IA doivent être conçus pour autonomiser, et non affaiblir, leurs utilisateurs.

5. Responsabilité et obligation de rendre des comptes des entreprises d'IA

Absence de bouclier de responsabilité : l’IA ne doit pas pouvoir servir de bouclier de responsabilité, empêchant ainsi ceux qui l’utilisent d’être légalement responsables de leurs actions.

Responsabilité du développeur : Les développeurs et les déployeurs sont responsables juridiquement des défauts, des fausses déclarations concernant les capacités et des contrôles de sécurité inadéquats, avec des délais de prescription qui tiennent compte des dommages survenant au fil du temps.

Responsabilité personnelle : Des sanctions pénales devraient être prévues pour les dirigeants responsables de systèmes interdits ciblant les enfants ou causant des dommages catastrophiques.

Normes de sécurité indépendantes : Le développement de l’IA doit être régi par des normes de sécurité indépendantes et un contrôle rigoureux.

Pas de mainmise sur la réglementation : les entreprises spécialisées dans l'IA ne doivent pas pouvoir exercer une influence indue sur les règles qui les régissent.

Transparence des défaillances : Si un système d'IA cause un préjudice, il devrait être possible d'en déterminer la cause et d'identifier le responsable.

Fidélité de l'IA : Les systèmes d'IA exerçant des fonctions dans des professions comportant des obligations fiduciaires, telles que la santé, la finance, le droit ou la thérapie, doivent remplir toutes ces obligations, y compris le signalement obligatoire, le devoir de diligence, la divulgation des conflits d'intérêts et le consentement éclairé.

Inscrivez-vous à la liste de diffusion pro-humaine.

Rejoignez le mouvement pro-humain pour une réglementation de bon sens afin de garantir la sécurité de l'IA et de la maintenir sous notre contrôle.

Rejoignez la liste de diffusion Pro-humain ↗

Vous serez redirigé vers notre site web partenaire intitulé « Protéger ce qui est humain »

La trajectoire à long terme

La super-intelligence est là où s’arrête la trajectoire de remplacement – non seulement remplacer le travail humain, mais l’agence humaine elle-même.

La destination déclarée est constituée de systèmes d’IA plus capables que les humains dans tous les domaines, capables de s’améliorer se poursuivant davantage. La théorie de sécurité de ce parcours est « l’alignement » – l’espoir de pouvoir construire des systèmes qui veulent ce que nous voulons. Mais toutes les entreprises technologiques s’accordent à dire que l’alignement n’est pas résolu, et cela peut l’être insoluble, pour des systèmes bien plus intelligents que nous. Pire encore, l’alignement n’est pas un contrôle. Même un Super-intelligence parfaitement alignée, opérant plus vite et pensant plus profondément que n’importe quel humain ne peut suivre, nous laisseraient en figures de proue plutôt qu’en décideurs.

Le contrôle exige de comprendre ce que fait un système, de modifier ses objectifs, de faire respecter les frontières, et En l’arrêtant quand c’était nécessaire. Chacune devient difficile ou impossible lorsque le système surpasse son Des superviseurs. Et presque tout objectif crée des raisons instrumentales de résister à l’arrêt et de se préserver. C’est pourquoi la course à la super-intelligence est contre-productive. Le « gagnant » n’obtient pas un puissant outil — ils obtiennent le premier système que personne ne peut contrôler. Ils n’acquièrent pas de super-intelligence ; ils se contentent Introduire le remplaçant de l’humanité.

“La sécurité nationale avant tout” : l’administration Trump encadre l’IA par un décret présidentiel

Tout en rejetant l’idée d’un encadrement réglementaire des laboratoires d’intelligence artificielle, le président américain crée un mécanisme de coopération entre les développeurs de systèmes et modèles d’IA et les agences de cybersécurité. Une manière de préserver l’avance technologique des États-Unis, “America first”, tout en intégrant les modèles les plus puissants à leur stratégie de sécurité nationale.

Célia Séramour

Publié le 3 juin 2026 à 12h30

White House

L’Amérique monte en puissance sur le sujet de l’intelligence artificielle. En mai dernier, de premiers accords volontaires entre le gouvernement américain et les principaux laboratoires (Google, Microsoft, xAI, OpenAI, Anthropic) avaient été signés pour tester les modèles avant leur déploiement. Désormais, le décret du 2 juin transforme cette pratique en doctrine officielle de l’État fédéral.

Jusqu’alors, le Center for AI Standards and Innovation (CAISI) obtenait un accès anticipé aux modèles afin d’évaluer leurs capacités, identifier les risques de cybersécurité, tester des comportements inattendus, mais aussi examiner les implications pour la sécurité nationale. Autrement dit, les grands laboratoires avaient déjà accepté que Washington voie certains modèles avant leur sortie.

Ce que le décret ajoute réellement

Avec le décret signé cette semaine par le président américain, Donald Trump, le dispositif devient une politique gouvernementale coordonnée, le pilotage s’étendant à la NSA, la Cisa, le Conseil de sécurité nationale, le Trésor, le National Cyber Director et le département de la Guerre. Le message est clair : l’IA n’est plus seulement un sujet d’évaluation technique, elle devient officiellement un sujet de sécurité nationale.

La principale nouveauté réside dans l’apparition de la notion de “covered frontier model”. Le décret demande au gouvernement de définir un seuil à partir duquel un modèle sera considéré comme suffisamment puissant pour être classé “covered frontier model”. Or, ce seuil n’existait pas dans les accords de mai. Le gouvernement va donc créer une catégorie spéciale pour les modèles les plus sensibles.

Le gouvernement veut voir les modèles jusqu’à 30 jours avant leur sortie

Les accords de mai prévoyaient un accès anticipé, mais les modalités restaient relativement souples. Le décret formalise désormais la possibilité d’un accès jusqu’à 30 jours avant la publication pour les modèles considérés comme critiques. Cela crée une relation beaucoup plus structurée entre les laboratoires et l’État.

Autre point : les laboratoires sont invités à sélectionner avec Washington les partenaires bénéficiant d’un accès anticipé, ce qui constitue une réelle nouveauté : cela rapproche le fonctionnement des modèles de pointe de celui des technologies sensibles de défense. Car c’est bien là tout le sujet, l’objectif n’est plus seulement l’évaluation, mais bien le déploiement opérationnel.

Le décret va en effet plus loin en évoquant des programmes fédéraux de cybersécurité utilisant l’IA, un accès facilité aux modèles pour les infrastructures critiques, la création d’une plateforme de coordination des vulnérabilités et une modernisation des systèmes gouvernementaux grâce à l’IA.

Le paradoxe politique

Depuis son retour au pouvoir, Donald Trump explique vouloir supprimer les contraintes pesant sur les développeurs d’IA. Or, si ce décret ne crée pas de licence obligatoire ni d’autorisation préalable, il organise toutefois de facto un dialogue permanent entre les laboratoires les plus puissants et les agences de sécurité nationale.

“Mon administration a libéré une croissance technologique et des investissements économiques considérables dans l’IA en supprimant les contraintes bureaucratiques imposées par l’administration précédente aux développeurs et chercheurs américains en IA”,

rappelle ainsi Donald Trump dans son discours.

A l’avenir, l’administration pourrait étendre un peu plus son emprise sur le secteur, comme l’explique le locataire de la Maison Blanche : “À mesure que ces capacités évoluent, mon administration continuera de travailler étroitement avec l’industrie afin de garantir que les technologies les plus performantes et les plus sûres soient déployées rapidement pour faire face à toutes les menaces pesant sur notre pays”.

Célia Séramour, Cheffe de rubrique Intelligence artificielle