L'IA comme technologie normale : la sécurité par la banalité

L'IA comme technologie normale : la sécurité par la banalité

L'intelligence artificielle a été présentée au public de deux manières contradictoires : comme une menace existentielle de fin du monde ou comme une solution magique à tous les problèmes humains. Ces deux cadrages sont contre-productifs. Une perspective plus utile consiste à considérer l'IA comme une *technologie normale* — un outil qui, comme l'électricité, Internet ou l'automobile, devient plus sûr précisément lorsqu'il devient banal. Lorsque nous cessons de traiter l'IA comme extraordinaire, nous pouvons nous concentrer sur les mesures de sécurité pratiques et progressives qui rendent les technologies ordinaires fiables.

Le problème de l'exceptionnalisme

Le récit dominant autour de la sécurité de l'IA est celui de l'exceptionnalisme. On nous dit que l'IA est fondamentalement différente de toute technologie précédente, qu'elle pose des risques existentiels uniques, et que seules des interventions dramatiques et centralisées peuvent nous sauver. Ce cadrage, bien qu'accrocheur, peut être contre-productif. Comme le blog **AI Snake Oil** l'a soutenu, traiter l'IA comme une force extraordinaire conduit à se concentrer sur des catastrophes futures hypothétiques tout en négligeant les préjudices concrets déjà présents aujourd'hui — les biais dans les algorithmes de recrutement, la désinformation, les violations de la vie privée et les systèmes autonomes dangereux.

Lorsqu'une technologie est considérée comme exceptionnelle, il est facile d'exiger une sécurité parfaite avant son déploiement. Mais la sécurité parfaite est un mythe. Aucune technologie n'a jamais été déployée avec un risque zéro. L'automobile était mortelle dans ses premières décennies, mais grâce à une réglementation progressive, des normes d'ingénierie et l'éducation des utilisateurs, elle est devenue bien plus sûre. Le même schéma s'applique au transport aérien, à l'énergie nucléaire et aux dispositifs médicaux. La sécurité n'est pas née d'une solution unique et grandiose, mais de milliers de petites améliorations banales.

Qu'est-ce qui rend une technologie « normale » ?

Une technologie normale est une technologie qui a été intégrée dans le tissu de la vie quotidienne au point de ne plus être remarquable. Nous ne nous émerveillons pas du réseau électrique ; nous nous attendons simplement à ce qu'il fonctionne. Nous ne paniquons pas pour la sécurité d'un grille-pain ; nous faisons confiance à des décennies de normes et de tests qui l'ont rendu sûr. Les technologies normales se caractérisent par :

• **Des normes de sécurité établies** appliquées par des organismes indépendants.
• **Une amélioration progressive** grâce à l'expérience de terrain et à l'analyse des défaillances.
• **Des garanties redondantes** qui empêchent les points de défaillance uniques.
• **Une responsabilité claire** pour les fabricants et les opérateurs.
• **La familiarité des utilisateurs** qui réduit les mauvais usages.

L'IA n'est pas encore une technologie normale. Elle est encore traitée comme nouvelle, mystérieuse et imprévisible. Mais la voie vers la sécurité réside dans sa normalisation — en l'intégrant dans les mêmes systèmes de réglementation, de test et de surveillance qui régissent les autres technologies.

Leçons du AI Alignment Forum

Le **AI Alignment Forum** est une communauté dédiée au défi technique de garantir que les systèmes d'IA fassent ce que leurs créateurs ont prévu. Les discussions du forum se concentrent souvent sur des problèmes hautement techniques : la spécification incorrecte des récompenses, l'alignement interne et l'alignement trompeur. Ce sont des questions importantes, mais elles sont souvent présentées comme des énigmes existentielles nécessitant des avancées révolutionnaires.

Une approche plus banale demanderait : comment appliquer les pratiques de sécurité d'ingénierie existantes à l'IA ? Par exemple :

• **Tests et validation** : tout comme nous testons les ponts avec des simulations de charge et les logiciels avec des tests unitaires, les systèmes d'IA peuvent être testés contre des entrées adverses, des cas limites et des changements de distribution.
• **Surveillance et journalisation** : les systèmes d'IA déployés devraient disposer d'une journalisation complète pour détecter les comportements inattendus, tout comme les avions ont des boîtes noires.
• **Dégradation progressive** : les systèmes d'IA devraient être conçus pour échouer en toute sécurité, réduisant leurs fonctionnalités plutôt que de provoquer des conséquences catastrophiques.
• **Supervision humaine** : les décisions critiques devraient nécessiter une confirmation humaine, en particulier dans des domaines à forts enjeux comme la santé, la justice pénale et la finance.

Ce ne sont pas des solutions glamour. Ce sont le travail banal et essentiel pour rendre une technologie fiable. Mais ce sont aussi les voies les plus efficaces vers la sécurité.

L'approche d'Anthropic : la sécurité par la conception

**Anthropic**, une entreprise de sécurité de l'IA, a publiquement mis l'accent sur une philosophie de construction de systèmes d'IA sûrs dès la base. Leur approche inclut des techniques comme l'IA constitutionnelle, où les modèles sont entraînés à suivre des règles explicites, et la recherche en interprétabilité, qui vise à comprendre comment les modèles prennent des décisions. Ce sont des directions prometteuses, mais elles sont plus efficaces lorsqu'elles sont combinées avec les pratiques banales de la technologie normale.

Le travail d'Anthropic sur le red-teaming — sonder systématiquement les modèles pour détecter des vulnérabilités — est une application directe des tests de sécurité standard. Leur accent sur la transparence et les audits externes reflète des pratiques dans des domaines comme la comptabilité et les produits pharmaceutiques. Ce ne sont pas des révolutions ; ce sont des adaptations de méthodes éprouvées.

L'idée clé des communications publiques d'Anthropic est que la sécurité n'est pas une solution unique mais un processus continu. À mesure que les modèles sont déployés et que de nouveaux modes de défaillance apparaissent, les mesures de sécurité doivent évoluer. C'est exactement ainsi que fonctionne la technologie normale. La sécurité du réseau électrique n'est pas une réalisation statique mais un effort continu impliquant les services publics, les régulateurs, les ingénieurs et les consommateurs.

La sécurité banale de l'IA quotidienne

Considérons quelques exemples d'IA qui sont déjà devenues normales :

• **Les filtres anti-spam** : ils utilisent l'apprentissage automatique pour classer les courriels, mais ils sont si banals que nous y pensons rarement. Leur sécurité vient de décennies de perfectionnement, des retours des utilisateurs et de la possibilité de contourner les faux positifs.
• **Les systèmes de recommandation** : les recommandations de Netflix et Amazon ne sont pas parfaites, mais elles sont sûres car elles opèrent dans des domaines à faibles enjeux. Si une recommandation est mauvaise, la conséquence est triviale.
• **La correction automatique** : elle est frustrante mais rarement dangereuse. Sa sécurité vient du contrôle de l'utilisateur — nous pouvons toujours rejeter la suggestion.

Ces exemples montrent que la sécurité n'exige pas une IA parfaite. Elle exige que les conséquences d'un échec soient limitées, que les utilisateurs aient le contrôle et qu'il existe des mécanismes de retour d'information et d'amélioration.

Le défi est d'étendre ces pratiques de sécurité banales aux applications d'IA à forts enjeux : le diagnostic médical, la conduite autonome, les peines pénales et la sécurité nationale. Dans ces domaines, l'échec n'est pas trivial. Mais la solution n'est pas d'arrêter tout déploiement jusqu'à ce qu'une sécurité parfaite soit atteinte. La solution est d'appliquer les mêmes méthodes banales qui ont rendu d'autres technologies sûres :

• **Des cadres réglementaires** qui fixent des normes minimales pour les tests et les performances.
• **Des règles de responsabilité** qui tiennent les développeurs responsables des préjudices.
• **Une supervision indépendante** par des auditeurs tiers.
• **Des exigences de transparence** qui permettent d'examiner le comportement des modèles.
• **L'éducation des utilisateurs** qui aide les gens à comprendre les limites de l'IA.

Le danger du récit « magique »

Une raison pour laquelle l'IA reste exceptionnelle est le récit persistant selon lequel elle est « magique ». Les supports marketing et la couverture médiatique présentent souvent l'IA comme une boîte noire qui produit des résultats étonnants par des moyens mystérieux. Ce cadrage décourage les pratiques de sécurité banales que nous appliquons à d'autres technologies. Si l'IA est magique, comment pouvons-nous la tester ? Si elle dépasse la compréhension humaine, comment pouvons-nous l'auditer ?

La réalité est que l'IA n'est pas magique. C'est un ensemble d'algorithmes, de données et de ressources informatiques, qui peuvent tous être compris, testés et améliorés. Le blog **AI Snake Oil** a mis en garde à plusieurs reprises contre le battage médiatique qui entoure l'IA, arguant qu'il détourne l'attention des risques réels et des solutions réelles. En démystifiant l'IA, nous pouvons la traiter comme un problème d'ingénierie normal et appliquer des solutions d'ingénierie normales.

Rendre l'IA banale : une voie pratique à suivre

Comment rendre l'IA normale ? La voie n'est pas glamour, mais elle est claire :

1. **Standardiser les protocoles de test** : tout comme les voitures ont des crash-tests, les systèmes d'IA devraient avoir des évaluations de sécurité standardisées. Des organisations comme l'Organisation internationale de normalisation (ISO) commencent à développer des normes spécifiques à l'IA, mais beaucoup plus de travail est nécessaire.

2. **Exiger la transparence** : les développeurs devraient publier des fiches de modèle, des fiches techniques et une documentation système décrivant l'utilisation prévue, les limites et les caractéristiques de performance d'un modèle. Cela se fait déjà dans certaines communautés de recherche, mais cela devrait devenir obligatoire pour tous les systèmes déployés.

3. **Établir la responsabilité** : des cadres juridiques clairs devraient attribuer la responsabilité en cas de défaillance de l'IA. Si un véhicule autonome provoque un accident, le fabricant devrait être responsable, comme pour tout autre produit.

4. **Promouvoir la recherche indépendante** : les chercheurs tiers devraient avoir accès aux systèmes d'IA pour une évaluation de la sécurité. C'est courant en cybersécurité et devrait devenir la norme en IA.

5. **Encourager les retours des utilisateurs** : les systèmes d'IA déployés devraient inclure des mécanismes permettant aux utilisateurs de signaler des problèmes et de suggérer des améliorations. Cette boucle de rétroaction est essentielle pour une amélioration progressive de la sécurité.

6. **Redondance et dispositifs de sécurité** : les systèmes d'IA critiques devraient avoir des systèmes de secours et des commandes manuelles. Aucun point de défaillance unique ne devrait être autorisé à causer un préjudice catastrophique.

Conclusion : la sécurité par l'ennui

Les technologies les plus sûres sont celles que nous tenons pour acquises. Nous ne nous inquiétons pas de la sécurité d'un interrupteur parce qu'il a été conçu, testé et réglementé depuis plus d'un siècle. Nous ne paniquons pas pour la sécurité d'un four à micro-ondes parce que nous faisons confiance aux normes qui régissent sa fabrication.

L'IA atteindra une véritable sécurité lorsqu'elle deviendra tout aussi banale. Cela ne signifie pas que l'IA devrait être ennuyeuse ou sans intérêt. Cela signifie que la sécurité de l'IA devrait être ennuyeuse — un résultat routinier et prévisible de pratiques d'ingénierie standard, et non une source constante d'anxiété.

La voie vers une IA sûre ne passe pas par de grands débats existentiels ou des avancées révolutionnaires. Elle passe par le travail lent et sans glamour des tests, de la réglementation, de la transparence et de la responsabilité. Elle passe par le fait de faire de l'IA une technologie normale.

Lorsque l'IA deviendra aussi banale que l'électricité, aussi fiable qu'un grille-pain et aussi sûre qu'un ascenseur, alors nous aurons atteint la sécurité que nous recherchons. Non pas par la magie, mais par la banalité.