L'intégration rapide des systèmes de pilotage automatique dans les industries aéronautique et automobile représente l'un des changements les plus transformatifs dans le transport moderne.De la réduction de la charge de travail des pilotes sur les vols long-courriers à la mise en place de véhicules partiellement autonomes sur les routes publiques, ces technologies promettent une sécurité accrue, une efficacité opérationnelle et une commodité accrue. Toutefois, ces progrès créent simultanément un réseau complexe de défis juridiques et éthiques que les régulateurs, les fabricants et la société en général doivent surmonter.

Cadre juridique des systèmes de pilotage automatique de l'aviation

Dans le domaine de l'aviation, les systèmes de pilotage automatique sont un pilier depuis des décennies, avec des aéronefs modernes capables de gérer presque toutes les phases de décollage, de croisière, d'approche et d'atterrissage, sous certaines conditions.Le paysage juridique entourant ces systèmes est relativement mature mais continue de s'adapter à mesure que de nouvelles capacités d'automatisation émergent. Des organismes de réglementation tels que Federal Aviation Administration (FAA)[ aux États-Unis et L'Agence de la sécurité aérienne de l'Union européenne (AESA)[ établissent des normes de certification strictes que les fabricants doivent respecter avant qu'un système de pilotage automatique puisse être approuvé pour une utilisation commerciale.

Normes de certification de la FAA et de l'AESA

La réglementation de la FAA relative aux systèmes de pilotage automatique est codifiée en vertu du titre 14 du Code de réglementation fédérale, en particulier la partie 25 (Normes de navigabilité : avions de catégorie transport) et la partie 33 (moteurs d'aéronefs) pour les systèmes connexes. La certification consiste à démontrer que le pilote automatique peut exercer ses fonctions prévues en toute sécurité dans des conditions normales et de défaillance. L'AESA respecte des exigences semblables en vertu de ses spécifications de certification (CS-25).

Responsabilités et exigences en matière de formation des pilotes

Ce principe est consacré dans les règlements qui exigent des pilotes qu'ils surveillent le système, qu'ils gardent la connaissance de la situation et qu'ils soient prêts à prendre le contrôle manuel si l'automatisation se comporte de façon inattendue ou en cas d'urgence. Les programmes d'entraînement, comme ceux prescrits par la certification du pilote de ligne de la FAA (ATP), comprennent des modules spécifiques sur les opérations du pilote automatique, la reconnaissance des défaillances et les techniques de récupération manuelle.

Enquêtes sur les accidents et responsabilité civile

Lorsque des incidents liés au pilotage automatique se produisent, des agences d'enquête comme le National Transportation Safety Board (NTSB) et l'Organisation européenne pour la sécurité de la navigation aérienne (Eurocontrol) analysent l'interaction entre les opérateurs humains et les systèmes automatisés. La détermination de la responsabilité implique souvent une attribution complexe: des défauts de conception peuvent impliquer le constructeur, alors que l'erreur de l'exploitant peut transférer la responsabilité à la compagnie aérienne ou au pilote. Le concept juridique de «sécurité du système» exige que même si un pilote fait une erreur, l'automatisation soit conçue pour tolérer cette erreur dans une mesure raisonnable.

Cadre juridique pour le pilote automatique automobile (systèmes avancés d'assistance au conducteur)

Dans le monde automobile, le «pilote automatique» désigne généralement les systèmes avancés d'assistance au conducteur (ADAS) tels que le pilote automatique de Tesla, la Super Cruise de GM et la BlueCruise de Ford. Ces systèmes fournissent une automatisation partielle à des niveaux variables, mais l'environnement juridique est beaucoup moins bien établi que dans l'aviation. La Société des ingénieurs automobiles (SAE) a défini six niveaux d'automatisation de conduite, du niveau 0 (pas d'automatisation) au niveau 5 (automatisme complet).

Règlements en évolution: NHTSA, CEE et lois des États

Aux États-Unis, la National Highway Traffic Safety Administration (NHTSA) a adopté une approche largement non réglementaire, en publiant des directives et des cadres politiques volontaires plutôt que des normes obligatoires. Toutefois, après de nombreux accidents de grande envergure impliquant des systèmes de niveau 2 qui mal utilisent les conducteurs, la NHTSA a commencé à enquêter et à ordonner des rappels. En 2023, la NHTSA a exigé des constructeurs automobiles qu'ils signalent des accidents impliquant des systèmes automatisés avancés, ce qui accroît la transparence.

Responsabilité dans les crashes : pilote, fabricant ou développeur de logiciels ?

Si un conducteur est tenu de superviser le système mais ne le fait pas, il peut être responsable de la responsabilité du conducteur, ce qui suppose que celui-ci comprend les limites du système.Les constructeurs soutiennent que les conducteurs sont en fin de compte responsables de la sécurité du fonctionnement, comme le stipulent les manuels du propriétaire. Toutefois, des cas comme Porter c. Tesla (où une famille de conducteur a été poursuivie après un accident mortel impliquant Autopilot) ont porté une responsabilité au fabricant, alléguant que la désignation et la commercialisation du système ont créé des attentes irréalistes en matière d'autonomie. Les tribunaux se demandent s'il faut considérer les logiciels autonomes comme un «produit» soumis à une responsabilité stricte ou comme un «service» où des normes de négligence s'appliquent.

Incidences sur l'assurance

Actuellement, la plupart des assureurs évaluent les risques en fonction des antécédents de conduite humaine, mais à mesure que l'automatisation devient plus efficace, les primes peuvent être transférées vers les fabricants ou les groupes de responsabilité partagée. Certains pays explorent des cadres de « non-faute » pour les accidents automatisés de véhicules, où l'indemnisation est payée indépendamment de toute faute, semblable à l'indemnisation des travailleurs.

Dimensions éthiques de la technologie de pilotage automatique

Au-delà des obligations légales, les systèmes de pilotage automatique obligent la société à faire face à des questions éthiques profondes sur le rôle des machines dans les décisions de vie ou de mort. Contrairement aux opérateurs humains, les systèmes automatisés prennent des décisions basées sur des algorithmes préprogrammés, qui doivent intégrer des priorités morales.

Le problème du trolley et la prise de décision algorithmique

La plus célèbre expérience de réflexion éthique appliquée aux véhicules autonomes est le problème du chariot : si un accident est inévitable, le système doit-il se détourner pour frapper un piéton plutôt que plusieurs, ou privilégier la sécurité des passagers par rapport aux spectateurs ? Bien que les scénarios réels soient beaucoup plus complexes, ce dilemme souligne que les systèmes autonomes ne peuvent pas éviter de porter des jugements de valeur. Des sondages comme l'expérience MIT Moral Machine ont montré que les préférences du public varient grandement d'une culture à l'autre, ce qui crée un défi pour les fabricants qui doivent programmer leurs systèmes pour s'aligner sur les attentes de la société.

Dégradation des compétences et des ressources

Dans l'aviation, on parle de « paradoxe de l'automatisation » : plus l'automatisation est fiable, moins les pilotes sont susceptibles de la surveiller de près, mais lorsqu'il y a des défaillances, ils sont souvent soudains et nécessitent une récupération manuelle immédiate. Des études ont montré que les pilotes qui comptent beaucoup sur le pilote automatique peuvent perdre leur compétence dans le vol manuel. Dans les voitures, les conducteurs utilisant des systèmes de niveau 2 se livrent souvent à des comportements distrayants (p. ex., en utilisant des smartphones), croyant par erreur que la voiture peut conduire elle-même.

Transparence et explicabilité

Pour les pilotes et les conducteurs, il est essentiel de comprendre pourquoi un système de pilotage automatique prend une décision particulière pour assurer une surveillance efficace et renforcer la confiance. Cependant, de nombreux systèmes modernes utilisent des modèles d'apprentissage en profondeur «boîte noire» qui ne sont pas facilement interprétables. Si une voiture automatisée freine soudainement sans raison apparente, ou si un directeur de vol commande une attitude de tangage inhabituelle, l'exploitant humain doit savoir si le système fonctionne correctement ou dysfonctionnement.

Confidentialité et sécurité des données

Les systèmes de pilotage automatique génèrent de grandes quantités de données : localisation, vitesse, lectures de capteurs, flux vidéo, et même données biométriques provenant des moniteurs de conducteur. Ces données sont utiles pour améliorer les systèmes et enquêter sur les accidents, mais elles soulèvent aussi de graves préoccupations en matière de protection de la vie privée. Qui possède ces données? Combien de temps peut-on les conserver? L'application de la loi peut-elle y accéder sans mandat? Dans l'industrie aéronautique, les enregistreurs de données de vol sont strictement réglementés, mais les données des aéronefs connectés modernes sont diffusées en continu.

Équité et accès

Les fonctions automatisées avancées ne sont généralement disponibles que sur des véhicules haut de gamme ou sur des aéronefs plus récents, ce qui peut être inabordable pour beaucoup de personnes. Si la conduite autonome devient une commodité pour les riches alors que les conducteurs à faible revenu dépendent de véhicules plus âgés et moins sûrs, les avantages en matière de sécurité ne seront pas répartis de façon uniforme. De même, les zones rurales dont l'infrastructure est limitée n'ont peut-être pas accès aux services connectés qui permettent une automatisation avancée.

Équilibrer la sécurité, l'innovation et la confiance du public

Pour relever les défis juridiques et éthiques des systèmes de pilotage automatique, il faut une approche collaborative et multipartite. Aucune entité – gouvernement, industrie ou milieu universitaire – ne peut résoudre ces problèmes à elle seule.

Collaboration et normes de l'industrie

Les secteurs de l'aviation et de l'automobile ont déjà élaboré des normes volontaires par l'entremise d'organismes comme SAE International (pour les véhicules routiers) et RTCA (pour l'aviation), qui fournissent des conseils techniques sur la conception des systèmes, les essais et les facteurs humains. Ces efforts sont axés sur des exigences éthiques explicites, comme les exigences de transparence, de surveillance des conducteurs et de manœuvres minimales de risque, qui peuvent aider à harmoniser les pratiques à l'échelle internationale.

Rôle des organes internationaux

La coordination internationale est essentielle parce que les systèmes automatisés traversent les frontières.Le Forum mondial de l'harmonisation des Règlements concernant les véhicules (WP.29) de la CEE a déjà adopté des règles pour les systèmes de niveau 3, et des efforts similaires sont en cours dans le domaine de l'aviation par l'intermédiaire de l'Organisation de l'aviation civile internationale (OACI), qui peut établir des principes éthiques de base, tels que le respect de l'autonomie humaine, la non-réduction des dommages et la responsabilité, mais qui doivent aussi respecter les différences culturelles dans les préférences éthiques, ce qui peut nécessiter une certaine souplesse dans la mise en œuvre.

Conclusion

Le déploiement de systèmes de pilotage automatique dans l'aviation et l'automobile offre une opportunité à deux volets. D'une part, ces technologies promettent de réduire considérablement les accidents causés par l'erreur humaine, qui représente la grande majorité des accidents dans les deux domaines. D'autre part, elles introduisent de nouvelles responsabilités juridiques et des dilemmes éthiques qui remettent en question les hypothèses de longue date sur le contrôle et la responsabilité humaines.

En fin de compte, l'intégration sûre et fiable des systèmes de pilotage automatique dépend d'un engagement à la transparence, à des essais rigoureux et à un dialogue inclusif entre les ingénieurs, les régulateurs, les éthiciens et le public.