Meta et Google condamnés : le tournant de la sécurité numérique
Les condamnations récentes de Meta et Google aux États-Unis marquent un tournant, la régulation du numérique ne se limite plus aux contenus ou aux données, mais s’étend désormais à la sécurité des utilisateurs. Une évolution majeure, qui ouvre un champ inédit de responsabilité, au risque de redéfinir en profondeur le rôle des plateformes.
Publié le
Par Arnaud Latil, Vice-président Intelligence Artificielle Stratégie Prospective, Maitre de conférences, Sorbonne Université, centre « Sciences, Normes et Démocratie » (SND UMR 8011)
Pourquoi ces condamnations marquent-elles un tournant dans la régulation du numérique ?
Les condamnations prononcées par les juridictions américaines contre Meta et Alphabet par un tribunal du Nouveau-Mexique le mardi 24 mars et par un tribunal civil de Californie le lendemain, en réparation des dommages causés à des utilisateurs par leurs services, marquent un tournant dans la manière d’encadrer les activités numériques.
En reconnaissant la responsabilité de Meta, d’une part, en raison des troubles subis par adolescente du fait de l’usage de ses services (sanction de 6 millions de dollars) et, d’autre part, celle Meta et de YouTube pour avoir exposé des enfants à des contenus et des personnes dangereuses (sanction de 375 millions de dollars), ces deux décisions mettent en lumière sur un concept-clé de la régulation du numérique : la sécurité numérique. Celle-ci est désormais envisagée comme l’encadrement des risques et des préjudices soulevés par les produits et services numériques.
La sécurité numérique constitue en effet un nouvel angle d’approche des politiques publiques pour réguler les services numériques, comme les systèmes d’information, les réseaux sociaux, l’Intelligence artificielle ou encore les plateformes de vente en ligne. Ce thème se distingue des enjeux, plus classiques et aujourd’hui identifiés, de régulation des données et des contenus (contenus illicites, données personnelles, propriété intellectuelle, secret des affaires, etc.), de concurrence entre les acteurs concernés, de protection des travailleuses et travailleurs, de cybersécurité, de cybercriminalité ou encore de fraude fiscale.
En quoi la « sécurité numérique » redéfinit-elle la responsabilité des plateformes ?
La sécurité numérique s’inscrit dans la lignée des politiques de sécurité des produits et services, dont le marquage CE et le régime juridique relatif aux produits défectueux constituent parmi les manifestations les plus connues. Comme pour un lave-vaisselle, une voiture, un jouet ou un ascenseur, les services numériques ne doivent pas porter atteinte à l’intégrité physique, mais aussi morale et mentale, des utilisateurs et utilisatrices, en particulier des plus vulnérables. Cette approche dite « par les risques » s’incarne notamment dans le Règlement relatif à l’Intelligence artificielle du 13 juin 2024, qui prévoit des dispositions destinées à assurer la sécurité physique et morale des personnes concernant certains usages prohibés ou identifiés à « haut risque ». La santé mentale des personnes se trouve aussi considérée comme un risque systémique au sens du Règlement européen sur les services numériques du 19 octobre 2022. Il ne s’agit ainsi plus seulement d’envisager la responsabilité des plateformes concernant les contenus et les produits qui y sont proposés (comme pour les tristement célèbres poupées pédopornographiques), mais aussi concernant les modalités et les conséquences induits par les services numériques eux-mêmes.
Ces deux décisions judiciaires américaines invitent ainsi à envisager les outils numériques comme susceptibles de porter atteinte à la sécurité des personnes, que ce soit à travers le fonctionnement des algorithmes, la présentation des interfaces ou encore les comportements induits par leur utilisation (addiction, comportement suicidaire, désinformation, etc.). A la différence des enjeux relatifs aux contenus illicites, dont il est acquis que, sauf lorsqu’elles jouent un rôle actif dans leur production ou leur présentation, les plateformes restent irresponsables sur le plan civil et pénal, la question de la sécurité numérique permet de repenser l’encadrement juridique des acteurs du numérique en focalisant l’attention sur les services et leurs conséquences.
Jusqu’où peut aller cette nouvelle responsabilité des acteurs du numérique ?
Au-delà de ces deux décisions, la responsabilité pour risque numérique reste encore largement à inventer. Mais elle ne part pas de zéro. Outre le Règlement sur les services numériques et celui sur l’Intelligence Artificielle, déjà cités, des dispositions existantes, comme les sanctions pénales en matière d’atteintes aux systèmes de traitement automatisé de données, sont parfois invoquées pour combattre les manipulations algorithmiques, comme c’est le cas s’agissant des poursuites pénales en cours dirigées contre les dirigeants du réseau social X. La directive relative aux produits défectueux, dont la réforme du 23 octobre 2024 a permis d’inclure les services numériques dans le champ des produits défectueux, offre de même des outils juridiques à mobiliser. La proposition législative française portant sur l’interdiction des réseaux sociaux aux mineurs de 15 ans s’inscrit encore dans ce nouveau cadre de sécurité numérique.
A l’image de la « sécurité routière » s’est faite le porte-étendard des politiques publiques en matière de mobilité, la sécurité numérique pourrait constituer la bannière sous laquelle les préjudices physiques mais aussi moraux, psychiques et cognitifs des usagers du numérique seraient envisagés. Comme pour la sécurité routière, la sécurité numérique implique aussi des libertés fondamentales qu’il convient de protéger : au cas présent, la liberté d’expression, le droit d’accès à l’information et la liberté du commerce constituent autant de droits fondamentaux qu’il faut articuler avec la sécurité numérique. Ces considérations sont d’autant plus précieuses que leur garantie implique celle du bon fonctionnement de la démocratie et de l’État de droit.
