Données personnelles et IA : la face cachée de l’intelligence artificielle

Derrière chaque clic, chaque photo partagée, chaque trajet enregistré, une empreinte numérique se dessine. À mesure que l’intelligence artificielle (IA) s’immisce dans nos vies – des recommandations Netflix à la surveillance algorithmique en passant par les assistants vocaux – les données personnelles deviennent l’élément nutritif de ces systèmes.

Plus qu’une simple matière première, elles forment un double numérique, souvent plus révélateur que nous-mêmes. Plongée dans la relation symbiotique – et parfois toxique – entre intelligence artificielle et données personnelles : origines, usages, dérives et résistances émergentes.

L’IA, grande consommatrice de données

Une IA sans données est un moteur sans carburant

Contrairement aux IA symboliques des débuts, les modèles modernes d’apprentissage automatique (machine learning, deep learning…) ont besoin de volumes massifs de données pour fonctionner. Elles apprennent par exemples : images, textes, comportements, voix, visages…

Plus l’IA est « intelligente », plus elle est data-dépendante.

De quels types de données parle-t-on ?

Données explicites : ce que l’on saisit ou publie volontairement (posts, likes, messages).
Données implicites : nos comportements numériques (temps passé, parcours de navigation, pauses sur un contenu…).
Données sensibles : biométrie, santé, orientation sexuelle, croyances… souvent inférées par des corrélations.

L’enjeu du big data et des croisements

Ce n’est pas une seule source qui alimente l’IA, mais des croisements : vos achats + vos recherches + votre localisation = un portrait prédictif ultra-précis.

Ce que les IA font réellement de nos données

Profilage comportemental et segmentation

Les IA analysent les données pour prédire qui vous êtes, ce que vous voulez, ce que vous ferez. Ce profilage sert à :

Affiner la publicité ciblée
Recommander du contenu
Déterminer des scores de risque (crédit, assurance, embauche…)

Automatiser les décisions vous concernant

Ce n’est plus un humain qui décide, mais un système. Exemples :

Refus de crédit par un score calculé par IA
Filtrage de CVs par un algorithme RH
Surveillance prédictive par les forces de l’ordre

Entraîner de nouvelles IA grâce à vos données

Vos messages, voix ou visages peuvent servir à entraîner des modèles futurs. Sans que vous le sachiez, vous devenez co-auteur anonyme d’une IA commerciale.

Personnalisation de l’information et modération des commentaires

Derrière le rideau, les IA participent aussi à la mise en forme des flux d’actualité. Des algorithmes recommandent les articles les plus pertinents selon votre profil, vos clics, vos préférences passées. Ces systèmes de recommandation façonnent une information de plus en plus personnalisée, au risque d’enfermer les lecteurs dans des bulles cognitives.

Côté modération, des IA comme Perspective API (Google) ou des systèmes internes détectent automatiquement les contenus haineux, les spams ou les attaques personnelles dans les espaces de commentaires.

De la collecte à la monétisation : un écosystème opaque

Consentement : mythe ou réalité ?

Sur le papier, les données personnelles ne peuvent être collectées qu’avec le consentement libre, spécifique, éclairé et univoque de l’utilisateur, comme l’exige le RGPD en Europe. En pratique, ce consentement est souvent un simulacre. Les interfaces numériques sont conçues pour orienter le comportement des internautes à l’aide de dark patterns : boutons “Accepter tout” mis en avant, refus dissimulé dans une arborescence complexe, choix par défaut biaisés… Sans compter des formulaires interminables, des CGU de dizaines de pages rédigées dans un jargon juridique inaccessible, ou une surabondance de notifications fatigantes qui poussent à céder par lassitude.

On parle alors de « consentement par défaut », ou pire, de consentement zombie : légalement valide mais vidé de tout sens.

Le problème s’aggrave avec l’IA, dont le fonctionnement repose sur l’absorption constante de données à grande échelle, souvent sans que l’utilisateur sache exactement ce à quoi il a consenti. Le clic a remplacé le contrat, mais dans une logique asymétrique : vous livrez vos données, sans réel pouvoir de négociation ni contrôle sur leur destin.

Les courtiers de données : les invisibles du numérique

Derrière la promesse de “services gratuits” se cache un marché tentaculaire, aussi discret que lucratif : celui de la revente de données personnelles. Des entreprises spécialisées — appelées data brokers ou courtiers en données — achètent, agrègent, classent et revendent des profils numériques à des annonceurs, des assureurs, voire des gouvernements. Ces entités recueillent des informations issues de sources variées : historique de navigation, achats en ligne, géolocalisation, réseaux sociaux, jeux, programmes de fidélité, etc.

Le résultat ? Des fiches individuelles hyper détaillées comprenant parfois plusieurs milliers de points de données sur un seul individu : préférences politiques, santé mentale supposée, statut marital, niveau de revenus, habitudes de consommation… Et pourtant, la plupart des gens ignorent jusqu’à leur existence. Ces courtiers sont souvent installés dans des zones grises du droit, avec des obligations de transparence minimales, notamment en dehors de l’UE. Ils échappent ainsi à la vigilance du grand public et au radar des régulateurs.

L’IA, moteur du capitalisme de surveillance

Dans son ouvrage The Age of Surveillance Capitalism, la chercheuse Shoshana Zuboff identifie un tournant économique majeur : la transition d’un capitalisme industriel fondé sur la transformation de ressources naturelles vers un capitalisme informationnel fondé sur l’extraction de données comportementales. Dans ce modèle, les entreprises ne se contentent pas de mesurer ce que vous faites ; elles cherchent à prévoir, voire influencer, vos futurs comportements.

L’intelligence artificielle joue ici un rôle central. Grâce à des algorithmes capables de détecter des corrélations invisibles à l’œil humain, l’IA transforme les données brutes en prédictions monétisables : quels produits vous allez acheter, pour qui vous allez voter, quel contenu vous retiendra le plus longtemps… Chaque geste numérique devient une donnée d’entraînement, un indice exploité pour vous rendre plus “prévisible” — donc plus rentable.

Dans ce système, l’humain devient un “moyen” au service d’un modèle économique fondé sur l’automatisation du contrôle.

Et contrairement à ce qu’on imagine, ce ne sont pas les données les plus intimes qui valent le plus cher, mais les plus comportementales : micro-hésitations, clics abandonnés, interactions fugitives. L’économie de l’attention, alimentée par les IA, transforme ces traces en capital. Et ce capital circule, bien souvent, hors de notre champ de vision.

Des dérives documentées… mais persistantes

Discrimination algorithmique

Les algorithmes sont souvent présentés comme des entités “objectives”, capables de trancher là où l’humain faillit. Pourtant, de nombreuses enquêtes et études ont démontré que les IA peuvent reproduire — voire amplifier — les préjugés sociaux existants. Pourquoi ? Parce que ces systèmes apprennent à partir de données historiques, elles-mêmes marquées par les biais humains, les inégalités systémiques et les stéréotypes culturels.

Ces biais peuvent être d’autant plus problématiques qu’ils sont invisibilisés derrière le voile de la technicité. Un humain peut être confronté, corrigé, interrogé. Un algorithme, lui, agit dans l’opacité, sans toujours expliquer ses choix. Résultat : une discrimination automatisée, souvent inconsciente, mais systémique.

Surveillance de masse et technologies policières

La généralisation des technologies d’intelligence artificielle dans l’espace public soulève des questions cruciales de liberté et de vie privée. Caméras à reconnaissance faciale, drones de surveillance, algorithmes de détection de comportements “anormaux”, logiciels de prédiction criminelle… L’arsenal technologique s’étoffe, souvent au nom de la sécurité.

Mais où s’arrête la protection, et où commence le contrôle ? La reconnaissance faciale en temps réel, par exemple, permet d’identifier un individu dans une foule en quelques secondes. Si certains pays interdisent son usage dans l’espace public, d’autres (comme la Chine ou la Russie) l’intègrent à des systèmes de surveillance permanente.

Même en démocratie, ces outils sont parfois déployés sans débat public, ni cadre clair. En France, par exemple, des caméras dotées d’IA ont été testées dans les transports pour détecter le port du masque ou les comportements “suspects”, sans transparence sur les données collectées ni leurs traitements. La logique prédictive appliquée à la sécurité publique — parfois appelée “police préventive” — pose un risque majeur de profilage abusif, d’erreurs judiciaires, et de stigmatisation de certaines populations.

Exploitation des données des enfants et des vulnérables

Les enfants, adolescents et publics vulnérables (personnes âgées, précaires, malades) sont particulièrement exposés à la collecte et à l’exploitation de leurs données, souvent sans réelle protection. Applis éducatives, jouets connectés, plateformes d’e-learning, jeux vidéo mobiles ou assistants vocaux captent des informations sensibles : comportement d’apprentissage, expressions vocales, localisation, rythme de sommeil, interactions émotionnelles…

Or, ces publics n’ont ni les moyens techniques ni la maturité critique pour comprendre les enjeux de cette captation. Parfois, ce sont les établissements scolaires eux-mêmes qui intègrent des outils propulsés par l’IA, sans toujours savoir quelles données sont partagées avec des entreprises privées. Certaines plateformes analysent les interactions d’un élève pour ajuster les contenus, mais aussi pour entraîner leurs propres IA ou vendre des insights comportementaux à des tiers.

La situation est d’autant plus préoccupante que les données des enfants, une fois enregistrées, forment un historique numérique durable, que l’enfant n’a pas choisi et ne pourra parfois jamais effacer. Il en résulte une forme de traçabilité précoce et involontaire, qui soulève des questions profondes de consentement, de dignité, et de droit à l’oubli.

Les garde-fous : lois, limites et contournements

Règlementation (RGPD, CCPA…)

Depuis l’entrée en vigueur du Règlement général sur la protection des données (RGPD) en Europe en 2018, la protection des données personnelles s’est dotée d’un cadre juridique ambitieux. Le RGPD pose des principes fondamentaux :

Consentement explicite pour la collecte de données,
Minimisation (ne collecter que ce qui est strictement nécessaire),
Portabilité des données (pouvoir récupérer ses données et les transférer),
Droit à l’oubli et accès à l’information.

Le RGPD a permis de sensibiliser le grand public et d’imposer des obligations concrètes aux entreprises, notamment avec des sanctions financières dissuasives (jusqu’à 4 % du chiffre d’affaires mondial). Il a aussi inspiré des textes similaires dans le monde, comme le California Consumer Privacy Act (CCPA) aux États-Unis ou la Loi 25 au Québec.

Mais face à l’opacité des systèmes d’IA modernes, souvent conçus comme des “boîtes noires”, ces lois montrent leurs limites. Comment appliquer un “droit à l’explication” à des algorithmes que même leurs concepteurs ne comprennent parfois plus entièrement ? Comment garantir le consentement dans un environnement de collecte permanente, passive et distribuée ?

Les IA actuelles peuvent contourner ou diluer l’esprit du RGPD par des moyens indirects : consentements globaux, traitements dérivés, enrichissement algorithmique de données anonymisées… La complexité technique dépasse la capacité des régulateurs à suivre en temps réel.

Encadrement des systèmes automatisés

Face aux limites du RGPD pour encadrer spécifiquement l’intelligence artificielle, l’Union européenne a élaboré une réglementation dédiée : l’AI Act. Cette future législation, encore en discussion mais déjà bien avancée, vise à classifier les systèmes d’IA en fonction de leur niveau de risque :

Risque minimal : IA pour jeux vidéo, recommandations de séries – usage libre.
Risque limité : chatbots ou assistants virtuels – obligations de transparence.
Risque élevé : IA utilisée dans des domaines sensibles comme l’éducation, la justice, le crédit ou les infrastructures critiques – obligations strictes (audit, documentation, supervision humaine).
Risque inacceptable : interdiction pure et simple de certaines IA (ex. : notation sociale, manipulation psychologique, reconnaissance faciale de masse).

Ce texte marque un tournant en plaçant les droits fondamentaux au cœur du contrôle algorithmique, notamment le droit à la non-discrimination, à la transparence et à la dignité. Mais il reste à voir comment cette loi sera appliquée dans les faits, avec quels moyens de contrôle, et si elle saura répondre à l’innovation rapide des géants du numérique.

Les limites techniques des IA respectueuses de la vie privée

À côté des lois, certains chercheurs et entreprises défendent l’idée d’une « IA éthique par conception », intégrant la vie privée dès la phase de développement. Plusieurs approches techniques émergent :

L’apprentissage fédéré : les données restent sur les appareils (smartphones, objets connectés), et les modèles s’entraînent localement, sans remonter les données vers un serveur central.
Le chiffrement homomorphe : il permet à une IA d’effectuer des calculs sur des données chiffrées, sans jamais les déchiffrer.
La confidentialité différentielle : de petites perturbations sont introduites dans les données pour empêcher toute ré-identification, tout en conservant la valeur statistique globale.

Ces solutions prometteuses s’inscrivent dans la logique du « privacy by design », mais elles peinent encore à s’imposer. Les raisons sont multiples :

Moins de performances ou de précision par rapport aux modèles classiques,
Coûts de développement plus élevés,
Manque d’incitations économiques,
Absence de standards techniques universels.

Par ailleurs, ces techniques restent peu connues du grand public et des décideurs politiques, ce qui freine leur diffusion à grande échelle. Tant que le respect de la vie privée sera vu comme un frein à l’innovation plutôt qu’un levier de confiance, ces garde-fous techniques resteront en marge du développement de l’IA mainstream.

Peut-on reprendre le contrôle ?

Se réapproprier ses données

Face à l’appropriation massive et opaque de nos données personnelles par des plateformes centralisées, une alternative ambitieuse émerge : reprendre possession de ses propres données. C’est l’idée portée par Tim Berners-Lee, inventeur du web, avec le projet Solid.

Solid (Social Linked Data) propose une révolution douce : décentraliser les données, en les stockant dans des « pods » personnels. Ces pods sont des espaces sécurisés où chaque utilisateur contrôle qui peut accéder à quoi — une photo pour telle appli, un contact pour une autre, sans jamais livrer l’ensemble du profil.

L’objectif : redonner à l’utilisateur la maîtrise de sa trace numérique, en inversant le modèle actuel basé sur la captation invisible et le traitement sans consentement réel. D’autres projets, comme Nextcloud, DataVaults ou Cozy Cloud, vont dans le même sens : héberger soi-même ses données, décider de leur usage, et limiter les intermédiaires.

Mais ces solutions nécessitent une certaine maturité technique, encore peu accessible au grand public. La difficulté réside autant dans la technologie que dans l’interface utilisateur : comment faire simple, sécurisé, et universel ? Le chemin vers une vraie autonomie numérique est encore long, mais ces initiatives montrent que d’autres modèles sont possibles.

Vers une souveraineté numérique individuelle ?

Derrière la réappropriation des données se profile un concept plus large : celui d’une souveraineté numérique individuelle, c’est-à-dire la capacité pour chacun·e de gérer activement ses données comme un bien personnel, voire comme un actif.

Cela passe notamment par l’émergence des “data wallets” ou “passeports numériques”, des outils qui permettraient de :

Visualiser toutes les données que nous avons fournies à différents services ;
Révoquer des accès en un clic ;
Tracer les utilisations faites de nos informations ;
Et, à terme, monétiser certains usages si on le souhaite (dans le cadre de la recherche, de la publicité ou de services sur-mesure).

Cette idée fait son chemin en Europe, où des projets pilotes s’inscrivent dans le développement d’un “Identifiant Numérique Européen”, intégré au portefeuille d’identité numérique prévu par la Commission européenne.

L’enjeu n’est plus seulement de protéger : il s’agit de rééquilibrer le pouvoir numérique entre individus, entreprises et États.

Cependant, une véritable souveraineté numérique suppose aussi une culture de la donnée partagée, des droits clairs et opposables, ainsi que des standards d’interopérabilité. Sans cela, le risque est de remplacer une dépendance par une autre, ou d’institutionnaliser la monétisation de soi.

Résistances collectives et mouvements citoyens

La reprise de contrôle ne peut pas reposer uniquement sur les épaules des individus. Des mouvements citoyens, des ONG, des juristes et des hacktivistes se mobilisent pour dénoncer les abus, faire évoluer la loi et sensibiliser le public.

Parmi eux :

La Quadrature du Net, en France, mène des campagnes contre la surveillance de masse, les fichiers policiers automatisés, ou la reconnaissance faciale dans l’espace public.
NOYB (None Of Your Business), fondée par l’activiste autrichien Max Schrems, utilise le RGPD comme levier juridique pour attaquer les géants du web sur leurs pratiques illégales (comme le “consentement forcé”).
Access Now, organisation internationale, propose un soutien technique et politique aux victimes de violations de la vie privée dans le monde entier.
Des collectifs comme Privacy International, EFF (Electronic Frontier Foundation) ou Digitalcourage en Allemagne multiplient audits, guides pratiques, campagnes d’alerte.

Ces résistances prennent aussi la forme de manuels d’autodéfense numérique, de fiches pédagogiques, de plug-ins open source pour bloquer le pistage, ou encore de manifestes pour une IA éthique et transparente.

En un mot : reprendre le contrôle, c’est aussi résister ensemble, par le droit, la technologie, et la pédagogie.