Créations virtuelles, risques réels

Le plus urgent n’est effectivement pas d’empêcher ChatGPT de se transformer en IA toute-puissante, mais de s’attaquer aux risques réels pour les consommateurs qui se sont déjà manifestés, comme le révèle une nouvelle étude publiée aujourd’hui par nos homologues du Conseil norvégien des consommateurs (NCC).

Tout d’abord, si ChatGPT et consorts sont toujours disponibles pour un brin de conversation, force est de constater qu’on ne peut pas véritablement compter sur eux pour obtenir des informations fiables. Leur intelligence ne saute pas toujours aux yeux ! Bard, l’IA de Google, est même tout simplement qualifiée de mythomane par ses développeurs. Si lorsque l’IA se trompera en vous communicant la date d’anniversaire de votre chanteur préféré, vous ne serez pas forcément affectés, qu’en sera-t-il lorsqu’elle vous communiquera des informations trompeuses sur le produit que vous souhaitez acheter, le prêt bancaire que vous envisagez de souscrire ou bien le médicament le plus adapté à vos besoins ?

De plus, puisque les IA ne peuvent fonctionner qu’à la condition d’être alimentées par des bases de données les plus vastes possible, les développeurs ont peu de respect pour la protection de vos données personnelles, pourtant exigée par le RGPD. Sachant que ce ne sont pas uniquement les données parfois intimes fournies par les utilisateurs au moment de l’interaction avec l’IA qui sont concernées. Ainsi, même si vous n’avez jamais eu recours à une IA générative, vos données personnelles accessibles sur le Net, par exemple vos photos partagées sur les réseaux sociaux, sont susceptibles d’être aspirées lors de l’entraînement de l’IA et, par conséquent, d’être utilisées dans la production de ses réponses !

En effet, si les centaines de millions d’utilisateurs des IA génératives sont au cœur de leur succès, n’oublions pas qu’ils ont servi de cobayes aux géants du numérique ces derniers mois. La moindre des choses serait que les internautes puissent faire confiance aux produits et services qui leur sont proposés, mais les IA s’illustrent dans leurs réponses par leur ignorance (ou indifférence) envers les règles concernant les pratiques commerciales trompeuses, la sécurité des produits et services, ou la protection des données personnelles.

J’en appelle donc aux autorités françaises pour qu’elles enquêtent sans tarder sur l’impact des IA sur la protection des consommateurs et qu’elles contraignent les développeurs à se conformer à la réglementation existante. Au niveau européen, il faut en finir avec les codes de bonne conduite qui ne sont que poudre aux yeux et se focaliser sur les textes législatifs en cours de négociations, pour garantir qu’ils prennent véritablement en compte les intérêts des consommateurs.

Je tiens à être parfaitement claire : en aucun cas, je ne réclame l’interdiction des IA génératives mais la garantie de leur utilisation dans des conditions sûres et loyales. Si l’innovation est à encourager, la sécurité, elle, est à garantir !