Un espace hybride
La législation actuelle sur les services numériques, adoptée en 2022, n’avait pas prévu l’essor des chatbots. João Pedro Quintais, maître de conférences en droit à l’université d’Amsterdam, décrit ChatGPT comme une technologie “hybride” qui combine les fonctions d’un moteur de recherche et d’une plateforme en ligne, ainsi que d’autres fonctions plus proches de celles d’un éditeur de ses propres contenus.
La qualification de “moteur de recherche” pourrait limiter la capacité de la Commission à contrôler la manière dont ChatGPT gère les risques liés non seulement à la santé mentale des adolescents, mais aussi à l’intégrité des élections ou aux contenus illicites.
Demander à ChatGPT de citer les noms des candidats à une élection locale devrait désormais relever du champ d’application du DSA. En revanche, une conversation entre un utilisateur et un chatbot sur le choix du candidat pour lequel voter, au cours de laquelle des informations erronées pourraient être diffusées, pourrait ne pas être concernée.
Il a fallu un peu moins d’un an à la Commission pour finaliser la classification de ce chatbot, ses équipes s’étant heurtées à des difficultés pour déterminer dans quelle catégorie le classer. Selon les experts, sans avoir consulté le texte intégral actant cette classification annoncée cette semaine, il est difficile de savoir exactement quelles seront les obligations d’OpenAI.
La qualification de “plateforme” aurait imposé à OpenAI des obligations supplémentaires en matière de modération des contenus au titre du règlement sur les services numériques, mais elle aurait aussi permis à l’entreprise d’échapper à une part importante de ses responsabilités. Le DSA, comme d’autres législations dans le monde relatives aux plateformes, s’articule autour du principe du “safe harbor”, en vertu duquel les entreprises ne sont pas responsables des contenus présents sur leurs plateformes, ceux-ci étant mis en ligne par les utilisateurs. Mais l’avènement des chatbots soulève la question de savoir si une conversation entre une personne et une machine peut être considérée comme un “contenu généré par les utilisateurs”.
Modèles et risques
Si l’attention portée par les autorités de régulation à ChatGPT en tant qu’application grand public est récente, la Commission surveille de près les modèles d’intelligence artificielle qui la sous-tendent via son règlement sur l’IA (AI Act).