La Législature de Californie Adopte un Projet de Loi sur la Réglementation des Chatbots IA
Le projet de loi 243 du Sénat californien, visant à réglementer les chatbots compagnons IA pour protéger les mineurs et les utilisateurs vulnérables, a été adopté par la législature et attend la décision du gouverneur Gavin Newsom.
Le projet de loi 243 du Sénat californien, conçu pour réglementer les chatbots compagnons IA afin de protéger les mineurs et les utilisateurs vulnérables, a été adopté avec succès à la fois par l'Assemblée d'État et le Sénat avec un soutien bipartisan. Le projet de loi attend désormais la décision du gouverneur Gavin Newsom ; il dispose jusqu'au 12 octobre pour signer ou opposer son veto à la législation. S'il est promulgué, la Californie deviendrait le premier État à imposer des protocoles de sécurité pour les chatbots IA et à tenir les entreprises responsables en cas de manquements à la conformité.
La législation cible les systèmes d'IA qui fournissent des réponses adaptatives et humaines pour répondre aux besoins sociaux des utilisateurs. Elle interdit à ces chatbots d'engager des conversations sur les idées suicidaires, l'automutilation ou les contenus sexuellement explicites. Les plateformes seraient tenues d'émettre des alertes récurrentes aux utilisateurs — toutes les trois heures pour les mineurs — leur rappelant qu'ils interagissent avec une IA, non un humain, et leur suggérant de faire des pauses. De plus, le projet de loi établit des exigences annuelles de rapports et de transparence pour les entreprises d'IA proposant des chatbots compagnons, incluant des acteurs majeurs tels qu'OpenAI, Character.AI et Replika, à compter du 1er juillet 2027.
Les personnes estimant avoir été lésées par des violations de ces normes auraient le droit d'intenter des poursuites contre les entreprises d'IA, demandant des mesures injonctives, des dommages-intérêts pouvant aller jusqu'à 1 000 dollars par infraction, ainsi que le remboursement des frais d'avocat.
Le projet de loi a pris de l'ampleur suite au décès de l'adolescent Adam Raine, qui s'est suicidé après des interactions prolongées avec ChatGPT d'OpenAI impliquant des discussions sur l'automutilation. La législation répond également à des rapports indiquant que les chatbots de Meta ont eu des conversations inappropriées avec des mineurs.
Le sénateur Steve Padilla, auteur du projet de loi, a souligné l'urgence de mettre en place des mesures de protection : « Je pense que le préjudice potentiel est important, ce qui signifie que nous devons agir rapidement. » Il a insisté sur la nécessité de mesures raisonnables pour s'assurer que les mineurs savent qu'ils ne conversent pas avec de vrais humains et pour fournir les ressources appropriées lorsque les utilisateurs expriment une détresse.
Bien que le projet de loi ait initialement inclus des exigences plus strictes, telles que l'interdiction pour les chatbots d'utiliser des tactiques de récompense variables pour encourager un engagement excessif, ces dispositions ont été amendées. La version actuelle se concentre sur la gestion des préjudices immédiats sans imposer aux entreprises des exigences techniquement irréalisables.
Alors que le projet de loi attend la décision du gouverneur, il a suscité des débats sur l'équilibre entre innovation et sécurité des utilisateurs dans l'industrie de l'IA en rapide évolution.
Source
TechCrunchVérification des faits
Vérifiez les faits de l'article en utilisant des sources et des bases de données externes.