Lundi 13 octobre, une loi encadrant l’usage des chatbots – outils d’intelligence artificielle (IA) conçus pour dialoguer avec les utilisateurs et automatiser les réponses ou les services – a été adoptée en Californie. 

Cette loi intervient après plusieurs suicides d’adolescents ayant entretenu des échanges à caractère intime avec ces outils comme Sewell, un adolescent de 14 ans qui s’est suicidé en 2024, après être tombé amoureux d’une IA inspirée de la série Game of Thrones.

En dépit des réticences de la Maison-Blanche, opposée à toute régulation de l’intelligence artificielle, le gouverneur démocrate Gavin Newsom a validé plusieurs lois prévoyant notamment la vérification de l’âge des utilisateurs, l’affichage régulier de messages d’avertissement et la mise en place de dispositifs de prévention du suicide.

« Nous avons vu des exemples vraiment horribles et tragiques de jeunes qui ont été victimes de technologies peu régulées, et nous ne resterons pas les bras croisés pendant que des entreprises exercent sans limites et sans rendre de comptes » a t-il déclaré.

Retrouvez l’intégralité du communiqué officiel de Gavin Newsom ici ainsi que la loi SB243 intégrale ici.