Un « kill switch » pour l’IA ? Ce que projette le législateur américain

Il y a désormais, à l’agenda du Congrès américain, un « AI Kill Switch Act ». Le démocrate Ted W. Lieu et le républicain Nathaniel Moran sont dépositaires de cette proposition de loi. Chiffre d’affaires, ressources de calcul, préjudice... Des seuils essentiellement économiques Le texte amenderait le Homeland Security Act de 2002. Il ciblerait les systèmes d’IA dont le développement a nécessité, sur la base du prix de marché aux États-Unis, au moins 100 M$ de puissance de calcul . Seraient concernées les entités qui opèrent ces systèmes, les mettent à disposition de tiers par API, service hébergé ou « mécanisme similaire »... et ont réalisé un CA brut d’au moins 500 M$ sur l’année calendaire écoulée*. Il appartiendrait à ces entités d’être techniquement capables de : Stopper l’inférence Mettre fin à l’accès utilisateur Suspendre l’accès pour un compte, un utilisateur ou un usage posant le risque que surviennent certains incidents Éteindre la technologie concernée Les incidents en question incluraient notamment les usages imprévus causant la mort d’au moins 10 personnes ou un préjudice économique d’au moins 100 M$ . Ils engloberaient aussi, entre autres, les cas où un système cacherait aux mécanismes de surveillance ses capacités, ses intentions ou ses actions. Ainsi que les scénarios de « perte de contrôle ». Autrement dit, de poursuite d’un objectif qui n’est pas celui prévu. Par exemple : Comportement contraire aux instructions dans des contextes « à fort enjeu » impliquant en particulier des infrastructures critiques Modification des règles opérationnelles ou des restrictions de sûreté sans autorisation Sabotage d’un mécanisme de surveillance Octroi de l’accès aux poids sans permission Une « réponse graduée »... et jusqu’à 20 M$ d’amende par jour S’il existait un risque crédible que surviennent les incidents en question, le département de la Sécurité intérieure (DHS) devrait enclencher un mécanisme de « réponse graduée ». En l’occurrence, imposer des mesures adaptées à la sévérité et à l’imminence du risque : Réduction ou modification du débit d’inférence, de l’accès utilisateur ou de l’allocation de puissance de calcul Désactivation ou restriction d’une capacité Suspension d’une technologie Extinction d’une technologie Basculement d’une opération dépendante de cette technologie vers une version antérieure ou vers un système de secours Le DHS aurait la charge d’établir des normes pour le kill switch . Les entités concernées y adhéreraient sur la base du volontariat. Si un des incidents visés a effectivement lieu, il leur faudrait conserver poids et télémétrie ; tout en communiquant, dans la mesure du possible, les conséquences potentielles pour les utilisateurs. Un délai de 48 heures serait accordé pour déposer un recours, toutefois non suspensif. Le DHS aurait 5 jours pour se prononcer. Délai au-delà duquel sa réponse serait réputée négative. Resterait alors la possibilité d’un pourvoi en appel sous 60 jours devant les tribunaux du district de Columbia. Les sanctions pourraient aller jusqu’à 20 M$ d’amende par jour en cas de violations des dispositions concernant les cas où un incident a effectivement eu lieu. L’AI Act impose déjà un « bouton d’arrêt » pour les systèmes d’IA à haut risque En Europe, l’ AI Act n’établit pas de tel « coupe-circuit étatique ». Son article 14 impose néanmoins des mesures de contrôle humain sur l’utilisation des systèmes d’IA classés à haut risque. Les fournisseurs concernés ont deux options. Soit intégrer ces mesures avant la mise sur le marché ou la mise en service, soit permettre aux déployeurs de les mettre en œuvre. Dans tous les cas, les personnes chargées du contrôle doivent pouvoir intervenir dans le fonctionnement du système d’IA. Ou l’interrompre « au moyen d’un bouton d’arrêt ou d’une procédure similaire ». Une exigence de contrôle humain accru s’applique pour les systèmes d’identification biométrique à distance. Le déployeur ne doit pas pouvoir prendre de décision sans vérification et confirmation séparée par au moins deux personnes physiques. * Il existerait une exception pour les technologies destinées uniquement à un usage « personnel, académique ou non commercial ». À consulter en complément : Comment le shadow AI s’est invité à l’Assemblée nationale L’AI Act doit-il être l’affaire des DPO ? La Cour suprême US a-t-elle condamné le Data Privacy Framework ? Agents IA : Bruxelles dégaine une mesure d’urgence contre Meta Illustration générée par IA The post Un « kill switch » pour l’IA ? Ce que projette le législateur américain appeared first on Silicon.fr .