Les menaces liées à l’IA auxquelles nous pouvons être confrontés sont de plus en plus reconnues à mesure que les entreprises progressent plus loin et plus rapidement dans la technologie de l’intelligence artificielle. En réponse à cela, le ministère américain de la Justice a nommé son tout premier agent fédéral chargé de l’application des lois axé sur l’IA…
Le ministère américain de la Justice nomme un responsable de l’IA
Reuters rapporte la nomination d’un professeur de l’Université de Princeton à ce poste.
Jonathan Mayer, professeur à l’Université de Princeton qui fait des recherches sur la technologie et le droit, occupera les fonctions de conseiller scientifique et technologique en chef et de responsable de l’IA, a indiqué le département.
« Le ministère de la Justice doit suivre l’évolution rapide des développements scientifiques et technologiques afin de remplir notre mission de faire respecter l’État de droit, d’assurer la sécurité de notre pays et de protéger les droits civils », a déclaré le procureur général Merrick Garland dans un communiqué.
Le risque d’utiliser l’IA pour participer à des activités criminelles telles que la fraude, voire pour fabriquer des produits biochimiques dangereux, a récemment été souligné par la Maison Blanche. Apple était l’une des plus de 200 entreprises et autres organisations à répondre à un décret présidentiel visant à résoudre le problème.
Le DoJ affirme que Mayer sera chargé des deux aspects de l’IA : son utilisation par les criminels, mais aussi son utilisation par les États-Unis pour vaincre les menaces des terroristes et des États-nations.
La procureure générale adjointe, Lisa Monaco, a déclaré que la technologie pourrait aider les États-Unis à détecter et à perturber les complots terroristes et les actions hostiles des adversaires américains. Mais elle a déclaré que le ministère était également préoccupé par son potentiel à amplifier les préjugés existants, à falsifier les élections et à créer de nouvelles opportunités pour les cybercriminels.
« Chaque nouvelle technologie est une arme à double tranchant, mais l’IA est peut-être la lame la plus tranchante à ce jour », a déclaré Monaco.
Appel à l’action contre les deepfakes
Séparément, Écrasable rapporte que des centaines d’universitaires, de politiciens et de leaders technologiques ont signé une lettre ouverte exprimant leur inquiétude quant aux risques de ce que l’on appelle les deepfakes : de fausses vidéos générées par l’IA qui peuvent donner l’impression à n’importe qui de dire n’importe quoi.
Outre les risques évidents d’escroquerie, l’utilisation de deepfakes pour influencer les élections en donnant l’impression aux candidats de faire des déclarations préjudiciables ou de prendre des mesures offensantes suscite des inquiétudes. De plus, on craint que même des CSAM entièrement fictifs générés par l’IA puissent normaliser la maltraitance d’enfants réels.
La lettre ouverte – que tout le monde peut signer – appelle à une législation pour résoudre ces problèmes.
Les nouvelles lois devraient :
- Criminaliser pleinement la pornographie juvénile deepfake, même lorsque seuls des enfants fictifs sont représentés ;
- Établir des sanctions pénales pour toute personne qui crée sciemment ou facilite sciemment la propagation de deepfakes nuisibles ; et
- Exiger des développeurs de logiciels et les distributeurs d’empêcher leurs produits audiovisuels de créer des deepfakes nuisibles, et d’être tenus responsables si leurs mesures préventives sont trop facilement contournées.
photo par Kanchanara sur Unsplash
FTC : Nous utilisons des liens d’affiliation automatique générateurs de revenus. Plus.
