Une délégation composée de dirigeants technologiques de premier plan, dont Sundar Pichai, Elon Musk, Mark Zuckerberg et Sam Altman, s’est réunie mercredi à Washington pour une réunion à huis clos avec des sénateurs américains afin de discuter de l’essor de l’intelligence artificielle et de la manière dont elle devrait être réglementée.
La discussion, présentée comme un « forum sur la sécurité de l’IA », est l’une des nombreuses réunions entre la Silicon Valley, les chercheurs, les dirigeants syndicaux et le gouvernement et prend une nouvelle urgence à l’approche des élections américaines et au rythme rapide des progrès de l’IA qui affectent déjà la vie des gens. et le travail.
Le sénateur démocrate Chuck Schumer , qui a qualifié la réunion d’« historique », a déclaré que les participants avaient largement approuvé l’idée de réglementations, mais qu’il y avait peu de consensus sur ce à quoi ressembleraient de telles règles.
Schumer a déclaré qu’il avait demandé à tout le monde dans la salle – y compris plus de 60 sénateurs, près de deux douzaines de dirigeants du secteur technologique, de défenseurs et de sceptiques – si le gouvernement devrait jouer un rôle dans la surveillance de l’intelligence artificielle, et que « chaque personne a levé la main, même si ils avaient des points de vue différents ».
Parmi les idées discutées figuraient la question de savoir s’il devrait y avoir une agence indépendante pour superviser certains aspects de cette technologie en développement rapide, comment les entreprises pourraient être plus transparentes et comment les États-Unis peuvent garder une longueur d’avance sur la Chine et d’autres pays.
“Le point clé était vraiment qu’il était important pour nous d’avoir un arbitre”, a déclaré Elon Musk , le PDG de Tesla et X, le réseau social anciennement connu sous le nom de Twitter, lors d’une pause dans le forum. “En fait, c’était une discussion très civilisée entre certaines des personnes les plus intelligentes du monde.”
Le Congrès devrait faire ce qu’il peut pour maximiser les avantages et minimiser les inconvénients de l’IA, a déclaré Schumer aux journalistes , « qu’il s’agisse de préjugés consacrés, de pertes d’emplois, ou même du genre de scénarios apocalyptiques évoqués dans la salle. Et seul le gouvernement peut être là pour mettre en place des garde-fous ».
Les participants ont également discuté de la nécessité urgente de prendre des mesures pour protéger les élections américaines de 2024 contre la désinformation renforcée par l’IA , a déclaré Schumer.
“Le problème d’avoir des contrefaçons profondes où les gens croient vraiment que quelqu’un, qu’une campagne disait quelque chose alors qu’ils étaient une création totale de l’IA” était une préoccupation majeure, a déclaré Schumer, et que le “watermarking” – badging du contenu comme généré par l’IA – a été discuté comme solution.
Plusieurs experts en IA et autres leaders de l’industrie étaient également présents, notamment Bill Gates ; le PDG de la Motion Picture Association, Charles Rivkin ; l’ancien PDG de Google, Eric Schmidt ; Tristan Harris, cofondateur du Center for Humane Technology ; et Deborah Raji, chercheuse à l’Université de Californie à Berkeley.
Certains groupes du travail et des libertés civiles étaient également représentés parmi les 22 participants, notamment Elizabeth Shuler, présidente du syndicat AFL-CIO ; Randi Weingarten, présidente de la Fédération américaine des enseignants ; Janet Murguía, présidente d’UnidosUS ; et Maya Wiley, présidente et directrice générale de la Leadership Conference on Civil & Human Rights.
Déclenchées par la sortie de ChatGPT il y a moins d’un an, les entreprises réclament à grands cris d’appliquer de nouveaux outils d’IA générative capables de composer des passages de texte de type humain, de programmer du code informatique et de créer de nouvelles images, audio et vidéo. Le battage médiatique autour de ces outils a accru les inquiétudes quant à leurs préjudices sociétaux potentiels et a suscité des appels à plus de transparence dans la manière dont les données derrière les nouveaux produits sont collectées et utilisées.
Dans son discours d’ouverture, que Meta a partagé avec le Guardian, Mark Zuckerberg a déclaré que l’entreprise travaillait avec des universitaires, des décideurs politiques et la société civile pour « minimiser le risque » de la technologie tout en s’assurant qu’ils ne sous-estiment pas les avantages. Il a spécifiquement cité les travaux sur la manière de filigraner le contenu de l’IA pour éviter des risques tels que la propagation massive de la désinformation.
Avant le forum, des représentants de l’Alphabet Workers Union ont déclaré que Schuler, le président de l’AFL-CIO, soulèverait les problèmes des travailleurs, notamment ceux des évaluateurs de l’IA – des modérateurs humains chargés de former, de tester et d’évaluer les résultats de la recherche Google et de l’IA de l’ entreprise . chatbot – qui disent avoir eu du mal avec les bas salaires et les avantages sociaux minimum.
“Il y a encore de nombreuses discussions à venir et, tout au long du processus, les intérêts des travailleurs doivent être l’étoile polaire du Congrès”, a déclaré Schuler dans un communiqué. « Les travailleurs ne sont pas les victimes du changement technologique – nous sommes la solution. »
Alors que Schumer a décrit la réunion comme « diversifiée », les sessions ont été critiquées pour s’appuyer fortement sur les opinions de personnes qui pourraient bénéficier des progrès rapides de la technologie de l’IA générative. “La moitié des personnes présentes dans la salle représentent des industries qui profiteront d’une réglementation laxiste en matière d’IA”, a déclaré Caitlin Seeley George, directrice des campagnes et directrice générale de Fight for the Future, un groupe de défense des droits numériques.
« Les personnes réellement touchées par l’IA doivent avoir une place à cette table, y compris les groupes vulnérables qui souffrent déjà actuellement de l’utilisation discriminatoire de l’IA », a déclaré George. « Les entreprises technologiques se lancent dans le jeu de l’IA depuis assez longtemps et nous savons où cela nous mène : des algorithmes biaisés qui discriminent les personnes noires et brunes, les immigrants, les personnes handicapées et d’autres groupes marginalisés dans le secteur bancaire, le marché du travail, la surveillance et la police. »
Certains sénateurs ont critiqué la réunion privée, arguant que les dirigeants du secteur technologique devraient témoigner en public. Le sénateur républicain Josh Hawley a déclaré qu’il ne participerait pas à ce qu’il considère comme un « cocktail géant pour les grandes technologies ».
“Je ne sais pas pourquoi nous inviterions tous les plus grands monopoleurs du monde à venir donner au Congrès des conseils sur la manière de les aider à gagner plus d’argent, puis à fermer l’entreprise au public”, a déclaré Hawley.
