Comment Twitter a engagé les plus grands détracteurs de la technologie pour développer une IA éthique.

Juil 13, 2021

Wise Suite

Equipe

Blog

Contact Hub

L’équipe META de Twitter est composée de certains des critiques les plus notoires de la technologie, et deux autres vont bientôt les rejoindre : Sarah Roberts et Kristian Lum.

Ari Font, ingénieur en apprentissage automatique, s’inquiétait de l’avenir des algorithmes de Twitter. Nous sommes au milieu de l’année 2020 et le chef de l’équipe chargée de la recherche sur l’éthique et la responsabilité des algorithmes de l’entreprise vient de quitter Twitter. Pour Ari Font, l’avenir de la recherche sur l’éthique n’était pas clair.À l’époque, Mme Font était responsable des équipes des plates-formes d’apprentissage automatique de Twitter – qui font partie de Twitter Cortex, l’organisation centrale d’apprentissage automatique de l’entreprise – mais elle pensait que la recherche sur l’éthique pourrait transformer la façon dont Twitter s’appuie sur l’apprentissage automatique. Elle a toujours pensé que la responsabilité et l’éthique algorithmiques devaient influencer non seulement la manière dont Twitter utilisait les algorithmes, mais aussi toutes les applications pratiques de l’IA.Elle s’est donc portée volontaire pour participer à la reconstruction de l’équipe META de Twitter (META signifie Machine Learning, Ethics, Transparency and Accountability), et s’est lancée dans ce qu’elle a appelé un « roadshow » pour persuader Jack Dorsey et son équipe que l’éthique de l’apprentissage automatique n’avait pas seulement sa place dans la recherche.

En l’espace de quelques mois, après une litanie de conversations avec Dorsey et d’autres hauts dirigeants, Font n’avait pas seulement obtenu une place plus puissante et opérationnalisée pour l’équipe autrefois réduite. En plus du budget pour l’augmentation des effectifs et un nouveau directeur, elle a fini par persuader Dorsey et le conseil d’administration de Twitter de faire de Responsible ML l’une des principales priorités de Twitter pour 2021, ce qui a permis de faire évoluer le travail de META dans les produits de Twitter »Je voulais m’assurer que les recherches très importantes avaient un impact sur le produit et qu’elles étaient mises à l’échelle. Il s’agissait d’une prochaine étape très stratégique pour META, qui nous permettrait de passer au niveau supérieur », a déclaré M. Font. « Nous avons eu des discussions stratégiques avec le personnel de Twitter, y compris Jack, et finalement avec le conseil d’administration. Ce fut un processus très intense et rapide. »Un an plus tard, l’engagement de Twitter envers l’équipe de Font a convaincu les personnes les plus sceptiques de la tech – la communauté de recherche en éthique elle-même. Rumman Chowdhury, notoirement connue et aimée par ses collègues chercheurs pour son engagement en faveur de l’audit algorithmique, a annoncé qu’elle quittait sa nouvelle startup pour devenir la responsable META de Twitter.

Kristian Lum, professeur à l’université de Pennsylvanie, réputée pour son travail de création de modèles d’apprentissage automatique qui pourraient remodeler la justice pénale, rejoindra Twitter à la fin du mois de juin en tant que nouvelle directrice de la recherche. Enfin, Sarah Roberts, célèbre pour ses critiques à l’égard des entreprises technologiques et codirectrice du Center for Critical Internet Inquiry de l’UCLA, deviendra cet été consultante pour l’équipe META, afin de déterminer ce que les utilisateurs de Twitter attendent réellement de la transparence algorithmique.

Si cette équipe semble différente, c’est parce que tous ses dirigeants sont des femmes et que quatre d’entre elles ont un doctorat. Twitter a procédé à un recrutement massif, et pas seulement pour META, et le résultat a prouvé qu’en fait, il n’y a pas de pénurie de talents de haut niveau avec des antécédents très variés dans le domaine de la technologie). Ces recrutements constituent un coup de maître pour une plateforme de médias sociaux qui cherche désespérément à échapper aux vagues de vitriol et de critiques qui entourent les travaux de Google et de Facebook sur les algorithmes, l’apprentissage automatique et l’intelligence artificielle. Alors que Google mettait à la porte les éminents éthiciens et chercheurs en intelligence artificielle Timnit Gebru et Margaret Mitchell et que Facebook essayait, sans succès, de persuader les politiciens et les chercheurs qu’il n’avait pas le pouvoir de manipuler la façon dont les algorithmes amplifiaient la désinformation, Twitter donnait à Font et à Jutta Williams, le chef de produit chargé d’aider à rendre opérationnel le travail de META, les ressources et la marge de manœuvre nécessaires pour embaucher une équipe de personnes qui pourraient réellement agir sur la promesse de Twitter d’écouter ses chercheurs.Le « roadshow » de Font s’est déroulé avant les licenciements très publics de Gebru et Mitchell – Chowdhury a déclaré qu’elle rejoindrait Twitter la même semaine où Google a évincé Mitchell – mais cette explosion d’attention sur les algorithmes en 2020 a néanmoins contribué à persuader Dorsey et son conseil d’administration que les algorithmes éthiques valent la peine qu’on y consacre de l’argent.Au cours de l’année dernière, l’amplification des publications de l’ancien président Donald Trump sur les médias sociaux via les algorithmes d’engagement de Facebook a suscité une indignation généralisée à gauche ; la décision de Facebook d’adapter très temporairement ces algorithmes en réponse a suscité des reproches encore plus vifs à droite. La diffusion de fausses informations sur le coronavirus a suivi une trajectoire similaire, tandis que la conversation nationale sur la justice pénale et le maintien de l’ordre fondé sur la race a éveillé le grand public aux préjugés inhérents aux algorithmes. Toute cette nouvelle prise de conscience a trouvé un point de rupture dans l’affaire Gebru de Google. Sa sortie forcée a rendu le monde entier attentif à l’IA éthique.

C'est déjà demain !

Découvrez le Blog Wise qui explore les nouveaux territoires de l’intelligence artificielle & du Big Data.

Une appli suisse pour les régies immobilières

Une appli suisse pour les régies immobilières

Article paru dans le magazine "Tout l'Immobilier d'août 2021" Le Covid-19 aidant, la digitalisation des assemblées générales de copropriétaires devenait urgente.  Les administrateurs et les régies ont été contraints par la situation sanitaire d'assouplir l'application...

L’avenir de la création de sens

L’avenir de la création de sens

On a parfois l’impression que donner un sens au monde devient de plus en plus difficile chaque jour qui passe. Des volumes d’information sans précédent arrivent par des canaux multiples et multipliés, dont certains sont douteux et dangereux.

Ils utilisent déjà la Suite Wise.

Contactez-nous et parlons de vos projets !

Nous nous engageons à vous répondre dans un délai de 24h.
Si nous échouons, nous vous offrons un café/thé croissant au bureau 😀
!