Das META-Team von Twitter besteht aus einigen der berüchtigtsten Kritiker der Technologie, und zwei weitere werden bald dazukommen: Sarah Roberts und Kristian Lum.

Sep 1, 2021

Wise Lösung

Team

Blog

Contact Hub

Das META-Team von Twitter besteht aus einigen der berüchtigtsten Kritiker der Technologie, und zwei weitere werden bald dazukommen: Sarah Roberts und Kristian Lum.

Der Ingenieur für maschinelles Lernen, Ari Font, war besorgt über die Zukunft der Algorithmen von Twitter. Es war Mitte 2020 und der Leiter des Algorithmus-Forschungsteams für Ethik und Verantwortlichkeit hatte Twitter gerade verlassen. Für Ari Font war die Zukunft der Ethikforschung unklar. Font war damals für die Teams der Twitter-Plattform für maschinelles Lernen zuständig – Teil von Twitter Cortex, der zentralen Organisation für maschinelles Lernen des Unternehmens. Sie war schon immer der Meinung, dass algorithmische Verantwortlichkeit und Ethik nicht nur die Art und Weise beeinflussen sollten, wie Twitter Algorithmen einsetzt, sondern alle praktischen Anwendungen von KI. Also meldete sie sich freiwillig, um beim Wiederaufbau des META-Teams von Twitter zu helfen (META steht für maschinelles Lernen, Ethik, Transparenz und Verantwortlichkeit), und begab sich auf eine „Roadshow“, wie sie es nannte, um Jack Dorsey und sein Team davon zu überzeugen, dass die Ethik des maschinellen Lernens nicht nur in die Forschung gehört.

Innerhalb weniger Monate, nach einer Vielzahl von Gesprächen mit Dorsey und anderen Führungskräften, hatte Font nicht nur einen leistungsfähigeren und operationalisierten Platz für das einst kleine Team gesichert. Zusätzlich zum Budget für mehr Personal und einen neuen Direktor überzeugte sie schließlich Dorsey und den Twitter-Vorstand, Responsible ML zu einer der Top-Prioritäten von Twitter für 2021 zu machen, wodurch die Arbeit von META in die Produkte von Twitter einfließen konnte: „Ich wollte sicherstellen, dass sich die sehr wichtige Forschung auf das Produkt auswirkt und skaliert wird. Dies war ein sehr strategischer nächster Schritt für META, um uns auf die nächste Stufe zu bringen“, sagte Font. „Wir hatten strategische Diskussionen mit den Mitarbeitern von Twitter, einschließlich Jack, und schließlich mit dem Vorstand. Es war ein sehr intensiver und schneller Prozess.“ Ein Jahr später hat Twitters Engagement für Font’s Team die skeptischsten Menschen in der Tech-Branche überzeugt – die Ethik-Forschungsgemeinschaft selbst. Rumman Chowdhury, die bei Forscherkollegen für ihr Engagement für algorithmisches Auditing bekannt und beliebt ist, gab bekannt, dass sie ihr neues Startup verlässt, um META-Managerin bei Twitter zu werden.

Kristian Lum, Professorin an der University of Pennsylvania, die für ihre Arbeit an der Entwicklung von Modellen für maschinelles Lernen bekannt ist, die die Strafjustiz neu gestalten könnten, wird Ende Juni als neue Forschungsdirektorin zu Twitter wechseln. Und schließlich wird Sarah Roberts, bekannt für ihre Kritik an Technologieunternehmen und Co-Direktorin des UCLA Center for Critical Internet Inquiry, in diesem Sommer als Beraterin für das META-Team tätig sein, um herauszufinden, was Twitter-Nutzer wirklich von algorithmischer Transparenz erwarten.

Wenn dieses Team anders aussieht, liegt das daran, dass alle seine Leiter Frauen sind und vier von ihnen einen Doktortitel haben. Twitter hat massiv Personal eingestellt, nicht nur für META, und das Ergebnis hat bewiesen, dass es tatsächlich keinen Mangel an Top-Talenten mit einem breiten Spektrum an technologischen Hintergründen gibt). Diese Neueinstellungen sind ein großer Coup für eine Social-Media-Plattform, die verzweifelt versucht, den Wellen der Verunglimpfung und Kritik zu entgehen, die die Arbeit von Google und Facebook an Algorithmen, maschinellem Lernen und künstlicher Intelligenz umgeben. Während Google die prominenten Ethiker und Forscher für künstliche Intelligenz Timnit Gebru und Margaret Mitchell hinauswarf und Facebook erfolglos versuchte, Politiker und Forscher davon zu überzeugen, dass es nicht in der Lage sei, die Art und Weise, wie Algorithmen Fehlinformationen verstärken, zu manipulieren, gab Twitter Font und Jutta Williams, der Produktmanagerin, die mit der Operationalisierung der Arbeit von META betraut ist, die Mittel und den Spielraum, um ein Team von Leuten einzustellen, die Twitters Versprechen, seinen Forschern zuzuhören, tatsächlich einlösen können. Die „Roadshow“ von Font fand vor den sehr öffentlichen Entlassungen von Gebru und Mitchell statt – Chowdhury sagte, dass sie in derselben Woche, in der Google Mitchell entließ, zu Twitter wechseln würde -, aber diese Explosion der Aufmerksamkeit für Algorithmen im Jahr 2020 trug dennoch dazu bei, Dorsey und seinen Vorstand davon zu überzeugen, dass es sich lohnt, Geld für ethische Algorithmen auszugeben. Im vergangenen Jahr hat die Verstärkung der Social-Media-Posts des ehemaligen Präsidenten Donald Trump durch die Engagement-Algorithmen von Facebook auf der Linken breite Empörung ausgelöst; die Entscheidung von Facebook, diese Algorithmen als Reaktion darauf vorübergehend anzupassen, hat noch stärkere Kritik von der Rechten hervorgerufen. Die Verbreitung falscher Informationen über das Coronavirus verlief ähnlich, während die landesweite Diskussion über Strafjustiz und rassistisch motivierte Polizeieinsätze die Öffentlichkeit für die inhärenten Verzerrungen von Algorithmen sensibilisiert hat. All dieses neue Bewusstsein fand seinen Höhepunkt im Fall Gebru von Google. Sein erzwungener Rückzug ließ die Welt auf ethische KI aufmerksam werden.

Heute ist schon Morgen!

Entdecken Sie den Wise Blog, der die neuen Gebiete der künstlichen Intelligenz und Big Data erforscht.

Die Zukunft der Sinnstiftung

Die Zukunft der Sinnstiftung

Die Gestaltung von Bedeutungen bestimmt, was die Menschen zu wissen glauben, wie sie Entscheidungen treffen und wie sie sich verhalten.

Sie verwenden bereits die Wise Lösung.

Kontaktieren Sie uns und sprechen Sie über Ihre Projekte!

Wir versprechen, uns innerhalb von 24 Stunden bei Ihnen zu melden.
Wenn wir scheitern, bieten wir Ihnen ein Kaffee/Tee und Croissant in Ihrem Büro an 😀!