Ex-Google Mitarbeiterin Timnit Gebru und das Problem mit dem Zeitgeist im Internet

Ex-Google Mitarbeiterin Timnit Gebru und das Problem mit dem Zeitgeist im Internet

Stein des Anstosses war ein wissenschaftliches Papier: «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?» Kann Wissenschaft einen Job bei Google kosten? Im Fall der derzeit wohl bekanntesten Technikethikerin schon.

Die derzeit bekanntesten grossen Sprachmodelle wie GPT-3 (OpenAI) nutzen das Internet als Ausgangsbasis für das Training ihrer Modelle. Das Problem dabei: Im Internet spiegelt sich der Zeitgeist und damit auch alle Vorstellungen von Menschen wieder und damit auch alle mit Sprache verbundenen Schwächen, wie Vorurteile oder Rassismus. Fehler in AI-basierten Modellen, die auf diesen Daten aufbauen, sind vorprogrammiert. Die Ethikerin Timnit Gebru hat das Problem mit Ihren Forschungskolleg:Innen zur Sprache gebracht und ihren Job bei Google verloren.

Das Problem wird noch gravierender, wenn man sich Entscheidungssysteme vorstellt, die auf Basis von Künstlicher Intelligenz und dieser Art von Ausgangsdaten für das Training ihrer Modelle basieren. Menschliche Schwächen werden zementiert und dienen als Grundlage für Modelle, die in der Realität eingesetzt werden, z.B. zur Steuerung der Suchergebnisse bei Google. Die Wirkung auf die kollektive Wahrnehmung kann man sich vorstellen, wenn auch nicht in voller Konsequenz ermessen.

Das Wochenmagazin DIE ZEIT hat mit Timnit Gebru gesprochen und einen Artikel mit sehr guten Hintergrundinformationen veröffentlicht. Hier die Links zur Studie und dem Artikel der Kollegen aus Hamburg/Berlin.

Paper: http://faculty.washington.edu/ebender/papers/Stochastic_Parrots.pdf

Hintergrund: https://www.zeit.de/digital/2021-02/google-ethik-timnit-gebru-technologie-forschung