9 Möglichkeiten zur Überwindung oder Verhinderung von KI-Bias

30.03.2022

KI Bias

Intelligente Algorithmen sind nur so gut wie ihre Trainingsdatensätze. Daher ist es nicht verwunderlich, dass algorithmische Verzerrungen (KI-Bias) immer häufiger auftreten, wenn Modelle für künstliche Intelligenz (KI) und maschinelles Lernen (ML) in Produktion gehen.

KI-Bias ist gefährlich, weil sie leicht zu Fehlentscheidungen mit katastrophalen Folgen führen kann. Ich bin sicher, dass Sie in den Nachrichten Beispiele für KI Bias gesehen haben, wie die Unfähigkeit von KI, Minderheiten zu erkennen usw. Es ist also nicht schwer, sich vorzustellen, dass Unternehmen sich in einem rechtlichen Alptraum wiederfinden.

Wie kann man KI-Bias überwinden oder verhindern?

Leider ist die Beseitigung von KI-Bias eine Herausforderung, und wir müssen akzeptieren, dass wir sie nicht völlig verhindern können. Wir können jedoch die Voreingenommenheit reduzieren, indem wir proaktive Schritte unternehmen, um sie zu verhindern. Der erste Schritt in diesem Prozess besteht darin, zu verstehen, wie Trainingsdatensätze zur Erstellung und Weiterentwicklung von KI-Modellen beitragen können.

Das ist wichtig, denn Untersuchungen haben ergeben, dass wir einen großen Mangel an integrativen und vielfältigen Datensätzen haben. So gaben beispielsweise 24 % der befragten Unternehmen an, dass der Zugang zu unvoreingenommenen, vielfältigen, globalen KI-Datensätzen von entscheidender Bedeutung sei.

Wie treibt KI Bias an?

Die KI soll immer dann eingreifen, wenn sie menschliche Voreingenommenheit feststellt. Da liegt es nahe zu denken, dass intelligente Algorithmen unvoreingenommen sind. Aber das wäre falsch, sehr falsch!

Sowohl KI- als auch ML-Modelle werden von Menschen erstellt und häufig auf gesellschaftlich trainierten Datensätzen trainiert. Es besteht also immer die Gefahr, dass sich menschliche Voreingenommenheit in ML-Modelle einschleicht und die damit einhergehenden negativen Folgen verstärkt.

ML-Algorithmen analysieren historische Datentabellen und erstellen ein Trainingsmodell. Sobald es erstellt ist, wird eine neue Datenreihe in das Modell eingespeist und liefert eine Vorhersage. Sie können zum Beispiel ein Modell für Autotransaktionen trainieren und dann das Modell nutzen, um zukünftige Verkaufspreise für unverkaufte Fahrzeuge auf dem Parkplatz vorherzusagen.

Das Problem bei diesem Verfahren ist, dass es ein “Blackbox“-Problem schafft. Denn ML-Modelle können zwar hochpräzise Vorhersagen machen, sind aber nicht in der Lage, die Gründe für die Vorhersagen zu erklären, die für unseren menschlichen Verstand unverständlich sind. Stattdessen liefern sie lediglich eine Punktzahl, die das Vertrauen in die Vorhersage widerspiegelt.

Wir alle müssen verstehen, dass Algorithmen nicht über die Daten hinausdenken können, mit denen sie trainiert wurden. Wenn Sie also Verzerrungen in den Trainingsdaten unkontrolliert lassen, können Sie darauf wetten, dass diese auch in den Vorhersagen enthalten sind. Unternehmen müssen sich auch mit einem Teufelskreis von Fehlentscheidungen auseinandersetzen, die sich über einen längeren Zeitraum hinweg verstärken.

Verantwortungsbewusste Unternehmen müssen das Problem verstehen und proaktive Schritte unternehmen, um KI-Bias zu verhindern oder zu minimieren. Schließlich werden die meisten KI-Initiativen ohne jede Anstrengung zur Verringerung der algorithmischen Verzerrung letztlich scheitern und verbrennen.

Was können wir tun, um das Risiko von KI-Bias zu mindern? Hier sind die neun wichtigsten Möglichkeiten zur Beseitigung oder Vermeidung von KI-Bias.

1. Definieren Sie Ihr Geschäftsproblem, und grenzen Sie es ein

Wenn Unternehmen versuchen, Probleme im Zusammenhang mit mehreren Szenarien zu lösen, führt dies häufig zum Scheitern. Das liegt daran, dass Sie eine große Anzahl von Etiketten für eine Reihe von Klassen haben müssen, die schnell unüberschaubar werden.

Um diese Situation zu minimieren oder zu verhindern, ist es am besten, das Problem, das Sie mit KI lösen wollen, genau zu definieren. Außerdem muss sichergestellt werden, dass Ihr KI-Modell gut funktioniert und genau das tut, wofür es entwickelt wurde, bevor Sie es in der realen Welt einsetzen.

2. Verwenden Sie immer strukturierte Daten

Damit KI etwas bewirken kann, müssen intelligente Algorithmen auf vielfältigen und umfassenden Datensätzen trainieren. Zurzeit sammeln wir enorme Mengen an Echtzeitdaten für KI-Modelle. Es gibt sie in drei Formen: strukturiert, unstrukturiert und halbstrukturiert.

Unternehmen dürfen Algorithmen nur auf strukturierten Echtzeitdaten trainieren, um KI-Verzerrungen zu vermeiden. Dies liegt daran, dass strukturierte Daten verschiedene Meinungen zulassen, die zur Erstellung flexiblerer KI-Modelle beitragen. So kann es beispielsweise viele gültige Meinungen (oder Labels) für einen einzigen Datenpunkt geben. Durch das Sammeln und Berücksichtigen aller legitimen (aber oft subjektiven) Meinungsunterschiede wird das Modell flexibler.

3. Geeignete Trainingsdaten verstehen und nutzen

Wenn Unternehmen geeignete Trainingsdaten in KI-Datenmodelle einbringen, haben intelligente Algorithmen eine bessere Chance, aus völlig unterschiedlichen Trainingsdatensätzen zu lernen. Dies ist wichtig, da Daten mit mehreren Klassen das Risiko mit sich bringen, dass KI- und ML-Modelle verzerrt werden.

Tipp:

Wir können Ihnen dabei helfen KI-Bias zu verhindern mit speziell für Sie angepassten ML-Trainingsdatensätzen.

Trainingsdaten für KI & ML

4. Bilden Sie ein vielfältiges ML-Team, das unterschiedliche Fragen stellt

Um ein breites Spektrum an Fragen stellen zu können, benötigen Sie ein vielfältiges und hochrepräsentatives ML-Team von Ingenieuren mit unterschiedlichen Erfahrungen und Ideen. Daher ist es wichtig, ein ML-Team mit unterschiedlichen (geologischen und wirtschaftlichen) Hintergründen, Altersgruppen, Geschlechtern, Rassen, Kulturen usw. zusammenzustellen.

Wenn Unternehmen dies tun, können sie von Natur aus unterschiedliche Fragen stellen und mit KI-Modellen auf sehr unterschiedliche Weise interagieren. Dieser Ansatz hilft ML-Ingenieuren, Probleme mit dem Modell zu erkennen, bevor es in Produktion geht.

5. Stellen Sie Ihr Zielpublikum an die erste Stelle

Es ist auch wichtig zu verstehen, dass sich Ihre Endnutzer von Ihrem internen ML-Team unterscheiden werden (auch wenn Sie sich für Vielfalt einsetzen). Es ist sicher, dass Sie nicht in der Lage sein werden, das Zielpublikum angemessen zu repräsentieren, welches eine ganze Reihe unterschiedlicher Vorlieben, Erfahrungen, standortspezifischer kultureller Einflüsse und vieles mehr aufweist.

Daher ist es von entscheidender Bedeutung, ein solides und tiefgehendes Verständnis der Endnutzer zu haben, um intelligente Algorithmen zu trainieren und unvoreingenommene Erkenntnisse zu gewinnen. In diesem Fall müssen ML-Teams antizipieren, wie Menschen, die anders sind als sie, mit der Anwendung interagieren würden.

6. Mit Diversity annotieren

Ein vielfältiges Team menschlicher Kommentatoren trägt dazu bei, unterschiedliche Sichtweisen einzubringen. Dieser Ansatz kann KI-Voreingenommenheit drastisch reduzieren, sobald Sie die Anwendung starten und darüber hinaus, wenn Sie KI-Modelle kontinuierlich trainieren und neu trainieren.

7. Kontinuierliche Überwachung der Trainingsdaten

Durch die Überwachung der Leistungsdaten in Echtzeit können Sie schnell nach Lücken, Schwachstellen und verbesserungsbedürftigen Bereichen suchen. In diesem Szenario hängt die Leistung von KI-Modellen von verschiedenen Faktoren ab, die potenziell zu Verzerrungen führen können. Die Überwachung ist also entscheidend für die Beseitigung von Verzerrungen.

8. Testen, einführen und auf Feedback achten

Die meisten KI-Modelle bleiben während ihres Lebenszyklus nicht statisch. Oft machen Unternehmen einen großen Fehler, indem sie KI-Modelle einsetzen, ohne den Endnutzern die Möglichkeit zu geben, Feedback darüber zu geben, wie das Modell in realen Situationen angewendet wird.

Testen und genaues Hinhören auf das Feedback der Endnutzer sind der Schlüssel zur Aufrechterhaltung eines optimalen Leistungsniveaus für die gesamte Zielgruppe.

9. Ausarbeitung eines robusten Plans zur kontinuierlichen Verbesserung von KI-Modellen

Sobald ein KI-Modell in Produktion ist, müssen ML-Teams über einen Plan verfügen, um es nahtlos zu überprüfen und zu verbessern, indem sie auf Nutzerfeedback, Grenzfälle, unabhängige Audits oder potenzielle Verzerrungen, die während der Entwicklungsphase übersehen wurden, hören.

ML-Teams müssen auch Feedback vom Modell erhalten und ihm ihr eigenes Feedback geben, um die Leistung zu steigern. Indem sie das Modell ständig optimieren, können sie immer genauere Vorhersagen treffen.

Wie Sie aus den obigen Ausführungen ersehen können, müssen wir besser verstehen, wie KI-Bias entsteht, die weitreichenden Konsequenzen verstehen und proaktive Schritte unternehmen, um sie zu vermeiden, um die Macht der vollständigen Automatisierung zu erschließen und echte Veränderungen voranzutreiben.

Dieser Artikel wurde am 30.März 2022 von Andrew Zola geschrieben.

avatar

Andrew Zola




Leave a Reply