Nachrichten

Erklärbare KI liefert nicht nur eine Entscheidung oder Vorhersage, sondern vermittelt dem Nutzer auch Vertrauen, indem sie erklärt, wie die Lösung ermittelt wurde.

…

Was ist erklärbare KI?
KI-Algorithmen werden so entwickelt und trainiert (und wieder trainiert), dass sie genau funktionieren. Allerdings ist den Nutzern in der Regel nicht klar, wie der Algorithmus funktioniert. Eine McKinsey-Studie aus dem Jahr 2020 ergab, dass diese Unklarheit zu niedrigeren Akzeptanzraten als erwartet führte, weil die Nutzer dem System nicht vertrauten. Es ist nicht schwer zu verstehen. Ein Manager, der für den Kundenservice und die Kundenzufriedenheit verantwortlich ist, wird kein Vertrauen in eine Lösung setzen wollen, die nicht so gute Ergebnisse liefert wie ein menschlicher Mitarbeiter. Und wenn KI das Starten und Stoppen schwerer Maschinen steuert, die ihre Bediener ernsthaft verletzen könnten, dann wollen diese Mitarbeiter sicher sein, dass das System in der Lage ist, die richtigen Entscheidungen zu treffen.

Michael Wu, Chef-KI-Stratege bei die intelligente Preisverwaltung von PROS integrieren,sieht erklärungsbedürftige KI als "den letzten Anstoß, um die Zustimmung der Führungskräfte zu erhalten". "Da immer mehr Unternehmen einen digitalen Ansatz verfolgen, wird erklärungsbedürftige KI zu einem wichtigen Katalysator für die Akzeptanz von KI-basierten Tools durch die Führungskräfte werden", sagt er. "Anfänglich wird der Angstfaktor bestehen bleiben - die Unternehmen werden immer noch Angst haben, die Kontrolle über die Entscheidungsfindung an KI abzugeben. Diejenigen, die XAI nutzen, um diese Angst zu überwinden, werden jedoch erhebliche Effizienzgewinne und Wettbewerbsvorteile auf dem Markt erzielen, so dass diejenigen, die zuvor durch die Angst gelähmt waren, keine andere Wahl haben, als selbst KI-Lösungen einzuführen."

Den ganzen Artikel lesen