Die verwirrte KI – warum Automatisierung nicht ohne Menschen auskommt

Wer hat nicht schon ChatGPT getestet? Vielleicht für das Firmenprofil, den Newsletter oder einfach nur mal so die Agenda für das nächste Meeting im Stil von Ringelnatz dichten lassen? KI ist keine Zukunftsvision mehr, KI ist da. Mitten im Geschäftsalltag, als Thema in den Nachrichten, in der Praxis oder als Spielerei am Abend. Und viele Unternehmen setzen auf sie, denn sie erscheint zumindest zunächst kostengünstig, einfach zugänglich und funktionabel.

Das hier soll aber kein Beitrag zu den Vorteilen – oder Schwierigkeiten – von ChatGPT werden. Dies hier ist ein Beitrag zu einer Frage, die ausnahmslos alle KI-Anwendungen betrifft, egal aus welchem Konzern sie stammen, wer sie programmiert und wer sie einsetzt.

Bei ChatGPT, ebenso wie bei jeder anderen KI, beginnt alles mit der Frage nach dem Urteilsvermögen. Im Ergebnis sehen Texte und Resultate immer makellos aus. Aber nicht selten verkaufen KI-Anwendungen die größten Falschmeldungen in perfektem Branchensprech als unwiderlegbare Erkenntnis. Ein Elend für alle, die dem aufsitzen und etwas für bare Münze nehmen, nur weil es sich gut anhört. Bei dem Versuch dieses Phänomen zu verstehen, drängen sich die Fragen auf, warum das Tool so wenig zwischen Fake News und der Realität unterscheiden kann? Wie kommt es dazu, dass Informationen aus vollkommen fremden Fachbereichen vermischt werden?

Keine Qualität der KI ohne Qualitätsdaten

Die Ursache liegt in der Quelle der Daten. Jede KI ist nur so gut, wie die Daten, aus denen sie ihre Informationen bezieht. Das Internet jedoch ist ein unübersichtlicher, ungeordneter Datenmoloch, in dem Richtig und Falsch gleichberechtigt nebeneinander stehen – und damit für die KI nicht zu unterscheiden sind. Es sei denn, wir selektieren vor und leiten die KI an. Und damit sind wir beim eigentlichen Kern einer guten KI: Der geordneten und strukturierten Datenquelle, die wir zur Verfügung stellen müssen. Denn nur dann kann die KI auch korrekte Ergebnisse liefern. Keine Qualität der KI ohne Qualitätsdaten.

Das ist mit Blick auf das Internet schwierig, denn zum einen haben wir nur sehr begrenzt Einfluss auf die Datenquelle, und zum anderen kennen wir nur einen minimalen Bruchteil an Daten wirklich und können diese daher als vertrauenswürdig kennzeichnen. Personen, die für ChatGPT zum Beispiel zwei bekannte Websites als Quelle definieren, anstatt sie einfach machen zu lassen, werden relativ sicher ein inhaltlich annähernd gewünschtes Ergebnis im Sinne der Anforderungen erhalten.

Wenn im Gegensatz dazu nur etwas ausgeschlossen wird, was erkennbar falsch oder unerwünscht ist, besteht die Gefahr, dass durch die Unendlichkeit an anderen Websites und Inhalten auch ungewollte und falsche Inhalte als Quelle genutzt werden. Dies kann fatale Folgen für die Ergebnisse haben, die in der scheinbar makellosen KI-Verpackung für das ungeübte Auge korrekt erscheinen, es jedoch nicht sind.

Schließen KI und korrekte Ergebnisse sich also aus?

Dies bedeutet nicht, dass sich korrekte und wahrheitsgemäße Ergebnisse bei der Nutzung von KI ausschließen. Wenn die Datenquelle stimmt, kann auch die KI richtige Ergebnisse liefern – schneller und vielleicht sogar treffsicherer als ein Mensch. So kann sie für alle Bereiche, die von Echtzeit profitieren, hilfreich sein. Werbekampagnen können mit dem Warenbestand abgeglichen, Lagerbestände automatisch aufgefüllt und Websites und Angebote personalisiert werden. Auch ChatGPT kann in diesem Rahmen nützlich werden und Produktbeschreibungen zumindest entwerfen, standardisierte Sätze entsprechend der Kund:innenreaktionen und Retourenquoten hinzufügen und so frühzeitig zur Reduktion von unnötigen Retouren beitragen.

Doch dafür muss die Datenquelle stimmen. Und die kann nicht nur der KI überlassen werden. Einstellungen, Parameter, unternehmensstrategische Überlegungen, alles muss einfließen und immer wieder kontrolliert werden. Qualitätssicherung für Daten und Endergebnisse, für die Grundlage und die KI ist ein Muss. Nur so können Unternehmen sicherstellen, dass die Antworten der KI (oder ihre Marketing-Maßnahmen, Einkäufe, Lagerverwaltung, Vertriebsempfehlungen etc.) im Sinne des Unternehmens richtig sind.

Data Governance oder komplette Anarchie

Nicht die KI hat die Verantwortung für ihr Handeln, sondern Unternehmen, die sie einsetzen und mit Daten füttern. Das betrifft nicht nur sehr grundsätzlich die Frage, inwieweit wir mit KI leben und unser Leben durch ihr Handeln bestimmen lassen wollen. Politisch und ethisch sind dabei viele Fragen noch ungelöst. Was wir jedoch beantworten können, ist die Frage, wie wir die Außenwahrnehmung unseres Unternehmens bestimmen wollen. Wie wollen wir unseren Kund:innen gegenüber auftreten? Und wer sind diese überhaupt?

Von der Kund:innenkommunikation bis zur Unternehmensbilanz darf nicht allein die KI entscheiden. Es braucht eine Strategie und es braucht Regeln, mit Hilfe derer die Strategie umgesetzt werden kann. Für beides ist die Geschäftsführung zuständig und für die Umsetzung Menschen, welche Daten und KI auf ihre Konformität mit Strategie und Regeln, auf das richtige Wording und die richtigen Datenströme hin kontrollieren. Data Governance im Sinne eines Unternehmens kommt ohne menschliche Kontrolle nicht aus, sonst verlieren Daten ihren Wert und KI die Orientierung.

Der Mensch beherrscht die KI – alles andere ist Fiktion (oder Chaos)

So, wie die Geschäftsführung die Unternehmensziele festlegt und die Quartalsergebnisse verantwortet, muss sie auch die KI verantworten und damit den Umgang ihrer Mitarbeiter:innen mit den Daten. Wer ist für welche Daten verantwortlich? Welche werden im Sinne des übergeordneten Ziels benötigt, welche sind überflüssig und verunklaren das Bild? Wer wacht über die Qualität und justiert nach, wenn diese nicht im Sinne des Unternehmens sind? Data Governance macht Arbeit – und erteilt diese. Sie ist die Grundlage jeder Unternehmensführung und der einzige Weg, mit dem Unternehmen die Kontrolle über das Handeln und Lernen der KI behalten.

Wer hält die Zügel in der Hand?

Viele Science Fiction-Filme handeln von der KI, die sich gegen ihre Erfinder:innen richtet und die Menschheit beherrscht. Doch über die Daten beherrscht der Mensch die KI. Immer. Denn der Mensch trägt für Daten und Algorithmen die Verantwortung. Die Übernahme der Macht durch die KI ist also Fiktion, ob sie gut oder schlecht regiert wird und damit konstruktiv oder destruktiv agiert, das hingegen ist Realität. Data Governance macht den Unterschied, sie sorgt für ein klares Datenkonzept im Sinne einer übergeordneten Firmenstrategie.

Deshalb müssen Unternehmen spätestens dann, wenn sie über Automatisierung und KI nachdenken, das Chaos in ihren Daten beseitigen. Es darf keine Datensilos mehr mit einem Wildwuchs an Bezeichnungen in den Datenstrukturen, keine überflüssigen Daten, von denen manche gar nicht mehr wissen, dass sie überhaupt gesammelt wurden, aber auch keine Lücken in essentiellen Fragen der Firmenstrategie geben. Und während ChatGPT im Internet einen Einheitsbrei an glatt gebügelten austauschbaren Aussagen generiert, die verunklaren, was falsch und was richtig ist, hat die so regierte KI im Unternehmen die Chance, ein Firmenprofil zu schärfen. Denn sie handelt auf Basis dessen, was ihr das Unternehmen vorgibt, strukturiert, kontrolliert und das alles in gesicherter Qualität. Und das geht nur mit Menschen – und deren angeborener Skepsis.