Verdummung durch KI?
Vergangene Woche veröffentlichten Microsoft und die Carnegie Mellon Universität eine Studie zu den unerwünschten Folgen des Einsatzes von Künstlicher Intelligenz. Demnach ließ der Einsatz von KI bei den Usern die Fähigkeit zum kritischen Denken verkümmern. Das Problem liegt allerdings tiefer: Es geht um kognitive und wirtschaftliche Monokulturen. Deswegen auf KI zu verzichten, ist allerdings ein Irrweg.Zuerst zur Studie: Dazu beobachteten die Forscher 319 Knowledge-Worker bei der KI-unterstützten Erledigung von 936 Tätigkeiten. Dabei trat ein besorgniserregender Trend zu Tage. Demnach investierten die Studienteilnehmer umso weniger Hirnschmalz in die Erledigung ihrer Aufgabe, umso mehr sie der KI vertrauten. Das hatte allerdings nicht nur auf die Arbeitsweise Auswirkungen. Denn die Teilnehmer, welcher der KI blind vertrauten, berichteten auch von schwächeren Skills bezüglich des kritischen Denkens. Dagegen legten die KI-Skeptiker eine aktivere Herangehensweise an Probleme an den Tag. Sie hinterfragten die Ergebnisse der KI-unterstützten Prozesse und arbeiteten aktiv mit den KI-erzeugten Inhalten.
Shelly Palmer, Tech-Journalist und Professor für Moderne Medien an der Universität von Syracuse, N.Y., bringt das Problem in seinem Blog auf den Punkt: „Wenn man sein Gehirn an eine KI outsourced, könnte es auch vergessen, wie man einer KI richtig ,einsagt‘.“ Er spielt damit darauf an, dass man für die gewünschten Ergebnisse einer KI auch die richtigen ,Prompts‘ oder Hinweise geben muss.
Evolution
Ein weiteres Ergebnis der Studie betraf die Art der Ergebnisse. Denn hier zeigte sich laut den Studienautoren ein Trend zu Monokultur. Die Ergebnisse von KI-unterstützten Prozessen gleichen sich an. Anstatt ihre eigenen Erfahrungen und ihr Wissen einzubringen, fallen die User auf die von der KI erstellten Lösungen zurück. Dieses Problem tritt speziell unter Zeitdruck wie nahenden Deadlines auf, während die Studienteilnehmer in einer verantwortungsvollen Position eher die von einer KI vorgeschlagenen Ergebnisse überprüfen.
Dieser Trend zur Monokultur ist nicht verwunderlich, schließlich orientieren sich die KI-Entwickler an den jeweils erfolgreichsten Modellen. Die Arbeitsweisen erfolgreicher Modelle werden kopiert, womit sich diese KI-Anwendungen immer mehr angleichen, was wiederum zu immer ähnlicheren Ergebnissen führt. Insofern kann man durchaus von einer Evolution bei den KI-Systemen sprechen. Angesichts des hohen Tempos im Sektor läuft diese allerdings direkt vor unseren Augen im Zeitraffer ab.
Auslese im Management
Bevor wir jetzt allerdings alle über die Nachteile und Gefahren der künstlichen Intelligenz klagen, diese verteufeln und nach dem totalen Verbot von KI-Anwendungen rufen, sollten wir kurz innehalten. Denn die, der intellektuellen Monokultur zugrundeliegenden, Probleme werden durch die KI zwar verstärkt – aber nicht durch sie erzeugt.
Vor allem in der Wirtschaft ist es der Wettbewerbsdruck, welcher zu einer gewissen Auslese führt. Unter diesen Umständen gleichen sich die Unternehmensstrategien immer mehr an, da viele der Entscheider im Management der Betriebe keine Zeit für die Entwicklung eigener Management-Ansätze aufbringen können. Kommt hinzu, dass man diesen Managern, solange sie sich der orthodoxen Methoden und Verfahren bedienen, auch keine Fehlentscheidung vorwerfen kann. Schließlich haben sie ja ,alles richtig‘ gemacht. So lange man sich an den erfolgreichsten Marktteilnehmern orientiert, muss man zudem auch nicht das intellektuelle Kapital sowie die Ressourcen aufbringen, um sich selbst neue Marktchancen bzw. Produkte zu erarbeiten. Stattdessen versucht man die Vorgehensweise der Marktführer billiger zu kopieren.
Das erzeugt vor allem in großen, von Quartalsergebnissen getriebenen Unternehmen einen evolutionären Druck im Management. Wer nicht gerade ein amtlich anerkanntes Genie ist, der sich wird an der Masse orientieren und seine Energie in die Verbesserung der vorhandenen Ansätze stecken, anstatt Neues zu entwickeln, womit sich die Herde mehr und mehr in eine Richtung bewegt. Ist die Herde allerdings einmal in Bewegung, ist der Weg zur Monokultur vorgezeichnet. Monokulturen sind allerdings anfälliger für unerwartete Veränderungen. Und das ist in komplexen Systemen ein Problem. Denn je unübersichtlicher das System ist, desto größer ist die Wahrscheinlichkeit, dass selbst eine kleine Veränderung überproportional katastrophale Auswirkungen hat. Die Bankenkrise von 2008 sollte uns dazu ein warnendes Beispiel dienen.
Der unkritische Einsatz von KI stellt in dieser Hinsicht eine Abkürzung in Richtung Monokultur dar. Denn der Einsatz einer KI ist nach dem Ausräumen der Kinderkrankheiten bequem und verspricht schnellen Erfolg. Gleichzeitig berauben uns diese Erfolge der Fähigkeit, in Krisenfällen angemessen zu reagieren, weil wir es schlicht verlernt haben.
Also doch KI-Anwendungen verbieten und wieder alles selber machen?
Auf diese Frage gibt es nur eine Antwort: Sicher nicht. Denn die Diskussion, ob uns die Nutzung verschiedener Technologien schwächt oder gar verdummt, ist jetzt nicht neu. Egal ob Taschenrechner und Computer oder das Internet, immer wieder kam bei deren Einführung der Vorwurf auf, dass damit ein Teil unserer kognitiven Fähigkeiten verloren gehe. Wer sich allerdings einer neuen Technologie verweigert, der handelt sich einen unmittelbaren Wettbewerbsnachteil ein. Deswegen werden wir uns immer mit neuen Technologien wie KI und deren Einsatz in KMUs auseinandersetzen müssen.
Der Einsatz von KI sollte allerdings zielgerichtet und strategisch erfolgen. In diesem Zusammenhang möchte ich auf das Interview verweisen, dass ich mit FH-Professor Sebastian Eschenbach führen durfte. Der sagte hinsichtlich des Einsatzes von KI in KMU etwas sehr interessantes: „Wo es allerdings um die Geschäftsgrundlage geht, wo man sich strategisch etwas holen kann, dort sollte auch der Schwerpunkt bei der Einführung von KI im Unternehmen sein.“
Es geht also um den strategischen Ansatz bei der Nutzung von KI im Unternehmen, denn in den Standardanwendungen wird KI so oder so einfließen. Das gilt natürlich nicht nur für KMUs. Und solange man sich dem Thema entsprechend bewusst nähert, vermeidet man auch die Falle der Verdummung durch KI und der Monokultur wegen der künstlichen Intelligenz.
Kommentare