KI an vorderster Front

Startseite » KI an vorderster Front

Es ist 10 Uhr an einem Montag und Aman, einer der Entwickler eines neuen Tools für künstliche Intelligenz, freut sich auf den Start der Technologie an diesem Tag. Leiter der Intensivstation des Duke University Hospital hatten Aman und seine Kollegen gebeten, ein KI-Tool zu entwickeln, um eine Überbelegung ihrer Abteilung zu verhindern. Die Forschung hatte gezeigt, dass Patienten, die mit einer bestimmten Art von Herzinfarkt ins Krankenhaus eingeliefert wurden, keinen Krankenhausaufenthalt auf der Intensivstation erforderten, und die Leiter hofften, dass ein KI-Tool den Klinikern in der Notaufnahme helfen würde, solche Patienten zu identifizieren und sie an die nicht-kritische Versorgung zu überweisen. Dies würde sowohl die Qualität der Versorgung der Patienten verbessern als auch unnötige Kosten reduzieren.

Aman und sein Team aus Kardiologen, Datenwissenschaftlern, Informatikern und Projektmanagern hatten ein KI-Tool entwickelt, mit dem Ärzte diese Patienten leicht identifizieren konnten. Er fügte auch Sprache in die elektronischen Krankenakten der Patienten ein, um zu erklären, warum sie nicht auf die Intensivstation verlegt werden mussten. Endlich, nach einem Jahr Arbeit, war das Tool einsatzbereit.

Drei Wochen vorspulen. Das Starten des Tools ist fehlgeschlagen. Der Kommentar eines Notarztes, dass „wir kein Tool brauchen, das uns sagt, wie wir unsere Arbeit machen sollen“, ist typisch für die Reaktionen des Personals an vorderster Front auf die Einführung der KI. Vielbeschäftigte Kliniker in der schnelllebigen Notaufnahmeumgebung ärgerten sich über die zusätzliche Arbeit, Daten außerhalb ihres üblichen Arbeitsablaufs in ein System einzugeben – und sie ärgerten sich über das Eindringen von Ausländern in ihr Fachgebiet, von denen sie glaubten, dass sie wenig Verständnis für Notfalloperationen hatten.

Ähnliche gescheiterte KI-Implementierungen finden in anderen Branchen statt, obwohl diese neuen Arbeitsweisen Unternehmen dabei helfen können, die Produkt- und Servicequalität zu verbessern, Kosten zu senken und den Umsatz zu steigern.

Verweise

1. S. Pachidi, H. Berends, S. Faraj, et al., „Make way for algorithms: symbolic actions and change in a knowledge regime“, Organization Science 32, No. 1 (Januar-Februar 2021): 18-41.

2. M. Valentine und R. Hinds, „‚Rolling Up the Leaf Node‘ to New Levels of Analysis: How Algorithmic Decision-Making Changes Roles, Hierarchies, and Organ Charts“, Working Paper, Stanford University, Stanford, CA, Mai 2021.

3. E. van den Broek, A. Sergeeva und M. Huysman, „Machine Meets Expert: An Ethnography of AI Development for Hiring“, MIS Quarterly 45, No. 3 (September 2021): 1557-1580.

4. T. DeStefano, M. Menietti und L. Vendraminelli, „A Field Experiment on AI Adoption and Allocation Efficiency“, in Arbeit.