- 5 days ago
KI - ZWISCHEN ALLTAG UND ZUKUNFT ready 49ab-83ed-ae5e244714a4_HD
Category
🤖
TechTranscript
00:13Welcome to Alpha-Themagespräch.
00:16Today it's about Künstliche Intelligenz.
00:18We know that AI filter our data.
00:21She sets diagnoses.
00:23She automates complex tasks.
00:26We know that we don't know more.
00:30We know that AI is fast and efficient.
00:35But sometimes it's not so good.
00:40It's not really helpful,
00:46but it's good to talk about AI.
00:49I'm going to do it with Professor Sabine Pfeiffer.
00:54To my left.
00:55She is Soziologin at the Friedrich-Alexander-Universität
00:59Erlangen-Nürnberg.
01:00And she forscht zum Thema Arbeit und Technik.
01:04Sie beobachtet zum Beispiel, was passiert,
01:06wenn neue Technologien in Betrieben eingesetzt werden
01:10und was sich dort dann verändert.
01:13ChatGBT hat sie in meiner Vorbereitung
01:17Arbeitsweltdetektivin genannt.
01:18Das fand ich sehr schön.
01:20Und mir gegenüber ist Professor Doktor Frauke Kreuter.
01:24Sie ist Statistikprofessorin an der Ludwig-Maximilians-Universität München.
01:29Dazu leitet sie ein Social Data Center an der University of Maryland,
01:35also ganz in der Nähe von Washington DC.
01:38Und sie berät Kommunen und Länder,
01:40wie man Verwaltungsdaten besser nutzen kann.
01:43Also sie weiß, wie man KI bestenfalls so konzipiert und nutzt,
01:48dass sie Gesellschaft und Politik hilft.
01:51An Sie beide habe ich gleich mal zum Einstieg folgende Frage.
01:55Weil ich habe noch mal so sinniert und dachte,
01:57Mensch, das ist doch noch gar nicht so lange her.
01:59Da war KI noch so was wie Science Fiction, Terminator und so weiter.
02:04Damit sind wir aufgewachsen.
02:06Und dann ging auf einmal alles Schlag auf Schlag in den vergangenen Jahren.
02:11Vielleicht fangen wir bei Ihnen an.
02:14Wann war der Zeitpunkt, wo Sie dachten,
02:17oh ja, die KI wird unsere Gesellschaft grundlegend verändern?
02:23Ja, das ist eine interessante Frage.
02:25Weil wir haben natürlich vorher schon zu KI geforscht.
02:27Auch Anwendungen im Betrieb, analytische KI in bestimmten speziellen Feldern.
02:32Das war immer sehr spezifisch.
02:34Und als es mit ChatGPT losging, ich weiß nicht, drei Wochen später oder so,
02:38wir hatten eine konfliktreiche Situation in einem großen Forschungsverbund
02:42und ein Mitarbeiter hat sich, ich glaube damals,
02:45vier Varianten von ChatGPT an E-Mail-Text vorschreiben lassen.
02:50Also ein bisschen netter, ein bisschen weniger nett und so weiter.
02:53Und hat mir dann die vier Varianten geschickt,
02:55damit ich dann entscheide, welche jetzt die beste ist.
02:58Und da habe ich mir gedacht, okay, das ist interessant.
03:00Früher hätte man vielleicht in so einer konfliktreichen Situation
03:03auch mal kurz sich abgestimmt.
03:04Also gehen wir schon, eskalieren wir oder sind wir eher noch nett.
03:09Aber dass man sich vier Varianten schreiben lässt
03:11und dann immer noch sagt, also jetzt entscheide nicht ich,
03:14welche von den Varianten ich nehme.
03:16Jetzt frage ich nochmal meine Chefin bei jemand,
03:20der schon länger im Job ist und promoviert ist und so.
03:22Ich habe mir gedacht, okay, das ist interessant.
03:24Also man lässt sich zwar helfen,
03:26macht sich aber gleichzeitig so ein bisschen unqualifizierter,
03:31als man eigentlich ist.
03:32Weil das wären ja jetzt normale soziale Entscheidungen,
03:35die man eigentlich treffen können sollte,
03:36wenn man schon länger im Job ist.
03:38Oh, das ist spannend.
03:39Da sollten wir auf jeden Fall später nochmal wieder drauf zurückkommen,
03:42dass es einen Unselbstständiger machen kann,
03:45wenn man mit KI arbeitet.
03:47Gleich zu Beginn ein sehr spannender Aspekt.
03:50Frau Kreuter, wie hatten Sie auch so einen Moment,
03:53wo Sie dachten, wow, das ist jetzt tatsächlich anders als früher war?
03:58Also, ich würde sagen, für uns alle war natürlich das Öffentlichmachen
04:03des Chat-GPT-Interface, so eine Schwelle, wo man gesehen hat,
04:09okay, jetzt können da alle mitmachen.
04:12Wir haben in, ich habe einen Podcast zur Digitalisierung
04:16und da haben wir in den zehn Jahren vorher immer mal wieder uns die Chatbots angeguckt
04:21und immer mussten wir lachen, wie schlecht das eigentlich funktioniert.
04:25Und als das dann im November rauskam, hatten wir recht bald danach
04:29direkt eine Folge gemacht mit Chat-GPT als Gast.
04:32Und das war wirklich beeindruckend.
04:34Was mich aber eigentlich beeindruckt hatte, war,
04:37als dann wenige Wochen später der Sohn von einer Freundin,
04:41seine 14-jähriger Sohn, seine Religionsausgabe gemacht hat
04:45und sie überrascht war, was er da alles wusste.
04:47Und er sagte, woher weiß denn sie das?
04:48Und dann sagte er, das hat mir die KI gesagt.
04:51Und dann dachte ich, okay, also wenn das so schnell publiziert
04:55und dann so schnell in der Schule bei den 14-Jährigen
04:58als Instrument schon ganz selbstverständlich eingesetzt wird,
05:02dann passiert hier wirklich viel.
05:03Und so war es dann.
05:04Passt ganz gut zu meiner nächsten Frage.
05:07Sie schreiben nämlich in einem Ihrer Bücher,
05:09Innovation muss jeder können.
05:12Das klingt für mich schon tough, klingt auch irgendwie anstrengend,
05:16wenn das jede einzelne Person machen soll.
05:19Was meinen Sie genau in Bezug auf KI?
05:23Was sich jeder einzelne Zuschauer, Zuschauerin auch zu Herzen nehmen sollte?
05:28Also ich glaube, jetzt würde ich es vielleicht sogar noch anders formulieren
05:33und sagen, kann jeder.
05:35Weil für mich die Sprachmodelle ein unglaubliches Ermächtigungsinstrument sind.
05:44Also vorher war es ja so, man hat vielleicht eine Idee
05:47und gerade in den USA, da habe ich lange Zeit gelebt,
05:51hat jeder irgendwann mal darüber nachgedacht, ob man sich jetzt selbstständig macht oder sowas.
05:54Und Ideen haben wir alle viele.
05:55Aber bisher fehlte dann oft das Wissen, wie man eine bestimmte Sache macht.
06:01Ob das die Website bauen ist oder die Buchhaltung oder einen technischen Aspekt.
06:06Und dass man jetzt so leicht an Wissen kommen kann, ist glaube ich ein unglaubliches Potenzial
06:13für einzelne Leute mit Ideen tatsächlich daraus etwas zu machen.
06:17Sie beraten ja auch Behörden und Regierungen.
06:20Was sind denn da die drängendsten Probleme, mit denen Politikerinnen und Behördenleiter gerade auf Sie zukommen?
06:29Der Druck ist groß, dass man mit KI was macht in der Verhaltung.
06:33Jeder will Digitalisierung sehen, KI.
06:36In der Praxis, muss ich sagen, liegt das Problem daran auch, dass man oft gar keinen Zugang hat zu den
06:45Modellen,
06:45dass der Zugang zur Cloud noch nicht überall so einfach ist, wie man sich das wünscht.
06:51Aber das eigentliche Problem ist oft, dass die Daten, die man hat, gar nicht in einem Format vorliegen,
06:57dass man die verschiedenen, ob das jetzt direkt algorithmisch KI ist oder die Sprachmodelle,
07:03darauf loslassen könnte.
07:04Also jede große Organisation wünscht sich ja einen Chatbot, der quasi alle Fragen beantwortet,
07:10die man mit dem Wissen über die Organisation beantworten könnte.
07:14Ein klassisches Beispiel sind die HR-Abteilungen.
07:18Da gibt es viele Q&A-Sachen, die immer wieder auftauchen.
07:21Jeder neue Mitarbeiter oder Mitarbeiterin hat ja ähnliche Fragen.
07:25Aber dazu muss man zunächst auch mal alle Informationen so sortiert vorliegen haben,
07:32dass man sie digital auch nutzen kann.
07:34Und daran scheitert es oft.
07:36Also das ist gar nicht so sehr der Einsatz der neuen Verfahren,
07:39sondern das Aufräumen im eigenen Datenschrank, der da fehlt.
07:43Also man muss seine Daten im Griff haben, um überhaupt damit dann auch gut arbeiten zu können.
07:49Kommt auf den Einsatz, das Einsatz fällt darauf an, aber um sozusagen ganze Prozesse zu digitalisieren,
07:56müssen natürlich die Daten vorlegen auf eine Weise oder auch zusammengebracht werden,
08:01die das oft nicht der Fall ist.
08:04Frau Pfeiffer, da sind wir natürlich auch schon bei denen, die es betrifft, den Mitarbeitenden.
08:09Also die Personalabteilung wünscht sich ein Frage-Antwort-Bot.
08:15Trotzdem, das wäre ja erstmal was Schönes, was vielleicht ein Hilfsmittel wäre.
08:22Trotzdem, in vielen Betrieben haben Mitarbeitende Angst vor der KI.
08:29Jobverlust ist sicherlich ein Ding.
08:32Vielleicht aber auch, weil man nicht so wirklich das Ganze doch durchdringt.
08:38Und Sie sehen vor allen Dingen Ihren Arbeitsplatz gefährdet,
08:43obwohl es dafür noch keinen Grund gibt.
08:46Wie ist das zu erklären?
08:47Ich würde es eher andersrum sehen.
08:50Also in unserer Forschung, wir schauen in die Betriebe, wir machen aber auch große Umfragen,
08:55ist die Angst, den eigenen Job zu verlieren, gar nicht so groß, wie immer behauptet wird in den Medien.
09:00Ja, genau, wie es gerade behauptet hat, tatsächlich.
09:04Finden wir das nicht.
09:05Also es wird natürlich immer gesagt von den Medien, von Politikerinnen und Politikern,
09:09im Betrieb ist das eigentlich nicht so verbreitet.
09:14Allerdings machen sich viele Leute, wir fragen immer in den großen Umfragen, die wir machen,
09:18hat man Angst, dass der eigene Job da verlustig geht oder macht man sich um andere Sorgen.
09:24Man macht sich viel mehr um die Jobs der anderen Sorgen, nicht um den eigenen.
09:28Da gibt es einen großen Unterschied, jeweils in den Befragungen, nicht nur bei uns,
09:31auch in internationalen Befragungen.
09:34Was, glaube ich, damit zu tun hat, dass jeder und jede weiß um die Vielfältigkeit der eigenen Tätigkeit,
09:40die ja meistens sehr viele Facetten hat und dann die Einschätzung gar nicht so falsch ist zu sagen,
09:46also die KI, die all diese Facetten übernimmt, die muss erst noch ums Eck kommen.
09:51Während man oft über die Jobs der anderen, die Tätigkeiten der anderen ein etwas vages Bild hat
09:57und deswegen vielleicht die Komplexität unterschätzt und deswegen da schneller sich denkt,
10:02ah ja, um die anderen mache ich mir große Sorgen, aber ich bin ja safe.
10:06Also die große Angst sehe ich nicht gerade jetzt mit der generativen KI,
10:11weil ja, das haben wir auch schon in anderen Digitalisierungsschritten gehabt,
10:14es anders ist als früher.
10:16Menschen haben oft im Privaten schon viel mehr Kontakt mit der jeweils neuen Technologie,
10:22als sie am Arbeitsplatz haben und dürfen.
10:25Insofern ist ja gar nicht mehr, das hat man immer noch so von früher,
10:28da hatte man den PC am Arbeitsplatz, aber jahrelang noch nicht zu Hause,
10:32aber das hat sich ja längst umgedreht.
10:35Im Gegenteil treffen ja auch oft Leute in den Interviews, die wir führen, die sagen,
10:39ich hätte es gern ein bisschen digitaler am Arbeitsplatz,
10:42aber da passiert nicht so viel, wie ich mir eigentlich wünschen würde.
10:46Welche Berufsgruppen haben denn den größten Wandel gerade durch die KI?
10:51Kann man das so klastern?
10:52Ja, also was natürlich interessant ist, dass auch die Arbeitsmarktprognosen
10:58in Richtung Digitalisierung Jahre, Jahrzehnte lang kann man fast sagen,
11:02immer gesagt haben, naja, es trifft so die einfachen Routinetätigkeiten,
11:06was immer Routine dann sein soll.
11:09Aber die Wissensarbeiterinnen und die konzeptionell arbeiten oder kreativ
11:15oder sich um andere kümmern, irgendwie die trifft es nicht.
11:19Das ist so, das Menschliche bleibt am Ende übrig.
11:21Jetzt haben wir ja ein bisschen gerade das andere, dass man sagen kann,
11:26also die Handwerkerinnen und Handwerker, die können sich entspannter zurücklehnen.
11:33Auch in der Pflege, also es wird ja immer vom Pflegeroboter geredet,
11:37der dann den Fachkräftemangel heilt,
11:38da glaube ich, das werden wir nicht erleben in unserer Lebensspanne,
11:42dass das tatsächlich passiert.
11:43Aber das, was wir so üblicherweise unter kreative Berufe einsortieren,
11:49da wird es natürlich ein bisschen schwieriger.
11:50Also Bildbearbeitung, Videos erstellen,
11:55keine Ahnung, Modeaufnahmen, wo man früher auf die Malediven fliegen musste,
12:00mit Models und Ton und Technik und allem mit dabei.
12:04Das kann man natürlich jetzt alles so generieren.
12:07Da passiert natürlich viel.
12:09Aber da würde ich auch sagen, man muss genau hinschauen,
12:11weil es ist dann doch immer so, dass die KI erstens gar nicht so viel Produktivitätsfortschritte bringt,
12:19wenn man genau hinschaut, sehen wir an vielen Stellen.
12:22Das andere ist auch in den kreativen Berufen, wenn die sehr arbeitsteilig organisiert sind.
12:28Also was es zum Beispiel in sehr großen Werbeagenturen gibt, die so global arbeiten.
12:32Da kann es natürlich schon sein, dass jemand nichts anderes macht als Bildbearbeitung in einer bestimmten Art und Weise.
12:37Das ist dann natürlich schwierig, weil diese eine Tätigkeit lässt sich leicht ersetzen.
12:42Da, wo das aber ein bisschen ganzheitlicher organisiert ist und Menschen viele verschiedene Dinge tun,
12:48haben sie hoffentlich an der einen oder anderen Stelle eine gute Entlastung durch KI.
12:52Aber deswegen ist nicht der ganze Arbeitsplatz weg.
12:56Aber neu ist tatsächlich, dass eher die Berufe auf einmal so ein bisschen sich als angezählt fühlen.
13:02Und das war ja lange, hat man immer gesagt, dass genau die anderen treffen, aber die natürlich nicht.
13:06Was wir in der Statistik sehen, ist, dass es eben dann vor allem die jungen Leute sind,
13:12die eben Betriebe und komplexe Prozesse noch nicht so gut kennen, die aber Schwierigkeiten haben, den Einstieg zu schaffen.
13:19Also in den Data Science oder Programmierungsberufen wird das viel.
13:23Die Sorge ist groß, dass man sozusagen die Einstiegsprogrammierjobs nicht mehr hat,
13:28weil die übernommen werden können von der KI, also von den generativen Sprachmodellen,
13:34die bei der Programmierung ja ganz gut mittlerweile dabei sind.
13:38Was heißt das dann genau für so eine Gruppe?
13:40Wie müssen die sich, wenn wir es uns mal wirklich so in der Nahtzell anschauen,
13:44wie müssen die sich dann umstellen?
13:48Also, was ich immer wieder höre von Leuten, die auch in der Tech-Industrie arbeiten,
13:53ist, dass es wichtig ist, dass die jungen Leute Prozesse und Forschungsfragen und Projekte end-to-end durchdenken.
14:00Also eigentlich genau das, was du gesagt hast, Sabine, je kleinteiliger die Skills sind,
14:05desto einfacher ist das auch ersetzbar.
14:07Aber wenn man einen Prozess mit durchdenken kann und das auch geübt hat,
14:11also in unserem Fall Forschung mit Daten, dass man die Kette kennt von Datenerhebung, Datenanalyse,
14:18aber auch, wie ist es eigentlich dann nutzbar für denjenigen, der die Ergebnisse kriegt?
14:25Das ist ein komplexes Denken, was man lernen kann als junger Mensch im Studium und auch üben kann durch Projekte
14:32und Praktika,
14:34was aber die generativen Modelle in der Weise nicht hinkriegen.
14:38Was bedeutet, wenn wir schon bei den jungen Leuten sind und auf die Generationen schauen,
14:43was bedeutet dann so ein Wandel, ich sag mal für die mittelalte Generation, die dann auch noch 15, 20 Jahre
14:52zu arbeiten hat
14:53und was bedeutet es für die Älteren, für die Rentnerinnen und Rentner?
15:00Also, was ich sehe ist, dass, gerade wenn wir mit den Verwaltungsmitarbeiter und Mitarbeiterinnen arbeiten
15:09und wir versuchen zu zeigen, wie man mit den eigenen Daten eigentlich mehr machen kann,
15:15ja, ob das jetzt das Bayerische Staatsarchiv ist, die direkt jetzt die Justizakten nehmen
15:20und nicht mehr händisch gucken, soll das archiviert werden, sondern da Stichproben ziehen,
15:24da ist die Schwelle hoch, dass man sagt, okay, dann muss ich da was programmieren
15:28oder kann ich das überhaupt?
15:30Und dass jetzt da so ein Assistent zur Seite ist, der einem hilft,
15:34auch die Programmzeile dann vielleicht mal einfach herauszufinden,
15:38ohne dass man jetzt weiß, wie Python oder R oder irgendein Statistikprogramm funktioniert,
15:43das ist, glaube ich, schon etwas, was auch Leute eben länger im Berufsleben sind
15:47und sich vielleicht bisher gescheut haben, so einen neuen Bereich anzugehen,
15:51tatsächlich auch, wie ich vorhin sagte, ermächtigt, ja, also dass da die Hürden abgebaut werden.
15:56Und das ist gut, würde aber voraussetzen, dass man auch Zugang hat.
15:59Und das sehen wir eben auch oft, dass sich große Unternehmerbehörden schwer tun,
16:03den Zugang zu erleichtern.
16:05Bei den Rentnern ist keine Gruppe, zu der ich Forschung mache oder noch nicht, ja,
16:10aber aus dem familiären oder weiter familiären Umfeld muss ich nur sagen,
16:17da sehe ich viele Beispiele, wo das mutig mitgenutzt wird,
16:21genau wie bei dem Schüler, den ich vorhin erwähnt habe.
16:23Das macht halt die KI.
16:25So, fertig, ja, muss man nicht weiter darüber nachdenken.
16:28So wie man ja auch alle…
16:28Zum 70. Geburtstag das kalle Gedicht.
16:32Zum Beispiel, genau.
16:33Mit drei, vier schönen Stichworten, es kommt immer gut.
16:35Wie Sabine sagte, im Alltag ist das integriert, ja.
16:38Und wenn das auf dem Handy als App vorliegt, warum nicht, ja.
16:43Bleiben wir nochmal bei den Firmen.
16:44Was sind denn die häufigsten Fehler, die Firmen in Bezug auf KI machen?
16:53Puh.
16:57Also, wenn ich Leute interviewe, die eben in ihren Firmen versuchen, das einzuführen,
17:02höre ich immer wieder zwei Themen.
17:04Einmal, dass man Angst hat, etwas auszuprobieren, weil man Angst hat, es geht schief.
17:11Und dann wird ewig diskutiert, ob man das machen soll.
17:13Also, vielleicht in Verwaltung noch ein bisschen mehr als in den Firmen.
17:17Und das Zweite, dass man das so groß aufhängt, ja.
17:23Also, man versucht jetzt riesige Umstellung zu machen, anstatt sich einfach mal einen kleinen
17:28Bereich zu suchen, gucken, wie das funktioniert und dann davon weitermachen, ja.
17:32Also, viele Meetings und bis zum Ende Planen, glaube ich, ist in so einer Welt, wo die Technologie
17:40auch sich so schnell ändert, zum Scheitern verurteilt.
17:44Aber in kleinen Prozessen, wo sie hilfreich sein können, einfach mal machen, gucken, funktioniert
17:49das?
17:49Und was heißt das dann für den nächsten Prozess?
17:51Da habe ich den Eindruck, funktioniert an vielen Stellen besser.
17:54Ich habe ja vorhin in meiner Anmoderation gesagt, die KI ist effizient und sie ist schnell.
18:00Das stimmt auf der einen Seite.
18:01Auf der anderen Seite haben wir vorhin schon das Thema Komplexität gehabt.
18:08Diese Vorstellung, dass die KI Komplexität reduziert.
18:15In Wahrheit ist es ja oft so, dass es zur Verdichtung von Arbeit führt, weil man vielleicht
18:22Sachen zusammen...
18:24Also, für den einzelnen Mitarbeiter sind ja technische Errungenschaft oft Dinge, die
18:32dann Dinge zusammenführen und wo sie dann eigentlich mehr Arbeit haben.
18:37Also, die meisten Menschen beschweren sich über mehr Arbeit anstatt weniger, obwohl es
18:41so viele Tools gibt, plus jetzt KI.
18:44Was bedeutet das eigentlich für die Zukunft?
18:48Wie muss man Arbeit organisieren?
18:51Was ist da Ihre Erfahrung?
18:55Ja, komplexe Frage.
18:58Das eine ist tatsächlich, was wir in der Forschung immer wieder sehen, weil Sie jetzt
19:02gesagt haben, obwohl es ja so viele Tools gibt, wird die Arbeit immer mehr.
19:06Manchmal ist es auch genau deswegen.
19:07Warum?
19:08Weil die Tools oft nicht gut, also die klassischen Tools, jetzt rede ich erstmal nicht von KI,
19:12aber die sind ja auch alle noch da, die klassischen Tools, da sind natürlich in den letzten
19:17Jahren an vielen Arbeitsplätzen das noch dazu gekommen und das noch dazu gekommen, oft
19:21nicht gut angepasst an das, was die Leute wirklich brauchen am Arbeitsplatz.
19:26Also, wir entdecken immer wieder in unserer Forschung, dass dann jemand sagt, jetzt habe ich
19:30das neue System bekommen für etwas, was ich 200 Mal am Tag machen muss, muss ich jetzt
19:35drei Klicks mehr machen als vorher.
19:38Ja.
19:39Das sind so wirklich typische Dinge und da hilft einem dann die KI auch nicht unbedingt,
19:43jetzt wenn man sich Agents bauen würde, aber das lasse ich jetzt mal weg vielleicht.
19:48Aber die Frage ist natürlich A, erstens, an welchen Stellen hilft es mir wirklich?
19:53Es gibt schöne Studien, die zeigen, dass es einen Gap gibt aus, bin ich schneller geworden
20:00durch die KI am Arbeitsplatz?
20:02Ja, und es gibt schöne Studien, die zeigen, dass Leute sagen, ja, ich glaube, ich bin 20%
20:07schneller gewesen beim Programmieren mit KI, jetzt bei bestimmten konkreten Aufgaben.
20:13Faktisch waren sie aber fast 20% länger als die, die dieselbe Aufgabe in diesem Test
20:18ohne KI gemacht haben.
20:19Also nicht nur, dass sie mehr Zeit gebraucht haben, tatsächlich faktisch, sie haben aber
20:24gleichzeitig das Gefühl gehabt, dass sie schneller waren.
20:27Das ist ja schon mal gut eigentlich.
20:29Das ist interessant.
20:29Und dann starten wir, glaube ich, noch bei keiner anderen Technologie, dass einem das
20:33Gefühl dafür abhanden kommt, ob man schneller geworden ist.
20:36Und das, glaube ich, kann vielleicht jeder und jede an sich selber auch.
20:39Also man fragt das eine Modell und ist mit der Antwort so halb zufrieden, dann fragt
20:44man noch zwei andere Modelle, dann hat man am Ende vier Varianten vor sich und überall
20:49ist doch auch ein kleiner Fehler drin, den man aber auch erst mal finden muss.
20:52Und am Ende ist eine Stunde rum und der Text ist immer noch nicht geschrieben.
20:56Ja.
20:57Also diese Verführung gibt es, glaube ich, schon.
21:01Deswegen, vorhin war ja auch noch die Frage im Raum, was machen Firmen falsch?
21:04Und da fängt es an, also man muss eigentlich von den Arbeitsplätzen her angucken, was wird
21:11eigentlich gebraucht und wo macht KI tatsächlich, würde eine Entlastung schaffen?
21:16Und wenn ja, welche KI und wie kann ich die gut trainieren?
21:20Für die allgemeinen Sachen, Sie haben ja vorhin schon das Ständchen zum 70.
21:24erwähnt, da kann die KI ja nicht so viel falsch machen.
21:27Das klingt meistens irgendwie gut und dann nimmt man es halt und so.
21:31Aber im betrieblichen Kontext wird es ja dann sehr schnell doch sehr spezifisch.
21:35Da hat dann die KI oft nicht genug Daten, um zu lernen.
21:40Selbst wenn die mal, was oft nicht der Fall ist, würde ich total unterstützen, die Aussage,
21:44dass die Daten überhaupt in der richtigen Form vorliegen.
21:48Aber die meisten Firmen, in denen wir forschen, unterschätzen, also die, die entscheiden darüber, ob
21:54das mit KI gemacht werden soll oder nicht, unterschätzen völlig, welche Datenmengen man
21:59braucht, um die KI in einem spezifischen Kontext auf eine Aussagewahrscheinlichkeit zu bringen,
22:06mit der man dann wirklich leben kann.
22:09Und stellt dann, ne, die Manager, Managerinnen haben dann immer, ich sag jetzt mal ein bisschen böse,
22:14die Dollarzeichen in den Augen und sagen, wir haben ja diese großen Data Lakes.
22:18Und jetzt müssen wir da nur KI draufschmeißen und dann wird alles gut.
22:22Und dann stellen sie oft fest, dass das eher eine Pfütze ist, was sie an Daten haben,
22:26aus einer Perspektive für einen wirklich guten Lernprozess von KI.
22:29Also die Datenmengen, die ich dann brauche, um die wirklich von einem, naja, so in jedem zweiten Fall
22:34liegt sie richtig zu einem, ja, ich kann mich wirklich im betrieblichen Alltag ziemlich drauf verlassen,
22:42hundertprozentig geht nie, bräuchte ich exponentiell mehr Daten.
22:46Und die hat man dann oft nicht, wenn es im betrieblichen Kontext eben sehr spezifisch wird.
22:50Mhm.
22:51Und da auch, wo es extrem existenziell wird, ich denke so an Diagnose, man wundert sich ja,
22:57oder ich glaube, die Erwartung ist mittlerweile, okay, wenn man jetzt ein Röntgenbild sieht,
23:02dann wissen wir, die KI kriegt da jetzt schon jeden Tumor raus.
23:06Ja, da haben wir ein schönes Beispiel, gerade in einem Projekt, wo wir geforscht haben.
23:11Da hatten wir jeweils dieselbe Berufsgruppe, medizinische Technologinnen und Technologen
23:16und auch tatsächlich dieselbe Technik vom selben Hersteller mit KI integriert.
23:24Bildgebende Verfahren, in einem Fall für die Diagnose angewendet.
23:27Ja.
23:28Im anderen Fall für die Therapie, also Eingrenzung des Bereichs, wo bestrahlt wird.
23:32Die KI glättet vor allem, also die ist da nicht dafür da, tatsächlich den Tumor zu finden alleine,
23:39aber sie glättet die Kurven zum Beispiel ganz stark in den Bildern.
23:45Das macht in einem Fall bei der Diagnose, es ist kontraproduktiv, da haben die Beschäftigten
23:50alle gesagt, ich brauche jetzt länger, wir müssen tatsächlich unsere Taktung,
23:54wie schnell der nächste Patient, Patientin reinkommt, weiter fassen, nicht mehr halbstündlich,
23:59sondern das muss, weil wir länger brauchen, weil durch die Glättung sehen sie es schlechter.
24:05Also sie können schlechter beurteilen, was sie da sehen.
24:08Und im anderen Fall bei der Therapie, die haben gesagt, es ist viel besser durch diese Glättung der
24:11Kurven, die die KI macht, wir können jetzt viel genauer einstellen, wo wir wirklich bestrahlen.
24:17Das ist auch für die Patienten gut.
24:20So, da haben wir also selbe Berufsgruppe, exakt selbe Technologie vom selben Hersteller,
24:26unterschiedliche Effekte, weil sie in einem anderen Kontext angewendet werden.
24:29Und wäre ja ganz einfach zu lösen, man bräuchte an dieses Gerät, dass die KI ja nur drin in dem
24:34Gerät,
24:35eigentlich nur einen Regler dran machen und sagen, die Beschäftigten dürfen selber die Glättung der Kurven einstellen.
24:41Könnte man technisch leicht herstellen, damit es zum jeweiligen Anwendungskontext passt.
24:46Und das ist so ein typisches Beispiel, wo man sieht, wenn man nicht genau hinschaut, was gebraucht wird,
24:52und den Beschäftigten da keinen Handlungsspielraum gibt, um es anpassbar zu machen an die eigenen Erfordernisse,
24:59dann geht es halt dann doch manchmal auch schief.
25:00Und jetzt komme ich nochmal ganz ganz kurz auf das zurück, was Sie ganz am Anfang gesagt haben bei meiner
25:06ersten Frage als Antwort.
25:08Da haben Sie von Ihrem Kollegen erzählt, der sich gar nicht mehr so richtig zutraut, die richtige Entscheidung zu treffen.
25:14Und Sie hatten jetzt ein Beispiel, da geht es um Diagnosen, da geht es möglicherweise auch um Menschenleben.
25:20Jetzt ist in meinem Kopf gleich so alert, oh Gott, traut sich der Arzt jetzt nicht mehr selber die Entscheidung
25:27zu treffen.
25:28Sie nicken.
25:28Ja, das ist ein wichtiger Punkt.
25:31Ist wahrscheinlich auch was dazu sagen.
25:34Da gibt es jetzt natürlich unglaublich viel zur Anwendung in der Medizin.
25:38Ich bringe jetzt nur mal ein anderes Beispiel aus einem großen Forschungsverbund,
25:42wo Kolleginnen und Kollegen geforscht haben bei der Darmspiegelung mit und ohne KI.
25:48Und die KI sieht halt, jetzt mache ich es mal, also sieht praktisch bei jedem Pixel schon irgendwas Verdächtiges.
25:54Also die ist sozusagen hypervorsichtig, was aber dazu führt, dass die Leute noch das ausschalten können und sagen,
26:03also da müssen wir vielleicht bei der nächsten Darmspiegelung in zehn Jahren mal was machen, aber jetzt wirklich noch nicht.
26:10Also die ist da übermäßig, das heißt, sie wird ausgeschaltet.
26:13Aber es sind halt erfahrene Ärzte und Ärztinnen in dem Setting, die haben auch die Traute zu sagen,
26:19ich verlasse mich jetzt nicht drauf, weil ich weiß, da ist die KI im Moment schlechter als wir.
26:26Und das macht den ganzen Prozess auch länger.
26:28Auch da hat man den Effekt, dass die Darmspiegelung durch die KI länger wird,
26:32weil man praktisch ständig, wenn man nicht ausschaltet, ständig reagieren muss,
26:36weil die KI sagt, da ist was.
26:38Und man muss sagen, nein, ist nichts.
26:39Auch da ist was.
26:40Nein, da ist nichts.
26:41Also man kommt quasi in so einen Dialog.
26:43Aber ja, man kann sich natürlich auch vorstellen, gerade da,
26:48wo es dann tatsächlich vielleicht tödliche Konsequenzen haben könnte,
26:51weil es eine Fehldiagnose an einer bestimmten Stelle gibt.
26:55Da kommen natürlich sofort juristische Fragen mit ins Spiel auch.
26:59Da kommen auch, sagt vielleicht die Krankenkasse in ein paar Jahren,
27:03sondern du darfst gar nicht gegen die KI entscheiden.
27:06Oder wenn du das machst, dann musst du irgendwie drei Seiten Bericht schreiben,
27:11warum du es getan hast.
27:12Und dann, wenn man weiß, wie stressig Klinik Alltag sein kann,
27:17dann wird man möglicherweise abwägen und sagen,
27:19aber bevor ich jetzt wieder drei Seiten Bericht schreibe,
27:22ich glaube zwar nicht, dass die KI ganz recht hat, aber okay, nächster Patient.
27:26Also das sind, glaube ich, diese sehr, sehr praktischen Fragen,
27:30an denen wir viel arbeiten müssen in den nächsten Jahren.
27:32Frau Kräuter, vielleicht tatsächlich, weil die Zeit, die rast,
27:35und wir können das hier nur anreißen.
27:38Aber bitte Ihre Ergänzung dazu.
27:39Ich will das nur unterstützen.
27:40Wir haben dazu tatsächlich auch Forschung gemacht,
27:42um zu sehen, wie stark nehmen Experten oder auch andere Beurteiler
27:48den Vorschlag von der KI einfach auf oder stellen ihn in Frage.
27:51Das war im Kontext von dem Projekt mit der Bundesbank.
27:54Da ging es nicht um Leben und Tod.
27:55Da ging es nur darum zu gucken, ob die KI automatisch auslesen kann,
27:58was sie die CO2-Emissionen in Geschäftsberichten.
28:01Aber wir haben da gesehen, die Leute sind durchaus bereit,
28:07die KI in Frage zu stellen, vor allem, wenn sie KI-Skeptiker sind.
28:10Aber in einer Experimentalkondition, wo wir dann sie gebeten hatten,
28:14den richtigen Wert herauszulesen und selber einzutragen,
28:19also in dem Moment, wo es zusätzliche Arbeit gab,
28:21hat man dann gesagt, die KI ist schon richtig.
28:23Ganz, ganz spannender Punkt, glaube ich.
28:26Das ist der Unterschied.
28:26An dem müssen wir leider jetzt auch Schluss machen.
28:29So eine Sendung kann immer nur alle inspirieren
28:32und sich vielleicht auch weiter informieren.
28:37Es ist nicht die letzte Sendung zur KI.
28:40Auf jeden Fall haben wir tolle neue Erkenntnisse gewonnen.
28:43Frau Kreuter, Sie hatten vorhin von Ihrem Podcast gesprochen.
28:48dickdieb.de.
28:49Da findet man den Podcast und kann Ihnen weiter zuhören.
28:53Ganz spannende Erkenntnisse.
28:55Ich danke Ihnen ganz herzlich, dass Sie heute da waren.
28:58Frau Prof. Pfeiffer, Frau Prof. Kreuter, alles Gute für Ihre Forschung.
29:04Ich glaube, da wird sich noch viel tun in diesem Bereich.
29:07Und Ihnen wünsche ich weiterhin viel Spaß, sich in diesem Bereich weiter zu informieren.
29:13Was wir letztes Jahr gesagt haben, ist in diesem Jahr vielleicht so auch nicht mehr richtig.
29:18Von daher ist es ein Bereich, der entwickelt sich stetig weiter.
29:23Und das macht es ja auch so spannend und so toll.
29:26Und deshalb bleiben Sie dran.
29:27Wir bleiben es auch.
29:28Alles Gute.
Comments