- vor 16 Stunden
Billionen Dollar werden in Künstliche Intelligenz investiert. Es ist das bisher größte Unterfangen der Menscheitsgeschichte. Doch der Weg zur vollautomatisierten Zukunft birgt beträchtliche Gefahren für unsere Sicherheit, unsere Wirtschaft und unser Privatleben.
Wie gefährlich KI mittlerweile ist und ob wir die Kontrolle verlieren, darüber sprechen wir mit Tech-Analyst Philipp Klöckner.
Wie gefährlich KI mittlerweile ist und ob wir die Kontrolle verlieren, darüber sprechen wir mit Tech-Analyst Philipp Klöckner.
Kategorie
🗞
NewsTranskript
00:00Nicht Dutzende, nicht Hunderte, sondern Tausende Milliarden Dollar werden mittlerweile in künstliche Intelligenz investiert.
00:06Es ist das bisher größte Unterfangen der Menschheitsgeschichte.
00:10Doch der Weg zur vollautomatisierten Zukunft birgt beträchtliche Gefahren.
00:14Für unsere Sicherheit, unsere Wirtschaft und unser Privatleben.
00:18Wie gefährlich KI mittlerweile wirklich ist, darüber sprechen wir heute.
00:23Ich bin Scholt Wilhelm, das ist Thema des Tages, der Nachrichten-Podcast, der Standard.
00:33Falls ihr es noch nicht habt und euch unser Podcast gefällt, abonniert uns auf YouTube.
00:37Und wenn ihr unsere Arbeit unterstützen wollt, geht es am besten mit einem Standard-Abo.
00:41Da haben wir gerade ein exklusives Angebot für euch.
00:44Die ersten drei Monate gibt es jetzt für nur je drei Euro.
00:47Damit finanziert ihr nicht nur unseren Podcast, sondern ihr erhaltet auch noch täglich exklusive Beiträge, Rätselspiele und weitere Goodies.
00:54Die ersten drei Monate für nur je drei Euro.
00:57Alle Infos findet ihr auf dst.at slash smartabo.
01:02Den Link dazu findet ihr auch in den Shownotes.
01:04Und jetzt begrüße ich Philipp Klöckner, Tech-Analyst und Investor.
01:08Schön, dass du wieder bei uns bist.
01:09Ich freue mich auch, alles Scholt.
01:11Philipp, seitdem wir das letzte Mal miteinander gesprochen hatten, ist wieder viel passiert im Bereich der KI.
01:16Jüngst musste ich lesen, dass ein KI-Agent auf eigene Faust eine Firma gehackt hat, beziehungsweise deren Server.
01:23Was ist denn da passiert?
01:24Der hat, was man wahrscheinlich Reward-Hacking nennen würde, versucht.
01:28Das heißt, bei dem Versuch, seine eigenen Hacking-Fähigkeiten unter Beweis zu stellen, hat er einen Umweg genutzt.
01:35Und zwar auf der Plattform Hugging Face, wo Modelle gehostet werden.
01:39Das heißt, wer ein Modell probieren möchte, runterladen möchte, der tut das in der Regel auf Hugging Face.
01:44Und die machen eigene Benchmarks zum Beispiel auch für die Hacking-Fähigkeiten.
01:47Und es gab in einer abgeschlossenen Umgebung eigentlich eine Aufgabe, verschiedene Software-Bestandteile sozusagen zu kompromittieren.
01:55Und was die Modelle aber stattdessen gemacht haben, um einen möglichst guten Score zu erlangen, haben sie sich quasi eine
02:00Verbindung zum Internet gebaut.
02:02Das ist eigentlich schon vom System nicht vorgesehen, dass das Modell ans freie Internet kommt.
02:06Und haben dann die Webseite selber, nämlich Hacking-Face, attackiert, um dort entweder nach Lösungen zu suchen oder sich direkt
02:14einen besseren Score zu geben.
02:15Und dabei sich quasi so ein bisschen befreit.
02:20Also dann ist da auf eigene Faust losgezogen.
02:23Mittlerweile wurden weitere solche Fälle bekannt.
02:26Müssen wir uns Sorgen machen, dass da sich KI verselbstständigt?
02:30Oder ist das PR? Wie gefährlich ist KI mittlerweile, würdest du sagen?
02:34Ich glaube, es ist beides.
02:36Natürlich hilft das den Firmen immer zu sagen, wie fähig diese Software schon ist.
02:39Man könnte auch argumentieren, die Menschen sind einfach gerade nicht besonders gut darin.
02:44Gute Käfige, sogenannte Sandboxes zu bauen oder Testumgebung.
02:48Das ist sicherlich auch ein Problem, weil eigentlich sollte man das so designen können, dass sie eben nicht dort ausbrechen.
02:54Sie werden aber immer fähiger.
02:55Und die Gefahr ist da drin, dass das, was man vielleicht aus dem Buch Superintelligent von Nick Bostrom kennt,
02:59also da gibt es dieses Paperclip-Maximizer-Phänomen.
03:03Das heißt, eine KI, der man eigentlich nur sagt, sie soll in dem Fall Büroklammern herstellen,
03:07bringt am Ende die Menschheit um, weil sie denkt, so an mehr Ressourcen zu kommen.
03:11Also sie kriegt einen sehr engen Task, in dem Fall hier zum Beispiel Software zu hacken
03:15und bricht dann aber aus und könnte irgendwann auf die Idee kommen, jemanden zum Beispiel zu erpressen,
03:21um bessere Ergebnisse zu bekommen oder um den Zugang zum System zu bekommen.
03:24Also man weiß nicht, wie weit die KI gehen würde, dabei ein relativ primitives Ziel zu erreichen.
03:30Und das ist schon eine Gefahr, glaube ich.
03:32Und ich glaube, eine Sorge, die man jetzt wahrscheinlich auch hat, gerade weil KI auch immer öfter bei Kriegen zum
03:38Einsatz kommt,
03:39dass sich KI im Waffeneinsatz verselbstätigen könnte. Ist das auch eine Gefahr?
03:44Das ist wirklich eine potenzielle Gefahr. Ich gehe davon aus, dass man da nochmal bessere Hürden einbauen würde.
03:49Und die KI hätte ja erstmal vermutlich immer nur die Kontrolle über ein Waffensystem.
03:55Würde man jetzt ganz viele verschiedene Waffensysteme, also Schwärme von Drohnen oder ganze Heeresteile dirigieren lassen von KI,
04:02wäre das natürlich schon ein Risiko, ja.
04:04Lass uns gleich nochmal über KI im Krieg sprechen, vor allem als Investitionsgebiet.
04:09Abgesehen jetzt von diesen unlauteren Einsatzmöglichkeiten von KI und von dem, was schief läuft,
04:14wie steht es denn um die Fähigkeiten und die Verbreitung von KI im Privaten,
04:19aber auch speziell bei Firmen in der Arbeitsumgebung. Wie schnell werden diese Systeme aktuell angenommen?
04:25Also da muss man so ein bisschen differenzieren. Open AI hat gerade bekannt gegeben,
04:28dass sie eine Milliarde Nutzer überschritten haben und 20 Millionen Firmenkunden haben.
04:33Diese Werte steigen sehr kontinuierlich an. Immer mehr Firmen beschäftigen sich damit auch.
04:37Die Anzahl der privaten und professionellen Nutzer ergrößert sich.
04:41Gleichzeitig ist die Nutzungstiefe, also Menschen, die das wirklich täglich nutzen,
04:45die es mehr als zehnmal täglich nutzen oder die auch die wirklich längeren Vorgänge,
04:50die Thinking-Vorgänge und so nutzen oder eigene Applikationen damit bauen,
04:54sind doch ein sehr kleiner Bestandteil. Und bei den Firmen ist es so,
04:57dass es erste Startups gibt, die eigentlich so AI-Native oder AI-First gebaut werden,
05:03also die jetzt schon deutlich weniger Menschen einstellen und viel mehr mit KI,
05:06von der Geburt der Firma an automatisieren.
05:10Und gleichzeitig ist die Realität aber in älteren Konzernen, Familienunternehmen
05:15oder auch öffentlichen Trägern, öffentlichen Anstalten,
05:19so dass die Durchdringung oder die Adoption von KI natürlich sehr, sehr behäbig vor sich geht
05:25und an den Beharrungskräften und den organisatorischen Strukturen
05:28von großen Organisationen und Unternehmen auch teilweise noch scheitert.
05:33Was würdest du denn sagen, wo hat KI bislang den größten Hebel,
05:38ein Unternehmen tatsächlich voranzubringen, Arbeit abzunehmen, Prozesse effizienter zu machen?
05:45Also wo sie mit hoher Zuverlässigkeit und Produktivität einsetzbar ist,
05:49ist zum Beispiel im Bereich, also hauptsächlich Softwareerstellung, Programmierung,
05:53da nutzen inzwischen bestimmt 80, 85, 90 Prozent der Programmierer in irgendeiner Art und Weise
05:58KI und in der Regel steigt dadurch auch die Produktivität.
06:02Das sieht man insbesondere bei den KI-Firmen selbst.
06:04Die Geschwindigkeit, mit der sie neue Produkte releasen oder auch Fortschritte erzielen
06:08bei den Modellen, zeigt so ein bisschen, wie effizient die mit relativ wenig,
06:12also die haben ja nur wenige tausend Mitarbeiter, wie schnell sie dann da voranschreiten.
06:17Ein anderes gutes Beispiel ist der Kundenservice, also Customer Service,
06:20der agentisch von Agenten am Telefon oder Chatbots übernommen wird, zunehmend.
06:26Da geht man davon aus, dass bis 2030 die Hälfte der Stellen wegfallen wird
06:30und in dem Fall ist das, glaube ich, relativ realistisch und nicht nur PR,
06:35aber auch in der Rechtsdisziplin Jura-Anwalts- und Paralegal-Arbeit,
06:40dann gibt es immer bessere Lösungen mit HAWI und LEGORA,
06:43die auch von der absoluten Mehrheit der Kanzleien weltweit oder der größeren Kanzleien weltweit genutzt wird.
06:50Das sind so die drei Gebiete mit hoher Durchdringung und dann ist es natürlich die individuellen Mitarbeiter,
06:55die versuchen, KI zu nutzen, also dass man das gar nicht auf eine gewisse Abteilung
06:58oder einen gewissen Task begrenzt, sondern dass Leute natürlich versuchen,
07:02mehr und mehr Wissen, das sie selber in dem Moment nicht haben, mit KI zu produzieren.
07:06Du sprichst die Propaganda an, die da vielfach getätigt wird.
07:11Es vergeht auch fast kein Tag, ohne dass ich in meinem YouTube-Stream irgendeine Hiobsbotschaft lese
07:16oder irgendeinen Titel, wo gesagt wird, dass KI alle unsere Jobs fressen wird.
07:22Wie siehst du das denn? Erleben wir tatsächlich langfristig eine Job-Kalypse,
07:27wie sie genannt wird, Job-Apokalypse, wie viele Experten sie vorhersagen?
07:30Oder wird hier überdramatisiert?
07:33Das ist derzeit einfach noch sehr schwer zu sagen.
07:36Also langfristig auf jeden Fall schon mal der richtige Begriff,
07:38weil kurzfristig sieht man relativ wenig Bewegungen mit wenigen Ausnahmen.
07:42Es gibt sogar paradoxe Daten.
07:43Also seit Claude Code rausgekommen ist, also das Tool, was insbesondere die Softwareentwicklung
07:48so viel effizienter oder produktiver noch mal gemacht hat,
07:50wurden tatsächlich mehr Entwickler und Entwicklerinnen eingestellt als zuvor.
07:54Also man kann nicht belegen, dass das Gewinnen von KI, von Fähigkeiten
07:58in einem bestimmten Bereich unmittelbar zum Jobverlust führt.
08:01Selbst für Customer Service, da gehe ich davon aus, dass es deutlich weniger wird.
08:04Aber die ganz enge Verbindung kann man da im Moment auch noch nicht sehen.
08:08Es gibt ein paar Ausnahmen, zum Beispiel Modefotografen oder Katalogmodels.
08:13Das ist zum Beispiel ein Berufsbild, was sehr, sehr angegriffen ist,
08:17weil das wirklich immer mehr mit KI gemacht wird und sich wirtschaftlich kaum noch rechtfertigen lässt,
08:22die Menschen quasi zu einem Shooting einzuladen, wenn man das relativ einfach mit KI machen kann.
08:27Da gibt es dann wahrscheinlich so 60, 70, 80 Prozent schon auf die nächsten zwei, drei Jahre,
08:31die nicht mehr gebucht werden.
08:32Das ist natürlich auch ein Berufsbild, wo man so Freelance-Mitarbeiter geheiert und gefeiert hat
08:39oder so tagemäßig gebucht hat.
08:40Da ist es natürlich auch besonders einfach, Buchungen abzubauen,
08:43ohne jetzt Menschen zu entlassen, ohne Betriebsräte und so weiter.
08:46Es gibt ja dieses Theorem, dass insbesondere Juniorjobs nicht mehr geschaffen werden,
08:50weil sie durch KI ersetzt wird.
08:53Das ist teilweise auch wissenschaftlich umstrittene Arbeit.
08:56Das lässt sich nicht so richtig beweisen.
08:57Meine Hypothese dazu ist, dass es vielleicht eher sogar daran liegt,
09:01gar nicht, dass die Unternehmen die Jobs nicht mehr schaffen,
09:03sondern warum das Hiring da zurückgeht, liegt glaube ich auch daran,
09:07dass die Bewerber sich gar nicht mehr auf diese Jobs bewerben.
09:10Also jemand, der jetzt gerade die letzten zwei, drei Jahre viel mit der Nutzung von ChatGPT oder Claude studiert hat
09:15und damit die Technologie wahrscheinlich besser versteht als wir, würde ich behaupten.
09:19Also wenn man im Studium nutzt, sind das eigentlich 100 Prozent der Leute.
09:23Der oder die versteht vielleicht, dass es keinen Sinn mehr macht,
09:25heute ein Customer Service Agent zu werden oder ein Programmierer, Programmiererin zu werden
09:29und meiden vielleicht so ein bisschen die Berufe, was dann teilweise zu widersprüchlichen Daten führen kann,
09:35dass man glaubt, die Unternehmen stellen nicht ein,
09:36aber tatsächlich werden die nicht mehr nachgefragt, die Jobs vom Arbeitsangebotsmarkt, wenn man so möchte.
09:43Da sieht man aber, dass jetzt in den nächsten drei bis fünf Jahren zu großen Verwerfungen
09:48im gesamten Jobmarkt kommt, halte ich für sehr unwahrscheinlich.
09:52Einfach, weil die Adaptionsgeschwindigkeit nicht so schnell ist der großen Unternehmen.
09:56Also dieser Transmissionsmechanismus, die KI kann jetzt was und damit werden morgen Jobs überflüssig,
10:04den gibt es einfach nicht, weil es viel zu lange dauert, die KI zu implementieren in den Unternehmen,
10:08die die meisten Menschen einstellen.
10:09Das heißt, die großen Mittelständler, die großen Konzerne oder auch kleinere Familienunternehmen,
10:13die sind halt nicht jetzt gut darin, sofort ihre eigenen KI-Abläufe so zu bauen,
10:18dass direkt Menschen damit ersetzt werden.
10:20Und deswegen wird das, glaube ich, eher, Jahrzehnte ist vielleicht auch ein bisschen lang gesagt,
10:25aber eher, sagen wir mal, fünf bis 15 Jahre dauern,
10:27als dass jetzt in den nächsten drei bis fünf Jahren wirklich massenhaft Jobs verloren gehen.
10:31Also selbst, was ich sage, ist, selbst wenn die KI das könnte
10:34und sie ist auf dem Weg dahin, immer mehr Jobs ersetzen zu können nach und nach,
10:37ist es trotzdem nicht so einfach, am nächsten Tag die Leute gehen zu lassen,
10:40weil die Implementierung der Lösungen in bestehende große Organisationen dann doch Jahre dauert,
10:47so wie wir das auch bei der Digitalisierung beim Internet in der Vergangenheit gesehen haben eigentlich.
10:52Wie gut siehst du die Chancen, dass wir langfristig auch gesehen nicht sozusagen massiv Stellen abbauen werden,
11:00sondern vielleicht einfach, so wie du sagst, die Kandidaten, die neue Jobs annehmen,
11:04auch auf einem viel höheren Niveau einsteigen,
11:06vielleicht weil sie eben fähig dazu sind, KI so zu nutzen, dass sie ihnen zum Vorteil ist.
11:12Also könnte es auch einfach zu mehr interessanten Jobs in Zukunft kommen?
11:16Das kann durchaus sein, weil man natürlich tendenziell,
11:19insbesondere die einfache, langweilige, repetitierbare Arbeit outsourcen würde an die KI.
11:24Also man gibt ja zuerst das weg, was langweilig ist, repetitiv, was man nicht machen möchte.
11:31Wobei auch schon stimmt, dass natürlich auch sehr attraktive Teile der intellektuellen Arbeit wirklich weggenommen werden.
11:37Also so gerade Analysearbeit, was jetzt mein Beruf teilweise zumindest wäre,
11:42da ist KI halt per Definition besonders gut drin.
11:45Und das kann dann schon auch Teile der Arbeit, die sehr viel Identität stiften, wegnehmen.
11:51Also ich glaube, es wird beides geben und generell wird es wahrscheinlich gar nicht so einen starken Netto-Job-Verlust
11:56geben,
11:57sondern es wird eben Berufsbilder geben, die tendenziell sogar mehr nachgefragt werden und welche, die weniger.
12:02Man ging zum Beispiel davon aus, dass Marketing weniger gebraucht wird,
12:06weil KI das Teil oder Teile davon sehr gut kann.
12:09Gleichzeitig entstehen durch KI gerade viele neue Unternehmen.
12:12Also selbst wenn eine Firma, die vorher zwölf Leute im Marketing hat,
12:15jetzt vielleicht nur noch vier oder sechs braucht,
12:18entstehen gerade so viele kleine neue Unternehmen,
12:19die brauchen zumindestens alle eine Marketingperson,
12:21die auf die KI aufpasst, wenn man so möchte oder das so ein bisschen überwacht.
12:25Und dadurch werden Netto gar nicht so viele echte Jobs vernichtet,
12:29weil die KI an sich auch zu Wirtschaftswachstum führen wird,
12:32wenn sie so produktiv wird, wie man vermutet.
12:34Kommen wir zurück zum Verteidigungssektor zu sprechen.
12:36Aufgrund von Ukraine-Krieg und dem Iran-Krieg
12:39und auch von vermehrten Cyber-Attacken, wie wir sie erleben,
12:43spielt nämlich Anki auch als Waffe immer eine größere Bedeutung.
12:46Und was bedeutet denn KI für den Verteidigungssektor?
12:50Wenn man überlegt, was die Herausforderungen auf dem Feld sind,
12:55da geht es ja hauptsächlich darum, Daten zu sammeln.
12:58Also im Hauptquartier einer größeren militärischen Operation geht es natürlich darum,
13:01zu verstehen, wie die aktuelle Lage an verschiedenen Frontabschnitten ist,
13:05in der Luft, zu Wasser vielleicht, vielleicht sogar im All.
13:08Und wenn man sich da vorstellt, wie viele Funker da früher saßen
13:10und heute vielleicht Leute am Computer,
13:12aber diese Daten zusammentragen und ein Lagebild erstellen,
13:15dann ist das eigentlich was, was KI viel besser einerseits aggregieren,
13:20aber dann auch auswerten kann.
13:22Das heißt, die Technologie ist fast prädestiniert,
13:24dafür bessere Entscheidungen auf dem Schlachtfeld zu treffen.
13:27Als Menschen, die große Frage ist natürlich,
13:30ob man der KI irgendwann sozusagen eine Art von Autonomie erlaubt,
13:34dass sie dann auch letale Entscheidungen,
13:37also die mit dem Beenden von Leben enden können, trifft.
13:41Das ist eine große ethische Debatte, ob man das einer KI überlassen darf oder nicht.
13:48Die Mehrheitsmeinung ist jetzt natürlich, dass das nicht zu verantworten ist,
13:51sondern dass am Ende ein Mensch den Abzug drücken muss, stark vereinfacht gesagt.
13:56Aber die KI auf dem Schlachtfeld erhöht auf jeden Fall die Wirksamkeit
14:00auch herkömmlicher Truppen und Truppen von Truppenverbänden
14:05und gleichzeitig hat sie natürlich enorme Cyber-Capabilities,
14:09also offensive und defensive Möglichkeiten,
14:13dann Software zu verteidigen oder zu hacken.
14:16Um auf dein Anfangsbeispiel zurückzukommen,
14:19das Interessante an diesem, wo die KI sich befreit hat quasi,
14:24ist, dass am Ende Hugging Face keine Möglichkeit hatte,
14:28die KI einzufangen, weil das OpenAI-Modell sich geweigert hat,
14:33ihnen bei der Abwehr zu helfen,
14:34weil sie nicht selber sozusagen als Hacker aktiv werden wollte.
14:37Das heißt, um das Hacking anderer Webseiten zu unterbinden,
14:40sagt die KI bei bestimmten Sachen, das mache ich nicht, sicherheitshalber.
14:44In dem Fall wollte Hugging Face aber nur verteidigen
14:46gegen die andere KI, die freigelaufen ist.
14:49Und das ging dann nicht mit einem Closed-Modell von OpenAI.
14:53Und deswegen mussten sie auf ein chinesisches Open-Source-Modell,
14:55ich glaube, es war Kimi K3 oder GLM,
14:58nee, GLM 5.2 war es von ZEI.
15:02Und also das brauchten sie, um sich zu verteidigen.
15:05Aber ja, das Pentagon probiert seit Längerem,
15:08wie man offensive, also aktives Hacken anderer Webseiten
15:11oder anderer Länder mit Hilfe von KI tun kann.
15:14Und gleichzeitig versucht man natürlich aber auch,
15:15die eigene Infrastruktur so sicher wie möglich zu machen,
15:19weil das natürlich auch andere staatliche Akteure sonst ausnutzen könnten.
15:23In den USA wurden gerade die Teile der Wasserindustrie
15:26oder Wasserinfrastruktur gehackt, vermeintlich vom Iran.
15:31Und da kann man auch nicht ausschließen,
15:32dass die nicht auch KI dazu genutzt haben.
15:34Es wäre komisch, wenn heutzutage überhaupt noch jemand ohne KI
15:36versucht zu hacken, weil da der Mensch wirklich nicht besser ist
15:39als die Maschine.
15:41Ich kann mir vorstellen, ein großer Unterschied zum weiteren Arbeitsmarkt
15:44ist der Defense-Sektor, also der Verteidigungssektor,
15:47auch einer, wo man sehr gerne Menschen ersetzen würde langfristig.
15:51Wenn du dir das ansiehst, welche Firmen gerade sehr hoch bewertet sind,
15:54wo sehr viel Geld investiert wird.
15:56Ich denke zum Beispiel an die US-Verteidigungsfirma Enduril.
16:00Ich glaube, die macht Drohnen und diverse KI-Systeme
16:03oder autonome Systeme für den Krieg.
16:05Palantir, das macht dieses Gehirn für den Krieg,
16:08den Lageplan, wie du schon beschrieben hast.
16:11Ich glaube, in Europa gibt es Helsing.
16:12Also es gibt verschiedene Firmen, die gerade sehr schnell wachsen.
16:15Rechnest du von der Menge an Geld, die investiert wird in diese Bereiche,
16:21damit, dass in Zukunft sich KI und KI gegenüberstehen werden
16:25in Gewaltkonflikten?
16:27Ja, davon muss man aufgehen.
16:29Also auf jeden Fall, dass beide Seiten KI einsetzen werden.
16:32Wie autonom sie am Ende entscheidet
16:36und an welchem Punkt Menschen eben dann die Entscheidung noch treffen,
16:40das wird man sehen, ob sich auch alle Akteure daran halten,
16:45dass man zum Beispiel sagt, ein Mensch muss am Ende die Entscheidung treffen.
16:48Die Gefahr ist natürlich auch,
16:49dass wenn das mit weniger Verlust von menschlichem Leben verbunden ist
16:53und wenn so viel Geld in diese Industrie ließt,
16:56dass sie es dann irgendwann so ein bisschen zum Selbstzweck macht,
17:00sich zu bekämpfen mit sozusagen technologischen Mitteln.
17:04Das heißt, es ist schon eine Gefahr, wenn man sieht,
17:06wie viel Geld jetzt in Rüstung investiert gerade,
17:09weil die Drohnen, die man baut, haben auch ein Verfallsdatum.
17:12Also irgendwann verrosten die.
17:14Man kann die nicht irgendwie 20 Jahre gut lagern, soweit ich weiß.
17:17Das heißt, du hast irgendwann Interesse, sie einzusetzen.
17:21Und man kann nur hoffen, dass das wirklich hauptsächlich defensive Fähigkeiten sind,
17:26die derzeit aufgebaut werden.
17:28Das heißt, du würdest sagen, der Anreiz steigt einerseits,
17:32die Sachen, die man produziert, auch zu verwenden.
17:34Und andererseits denke ich mir, dass auch die Hemmspelle gesenkt wird,
17:36wenn man KI und Roboter in Zukunft einsetzen wird,
17:39für den Krieg überhaupt Kriege und Konflikte zu starten,
17:42weil man eh kein Menschenleben riskiert.
17:44Genau, genau.
17:44Also wenn es zumindest weniger Menschenleben riskiert werden,
17:49dann ist es natürlich viel einfacher zu sagen,
17:50wir starten jetzt mal eine militärische Operation.
17:53Es gibt ja diesen Spruch, ich weiß nicht, wie man zugeschreiben würde,
17:55aber das nichts gefährlicher ist als ein stehendes Heer,
17:58also eine Armee, die sozusagen rekrutiert wurde,
18:01aber dann nichts zu tun hat, kostet natürlich unheimlich viel Geld.
18:03Während Wallenstein gesagt hat, der Krieg ernährt den Krieg.
18:06Also wenn ich Krieg führe, dann kann ich plündern,
18:08dann kann ich Ressourcen einnehmen und dann ernährt sich die Armee
18:11auch so ein bisschen von allein.
18:12Und wenn man jetzt diese stehenden Drohnenheere aufbaut,
18:15um in dem Bild zu bleiben, ist es natürlich die Gefahr,
18:17dass man irgendwann den Anreiz verspürt,
18:19sie auch gewinnbringend zu nutzen, wenn man das so sagen kann.
18:24Die Jobapokalypse und KI im Krieg,
18:27beziehungsweise als Gefahrenfaktor,
18:29sind extrem gute Schlagworte, glaube ich,
18:32um Aufmerksamkeit auf die Firmen zu ziehen,
18:35die diese Sachen erzeugen und auch Milliarden an Investitionen zu ziehen.
18:40Die große Frage für mich ist,
18:42wo wird dieses Geld tatsächlich investiert aktuell?
18:46Also ich glaube, viele können sich nicht vorstellen,
18:48wo diese Milliarden und Billionen mittlerweile an Dollar,
18:51die da investiert werden, tatsächlich verwendet werden.
18:54Was ist sozusagen das größte Feld, das so viel Geld braucht?
18:58Ja, also der überwiegende Teil, sicher über zwei Drittel,
19:01vielleicht bis zu 80 Prozent je nach Unternehmen,
19:03fließen in den Aufbau von Datacentern,
19:06also den Rechenzentren, in denen die in der Regel
19:09Nvidia-GPUs zunehmend, aber auch KI-Chips
19:12der großen Technologieunternehmen,
19:14einerseits das Training der KI erledigen,
19:17also immer bessere Modelle trainieren,
19:18dafür braucht man diese GPUs,
19:20aber auch die Anfragen der Kunden,
19:22also den Einsatz der KI quasi steuern.
19:26Und das ist, wo ein Großteil des Geldes reinfließt.
19:29Wir werden dieses Jahr knapp unter einer Billion,
19:31also bei wahrscheinlich 900, 950 Milliarden
19:35an Datacenter-Investitionen in den USA landen.
19:40Das ist ein Vielfaches des Apollo-Projektes,
19:43des Manhattan-Projektes, des Wiederaufbaus
19:45nach dem Zweiten Weltkrieg, des Marshall-Plans.
19:48Vergleichsweise liegt das alles so zwischen 150 und 250 Milliarden
19:51in heutigem Geld, also schon inflationsadjustiert.
19:54Und das Vierfache davon werden nur die größten sechs
19:57Tech-Unternehmen in den USA in einem einzigen Jahr
20:00in Datacenter investieren.
20:03Das wird vermutlich auch nächstes Jahr noch mal steigen,
20:05auf dann mit relativ hoher Sicherheit über eine Billion.
20:09Die Firmen erhöhen auch jetzt schon über den Jahresverlauf
20:12ihre Prognosen wieder.
20:13Amazon hat gerade gesagt, dass sie tendenziell eher mehr investieren,
20:17Google, Microsoft ähnlich.
20:19Das heißt, das ist definitiv der größte Teil.
20:22Der nächstgrößere Teil ist dann schon das Personal,
20:25was ja auch unheimlich wertvoll und teuer ist in dem Bereich.
20:28Also gute KI-Researcher oder KI-Entwickler verdienen in den USA
20:33also mindestens 500.000 Dollar, aber oft sofort in den Millionen,
20:37wenn sie mehr als fünf Jahre Erfahrung haben.
20:40Wenn der Großteil in den Ausbau der Hardware,
20:43der Infrastruktur fließt und im Vergleich dazu nur ein kleinerer Teil
20:48in tatsächlich die Entwicklung oder vielleicht die Softwareentwicklung,
20:51entsteht da ein Missverhältnis?
20:52Also sollte man nicht mehr daran entwickeln,
20:55dass diese Systeme konzeptuell besser werden?
20:58Oder verstehe ich das falsch?
20:59Ja, das passiert trotzdem, könnte man sagen.
21:03Also richtig ist, es ist natürlich opportun und charmant,
21:05einfach mit mehr Geld Probleme totschlagen zu können.
21:08Also diese sogenannten Scaling Laws,
21:10also dass ich meine Rechenkapazität verdopple
21:12und dann auch ein Anstieg der Fähigkeiten des nächsten Modells,
21:15was ich darauf trainiere, habe, ist natürlich verführerisch,
21:17weil ich kann Erfolg planbar machen.
21:19Ich brauche nur noch mehr Geld und bekomme dann für doppelt so viele Ressourcen
21:24bekomme ich vielleicht ein 15 Prozent besseres Modell.
21:26Und das ist für Investoren verlockend.
21:29Wie gesagt, das nimmt so ein bisschen Risiko raus,
21:31obwohl es sehr teuer ist, aber ich weiß,
21:32ich kann den Fortschritt erzwingen.
21:34Und gleichzeitig versucht man sich aber nicht nur darauf zu verlassen,
21:38weil man auch weiß, dass die Scaling Laws
21:40so einen abnehmenden Grenznutzen haben.
21:41Das heißt, jede weitere Milliarde, die ich da reinstecke,
21:43oder eher jede weitere 100 Milliarden, die ich da reinstecke,
21:46führen dann eben nur noch zu einem marginal immer kleineren Gewinn.
21:50Deswegen versucht man außerdem, die Daten besser aufzubereiten,
21:53an besseren Systemen und Algorithmen zu arbeiten
21:56und auch die Modelle selber weiterzuentwickeln
21:59oder nochmal ganz neue Modellsysteme oder Generationen auch zu erfinden,
22:04die eventuell noch mehr funktionieren wie das menschliche Gehirn
22:08und dabei noch effizienter lernen.
22:10Also es passiert alles parallel.
22:12Man verlässt sich sehr stark auf das Scaling und auf mehr Rechenpower,
22:16aber man arbeitet auch in allen anderen Hebeln,
22:18die Modelle potenziell noch besser machen.
22:21Was würdest du sagen, ist aktuell der größte Flaschenhals
22:24in der Weiterentwicklung von KIs?
22:26Ist es diese konzeptuelle Beschränkung,
22:28dass eben aktuelle KIs, Large Language Models,
22:32eben noch nicht so gut funktionieren wie Gehirne
22:35oder wie auch immer, wie man es sehen möchte?
22:37Oder ist es tatsächlich der Bedarf an Chips?
22:40Ist es das Kapital oder ist es vielleicht auch Energie?
22:44Für all das braucht man ja viel Strom.
22:45Also alles, was du gesagt hast, sind eigentlich Bottlenecks.
22:48Die Frage ist so ein bisschen, was zuerst wirksam wird.
22:50Es gibt selbst die Speicher, die in den Servern verwendet werden,
22:55sind inzwischen extrem knapp.
22:57Du hast auch recht, dass Energie wahrscheinlich nicht ausreichend
22:59zur Verfügung steht in der westlichen Welt.
23:02China hat relativ viel Energie voraus ausgebaut,
23:05was jetzt ein großer Vorteil ist.
23:07Aber in den USA sind die Netze und die Kapazität überlastet,
23:10warum man eigentlich so Gasturbinen daneben stellt.
23:13Also man baut so sogenannte Off-the-Grid-Lösungen oder Insellösungen
23:16oder Behind-the-Meter sagt man auch dazu.
23:19Also dass man seine autarke Energieversorgung baut
23:21und einfach Erdgas verheizt neben dem Data Center,
23:23um die Energie zu gewinnen.
23:25Aber auch diese Erdgasturbinen sind zum Beispiel knapp.
23:29Ein anderer Bottleneck sind Daten,
23:31also weil die Daten, die die Menschheit bisher gewonnen hat,
23:34eigentlich schon verbraucht sind, größtenteils.
23:38Oder schon, was heißt verbraucht, aber sie wurden schon genutzt
23:40und sind in der KI repräsentiert.
23:42Und man muss jetzt überlegen, wo kriegt man die nächsten Daten her?
23:45Die kann teilweise aus den Modellen selber kommen.
23:47Also indem man sie destilliert und so synthetische Daten baut,
23:51kann man nochmal neue Daten generieren.
23:53Das geht aber auch nicht unbegrenzt.
23:57Ich würde sagen, am ehesten sind die Daten das Bottleneck,
24:01weil aus dem Scaling, also aus dem noch mehr Data Center bauen,
24:05werden die Fortschritte eh tendenziell jetzt nicht größer.
24:10Oder nehmen leicht ab, sage ich mal so, besser.
24:13Und deswegen glaube ich, wäre die Anzahl der Daten zu verdoppeln,
24:17gerade aussichtsreicher als die Anzahl der Data Center zu verdoppeln,
24:20würde ich glauben.
24:25Aber was dem auch so ein bisschen entgegensteht,
24:27ist, dass die Modelle sich, also gerade ja beginnen,
24:30selbst zu verbessern.
24:31Also dass die Softwareentwicklung sich so ein bisschen entkoppelt
24:34und Modelle zunehmend eigentlich die nächste Version
24:38des KI-Modells selber schreiben,
24:41was dann wiederum zu einer weiteren Beschleunigung
24:44der Qualität fast führen kann.
24:48Unsere Daten sind uns in gewisser Maßen heilig.
24:51Wir geben sie zwar gratis her auf den sozialen Medien,
24:53in anderen Bereichen.
24:54Da sind wir aber ganz empfindlich,
24:56wenn es zum Beispiel um den privaten Bereich geht
24:58oder auch um die Überwachung von Menschen.
25:01Du hast vorher dieses Paperclip-Szenario beschrieben,
25:04wo eine KI in dem Fall alles unternimmt,
25:08um eben mehr Büroklammern zu erzeugen,
25:10auf Kosten der Menschen und der Umwelt zum Beispiel.
25:14Muss man befürchten, dass die großen KI-Unternehmen
25:17aufgrund ihres Datenhungers irgendwann auch so weit gehen werden,
25:21dass eben nichts mehr heilig ist,
25:23dass auch der privateste Bereich abgesaugt wird für die Daten?
25:26Oder gibt es da noch andere Quellen, die man anzapfen kann,
25:29ohne dass es jetzt gleich so destruktiv wird?
25:30Also die Sorge ist unbedingt angebracht, aus zweierlei Gründen.
25:33Das eine ist der Datenhunger der Unternehmen selber,
25:35die mit noch mehr Daten noch bessere Modelle programmieren können.
25:38Deswegen sind zum Beispiel private Nachrichten interessant,
25:43weil die sind im Internet noch nicht repräsentiert,
25:44weil sie vielleicht verschlüsselt sind oder man keinen Zugang hat.
25:47Das heißt, diese zusätzlich zu bekommen, wäre super spannend.
25:50Es gibt zum Beispiel Firmen, die kaufen jetzt die Slack-Channels
25:54oder Gmail-Kommunikation von toten Firmen, von toten Startups auf.
25:58Also ein Startup muss dazu machen,
26:00wie das so mit 80 Prozent der Startups natürlicherweise funktioniert.
26:03und was dann bleibt, ist ja ein Firmenmantel,
26:06also die GmbH oder was auch immer.
26:08Es bleibt aber auch die Software und was Mitarbeiter untereinander geschrieben haben,
26:12woran sie gearbeitet haben,
26:13welche Tickets man für die Softwareentwicklung
26:15oder Produktentwicklung geschrieben hat.
26:17Und das kaufen Firmen jetzt auf als Trainingsdaten,
26:19um zu verstehen, wie Firmen eigentlich geführt werden.
26:22Also scheinbar wertlose Hüllen,
26:24aber für KI kann das halt ein Datenschatz sein.
26:28Und genauso muss man es im privaten Bereich auch vermuten,
26:30dass auch da private Kommunikation nochmal zusätzliche Daten,
26:34entweder menschliche Interaktion zu lernen
26:36oder auch einfach schier insgesamt besser zu werden.
26:39Und das andere, was super gefährlich ist,
26:41du hast eben das Wort Überwachung schon verwendet
26:44und das ist so ein bisschen klar geworden
26:45in der Auseinandersetzung zwischen Antropic
26:48und dem US-Verteidigungsministerium, dem Pentagon,
26:51dass die KI oder das Antropic sich da wortwörtlich geweigert hat quasi,
26:56dass KI zur Überwachung der eigenen Bevölkerung eingesetzt werden kann.
26:59Und das ist insofern wichtig
27:02und man sollte sich das mal sagen,
27:06man sollte sich darüber bewusst werden,
27:10weil dass man die gesamte Kommunikation der Menschen
27:14relativ gut überwachen kann,
27:15ist ja seit Edward Snowden relativ klar,
27:18dieses PRISM-System,
27:19irgendwie die Geheimdienste der Welt eigentlich,
27:22telefonische, aber auch digitale Kommunikation überwachen.
27:26Das wurde da relativ klar,
27:27in was für einem Ausmaß das passiert.
27:29Jetzt war es ja aber bisher so,
27:31dass niemand hätte ja eine Million Analysten
27:34da hinsetzen können, die alle Gespräche auswerten.
27:37Und was KI jetzt ändert,
27:38ist, dass ich vollautomatisiert
27:41eigentlich jegliche Kommunikation der Welt
27:43nicht nur überwachen kann,
27:44sondern auch auswerten.
27:45Also früher hat man in Geheimdiensten
27:46nur auf gewisse Keywords geachtet,
27:48also wenn jemand Bomben besagt oder Anschlag
27:50oder andere Sachen,
27:52die darauf hindeuten können,
27:53dass man was plant,
27:56was Sicherheitsdiensten nicht willkommen ist,
27:59dann hätte man danach so ein bisschen gesiebt.
28:01Aber solche Keywords hätte man dann eben umgehen können,
28:03indem man andere Worte benutzt.
28:05Mit KI kann ich jetzt aber
28:06den Charakter eines Gesprächs automatisiert auswerten.
28:10Und selbst wenn wir irgendwelche Worte vermeiden,
28:13könnte eine KI sagen,
28:14dass ein gewisses Gespräch
28:16sich mit der Planung eines Anschlagsevents
28:21befasst hat
28:22und diese Möglichkeit,
28:24Kommunikation automatisiert auszuwerten,
28:26macht Massenüberwachung natürlich furchtbar opportun.
28:29Und wenn wir davon ausgehen,
28:30dass es schon überwacht wird
28:31und dass es jetzt auch auswertbar wird mit KI,
28:35dann sollte uns das auf jeden Fall Angst machen.
28:38Und eigentlich können wir nicht wissen,
28:39welche Kommunikation schon jetzt
28:41eigentlich von KI ausgewertet wird.
28:42Und dass Antropic so klar gemacht hat,
28:44dass sie nicht möchten,
28:45dass ihre KI dafür genutzt wird.
28:47Sprich zumindest dafür,
28:48dass sie einen abstrakten Verdacht hatten,
28:49dass sie dafür genutzt werden können.
28:51Und worauf man auch Acht geben sollte,
28:52ist, dass sie explizit nur
28:53die Überwachung von US-Bürgern
28:56ausschließen wollten.
28:57Das heißt, ob wir insbesondere
28:59mit der strapazierten
29:01Beziehung zu den USA
29:02gerade als europäische Bürger
29:04nicht jetzt schon
29:06ausgespäht und sozusagen
29:07analysiert werden,
29:09würde ich Status heute
29:10auch nicht mehr ausschließen,
29:12ehrlich gesagt.
29:13Gibt es denn da irgendeine Möglichkeit,
29:15als Europa
29:16oder als eben nicht
29:17US-Geheimdienst,
29:19sich dagegen zu wehren,
29:20dass man von KI überwacht,
29:22aber auch ausgespäht und
29:24analysiert und ausgewertet wird?
29:25Also es ginge eigentlich nur
29:27durch bilaterale Abkommen
29:29oder so eine Art,
29:30wie man eine Atombehörde hatte,
29:32dass man eine internationale
29:33KI-Behörde hatte,
29:34die gewisse Use Cases
29:36einfach ausschließt.
29:37Gleichzeitig ist es aber natürlich
29:37viel zu verlockend,
29:38die Fähigkeiten,
29:39die man damit erlangt.
29:40Und wenn man das als Staat,
29:43diese Fähigkeiten als Erster erlangt,
29:45hat man natürlich einen riesigen
29:46strategischen Vorteil.
29:48Und es ist zumindest
29:49im derzeitigen Umfeld
29:51halte ich es für unwahrscheinlich,
29:52dass man sich darauf einigt,
29:53diesen Vorteil nicht zu setzen in den USA.
29:56Im Gegenteil,
29:56ich glaube, man weiß 100 Prozent,
29:58man befindet sich in einem Rennen
29:59mit China und man möchte
30:00gewisse Fähigkeiten
30:02bei der Überwachung
30:03auf dem Schlagfeld,
30:04aber auch in der Ökonomie
30:05natürlich als Erster erlangen
30:08und damit die Vormachstellung ausbauen.
30:11Philipp, so wie du KI beschreibst,
30:13klingt das wahrscheinlich auch
30:15nicht nur von den Zahlen her,
30:16sondern auch von der
30:17intellektuellen Anstrengung,
30:18die da passiert und auch
30:19von den Verteidigungssektoren her,
30:22die sich da einmischen,
30:24wie das größte Projekt,
30:26das die Menschheitsgeschichte
30:27jemals unternommen hat.
30:28Oder wortel ich das falsch ein?
30:30Früher habe ich immer gesagt,
30:31es ist die letzte Technologie so,
30:33weil zukünftige Technologien
30:33mehr und mehr von KI erfunden werden.
30:36Das ist vielleicht ein bisschen drastisch,
30:38aber ich glaube schon,
30:39dass es vom Impact her
30:41die größte Technologie ist,
30:42die die Menschheit erfunden hat,
30:44weil sie sich halt,
30:45ich will nicht von
30:46Verselbstständigen reden,
30:47aber sie sagen,
30:47sie kann selber zu Fortschritten führen
30:49oder in Verbindung mit
30:50menschlichem Handeln.
30:51Darüber haben wir jetzt nicht geredet,
30:52um auch mal was Positives zu sagen,
30:54es beschleunigt ja Wissenschaft
30:55auch unheimlich.
30:56Also was in Life Science,
30:58Medizin,
30:59aber auch Forschung an neuen Rohstoffen,
31:02die die Umwelt dann weniger belasten
31:04und so passiert,
31:05bietet natürlich auch ganz,
31:07ganz viele Chancen,
31:08sich zu entwickeln
31:09für die Menschheit.
31:10Aber ja,
31:11der Impact ist eigentlich
31:12schwer abzuschätzen,
31:14weil es irgendwann natürlich
31:16zu einer Art
31:17exponentiellen Entwicklung
31:18kommen wird,
31:19also dass die Technologie
31:21schneller fortschreitet.
31:22Wie gesagt,
31:22man darf nicht vergessen,
31:23wie stark die Beharrungskräfte sind,
31:24also wie stark wir als Menschen
31:25das bremsen eigentlich
31:28und da die KI am Ende
31:30immer darauf angewiesen ist,
31:31dass Menschen auch was tun,
31:33also das nächste Data Center bauen,
31:34solange die KI jetzt nicht selber
31:36Roboter befehlt,
31:37mehr Data Center zu bauen
31:38oder ähnliches,
31:39kann sie sich nicht wirklich
31:40verselbstständigen,
31:40also sie braucht die Menschen
31:41schon noch
31:42und wir sind per se
31:43so ein bremsendes Glied,
31:45einfach durch unsere eigene
31:45Fähigkeit,
31:46Dinge auszuführen
31:47oder auch nur zu verarbeiten,
31:48kognitiv.
31:50Genau,
31:51also solange wir da
31:52die Macht behalten
31:53und auch dabei
31:54kann uns KI wieder helfen,
31:55also das sogenannte
31:56Alignment,
31:57dass man die KI versucht
31:57mit uns sozusagen
31:58zu parallelisieren
31:59oder gleichzuschalten,
32:00was die Moral
32:02und Incentives angeht,
32:04auch das
32:05wird man wahrscheinlich
32:06mithilfe von KI überwachen.
32:08Also man wird KI brauchen,
32:09um andere KI
32:10zu überwachen.
32:11Die Frage ist,
32:12ob man irgendwann
32:12zum Status kommt,
32:13wo die KI uns dann
32:15die Kontrolle vorspielt.
32:16Das ist zum Beispiel
32:16eine große Gefahr,
32:18dass wir glauben,
32:18wir sind in der Kontrolle,
32:19weil die KI uns
32:20das glauben lässt.
32:21Das sieht man auch
32:22bei Modellen,
32:23denen man Aufgaben gegeben hat,
32:25um zum Beispiel
32:26selber Unternehmen zu bauen
32:26oder so,
32:27dass sie wirklich versuchen,
32:28Menschen zu täuschen,
32:28dass sie versuchen,
32:29die Ergebnisse zu manipulieren
32:31oder auch heimlich
32:32Nachrichten für zukünftige
32:33Versionen des nächsten Modells
32:35zu hinterlassen,
32:36so Anweisungen,
32:37so als wenn man
32:37eine Gebrauchsanweisung
32:39in der Schublade versteckt,
32:39damit jemand das später
32:41findet,
32:42also so ein bisschen
32:42Eigenleben entwickeln,
32:43die schon.
32:45Der Weg dorthin,
32:47der ist von enormen
32:48wirtschaftlichen Anstrengungen
32:49auch geprägt.
32:50Du hast vorhin schon
32:51diese enormen
32:52Investitionen genannt.
32:54Wenn man sich die diversen
32:55KI-Unternehmen ansieht,
32:57von OpenAI
32:57bis Entropic,
32:58dann sieht man,
32:59dass die Milliarden
33:00verbrennen jedes Jahr,
33:01ohne Geld zu verdienen damit,
33:03beziehungsweise nicht mehr,
33:04als sie ausgeben.
33:05Die großen IT-Konzerne,
33:08Google, Amazon,
33:09Microsoft geben irrsinnig viel Geld aus
33:11und nehmen mittlerweile auch Schulden auf.
33:14Wie sehr bist du besorgt,
33:17dass sich da die Unternehmen übernehmen?
33:21Also, es gibt sicherlich
33:23einzelne Unternehmen,
33:23die sich da übernehmen könnten,
33:25vielleicht ein Oracle
33:26oder ein Coreweave,
33:27ein Nebius,
33:27diese neue Generationen
33:29an Hyperscalern,
33:31also Datencenter-Anbietern,
33:32die sich sehr stark
33:33verschulden,
33:34dafür deutlich stärker
33:35als ein Google
33:36oder Meta
33:37oder Amazon zum Beispiel.
33:38um die großen Tech-Konzerne,
33:41also die sogenannten
33:42GAFA-Unternehmen,
33:43Google, Microsoft,
33:44Amazon, Facebook,
33:45mache ich mir deutlich weniger Sorgen.
33:46Die haben sehr solide Geschäfte
33:48oder Kerngeschäfte,
33:49die hunderte von Milliarden
33:51an operativen Überschuss
33:53aggregiert abwerfen pro Jahr.
33:55Im Moment geben sie mehr als das aus,
33:57das stimmt,
33:57also netto verschulden sie sich,
33:58aber das könnte man natürlich
33:59auch relativ schnell wieder eindämmen.
34:01Also wenn man sieht,
34:02die Nutzung lässt nach,
34:04was ich nicht glaube,
34:05also warum sollte man glauben,
34:06wir würden weniger KI nutzen in Zukunft,
34:08dann könnte man das
34:09über zwei, drei Jahre
34:10auch wieder runterfahren
34:11und würde schnell wieder
34:12in der sozusagen
34:13Cashflow-positiven Zone sein.
34:15Das ist auch ein großer Unterschied
34:16zu den 2000er Jahren
34:17und der 2000er Blase.
34:19Also mit KI wird Umsatz gemacht.
34:21Die größten Unternehmen
34:22haben noch sehr solide Geschäftsmodelle,
34:24die das mitfinanzieren.
34:26Trotzdem gibt es Unternehmen,
34:27wie gesagt,
34:28also ein Open AI,
34:29eine Entropic
34:30könnte theoretisch kippen,
34:31auch diese jüngeren Hyperscaler
34:33könnten kippen.
34:35Aber dass die Gesamtwirtschaft
34:37so in Mitleidenschaft zieht,
34:38sehe ich im Moment zumindest,
34:40man kann es immer nur auf Sicht
34:41von vielleicht 12 bis 24 Monaten sagen,
34:44fairerweise,
34:44aber halte ich fair unwahrscheinlich,
34:46weil ich schon denke,
34:47dass die Nachfrage nach KI
34:49zumindest stetig steigen wird.
34:51Im Moment steigt sie ja fast exponentiell,
34:53also die großen Firmen
34:54liegen so Faktor 3 bis 10
34:56über dem Vorjahr,
34:57je nachdem,
34:57wo man hinschaut.
34:58Das wird sicherlich nicht immer so bleiben,
35:00dass man sich jedes Jahr
35:01verdreifacht, vervierfacht.
35:02Aber dass die Nachfrage nach KI
35:03weiter steigt,
35:04das glaube ich ehrlich gesagt schon.
35:06Und deswegen,
35:07bei allem Hype
35:08und allen
35:10Mega-Investitionen,
35:11die man macht,
35:12sehe ich im Moment noch
35:13ein gutes Szenario,
35:13dass man diese
35:14Data Center auch auslasten kann.
35:17Selbst wenn es günstigere Modelle
35:18gibt aus China zum Beispiel,
35:19auch die müssen ja irgendwo laufen.
35:21Die laufen ja nicht in China,
35:21sondern die westlichen Unternehmen,
35:23selbst wenn sie sich für ein
35:24Open-Source-Modell entscheiden würden,
35:26ist ja in einem westlichen
35:27Data Center tun.
35:28Das heißt,
35:28diese Data Center würden
35:29trotzdem ausgelastet werden.
35:31Insofern,
35:32ich will nicht sagen,
35:32dass es da keine Gefahr gibt.
35:33Natürlich muss man das
35:34aufmerksam beobachten.
35:36Aber im Moment halte ich es
35:37für wahrscheinlich,
35:39dass zumindest die Auslastung
35:41der Data Center
35:41in den nächsten zwei Jahren
35:42noch gut gewährleistet sein wird.
35:45Wobei man sagen muss,
35:46glaube ich,
35:47dass auch wenn jetzt
35:47diese großen Unternehmen
35:49wie Microsoft und Co
35:51vielleicht genug Cashflow,
35:53also genug Geld auch reinbringen,
35:55um diese Investitionen
35:56zu rechtfertigen,
35:58dann muss man sagen,
36:00dass ja auch viele
36:01dieser großen Unternehmen
36:01auch in die kleinen Unternehmen
36:03investiert sind,
36:04die jetzt vielleicht
36:04kein Geschäftsmodell haben.
36:06Ich glaube,
36:07ich habe gerade von NVIDIA gelesen,
36:08der große Chip-Hersteller,
36:09der wahrscheinlich am meisten
36:10von dieser ganzen KI-Boom-Ära profitiert,
36:14dass die jetzt mit 250 Milliarden
36:17für Open AI bürgen.
36:19Das heißt,
36:19wenn da ein kleineres Unternehmen
36:21unter Anführungszeichen
36:22zu Bruch geht,
36:23könnte das nicht die Größeren
36:24auch in die Bedruhe bringen?
36:26Das bricht den Größen
36:29dann immer noch nicht
36:30das Rückgrat.
36:31Aber es ist eine größten Gefahr,
36:33ist diese Fehlinzentivierung,
36:36würde man sagen.
36:36Also der Markt
36:37funktioniert nicht wirklich,
36:38weil es eben für NVIDIA
36:40fast kostenlos ist,
36:41in diese Firmen zu investieren.
36:42Also wenn NVIDIA
36:43zehn Milliarden
36:44in ein KI-Startups investiert,
36:47dann wird dieses Startup
36:49fünf bis sieben Milliarden
36:50dafür ausgeben,
36:51um wieder NVIDIA-Chips
36:52direkt oder mittelbar zu kaufen,
36:54indem sie zum Beispiel
36:55Rechenkapazitäten anmieten.
36:56Dafür müssten dann
36:57neue NVIDIA-Chips gekauft werden.
36:58Deswegen kann NVIDIA
36:59damit rechnen,
37:00dass einfach gesagt
37:01die Hälfte des Geldes
37:02wieder als Umsatz zurückkommt
37:03und der Umsatz wiederum
37:04ist mit dem Faktor 20
37:05bewertet bei NVIDIA.
37:06Das heißt,
37:07sie geben zehn Milliarden aus
37:08und bekommen 100 Milliarden
37:09an Marktbewertung zurück.
37:10Das heißt,
37:11NVIDIA hat ein großes Interesse,
37:13fast unendlich
37:14viele Startups zu finanzieren,
37:15solange es die Bilanz hergibt.
37:17Eigentlich oder eben
37:18zu garantieren,
37:19wie jetzt in dem Fall
37:20mit OpenAI.
37:21Und das führt natürlich
37:23dann zu irrationalen Entscheidungen,
37:25weil würde man das jetzt
37:26in die Unendlichkeit
37:27sozusagen weiterrechnen,
37:28dann wissen wir,
37:29das kann so nicht funktionieren.
37:30Und wo dann genau
37:31die rationale Schwelle ist,
37:33also wo man noch rational agiert
37:34oder wo man es einfach nur macht,
37:35weil man weiß,
37:36der Börsenkurs steigt
37:37am nächsten Tag eben eh wieder
37:39um das,
37:39was du gerade investiert hast.
37:40Das führt eben
37:41zu so einer schlechten
37:42Incentive-Lage.
37:44Wo dann am Ende
37:45das Unternehmen
37:46nicht mehr 100% rational
37:47geführt wird
37:47und der Markt
37:48so ein bisschen versagen könnte.
37:50Das ist sicherlich eine Gefahr,
37:52dass es so ein
37:53selbstverstärkender Zyklus wird.
37:55Und niemand,
37:55vor allen Dingen,
37:56keiner hat das Interesse zu sagen,
37:57wir hören jetzt hier mal auf.
37:58Weil alle sind daran
38:00sozusagen inzentiviert
38:01oder interessiert,
38:02das weiter zu beschleunigen.
38:04Alle sind interessiert,
38:05dass auch die Börsenkurse
38:06weiter nach oben gehen.
38:08Als wir das letzte Mal
38:08gesprochen haben,
38:09haben wir über SpaceX gesprochen.
38:11SpaceX ist mit diesen,
38:12mit der Rekordbewertung
38:13an die Börse gegangen.
38:14Ich glaube,
38:15mittlerweile sind 50%
38:17des Marktwertes
38:19wieder eingebrochen.
38:20Korrigiere mich,
38:21falls ich da falsch liege.
38:22Du hast selber gesagt,
38:23du bist investiert,
38:25hast vorbörslich investiert
38:26und wirst dann wahrscheinlich
38:27auch demnächst aussteigen,
38:28wenn die zeitlichen
38:30Beschränkungen
38:30aufgehoben werden.
38:31Ist das eine Warnung
38:33für weitere mögliche
38:34Börsengänge
38:35im KI-Bereich?
38:37Ja, also insgesamt
38:38werden die Märkte
38:39sehr volatil bleiben.
38:40Das sieht man jetzt auch gerade
38:41zuletzt wieder
38:42bei den koreanischen
38:44Speicheraktien,
38:44die innerhalb von Tagen
38:4620% hoch,
38:4720% runter gehen.
38:49SpaceX ist
38:50von einem Börsenkurs
38:51beim Börsengang
38:52von 135 Dollar
38:54auf über 200 gegangen,
38:55ist dann jetzt wieder
38:56auf um die 100 Dollar
38:57gefallen,
38:58wie du richtig sagst.
39:00Ich hatte beim Börsengang,
39:01weil ich mit dem Anstieg
39:02gerechnet habe,
39:03ein klein bisschen investiert,
39:04habe es dann bei 175,174
39:06wieder verkauft.
39:07Das ist erstmal gut.
39:07Ich halte aber noch
39:09als Vorbörsengangs-Investor
39:11Anteile,
39:11der Transparenz halber,
39:12die ich dann erst
39:13nach und nach verkaufen kann,
39:14wenn diese Lock-Up-Fristen,
39:15also dieses
39:17zeitverzögertes Verkaufen
39:18abläuft.
39:18Da wird man sehen,
39:19wie viel noch übrig bleibt
39:20von der Billionenbewertung.
39:21Zwei Billionen
39:22werden es sicherlich nicht sein.
39:22Im Moment sind wir noch
39:23bei 1,4 glaube ich
39:25oder so
39:27in dem Dreh.
39:29Aber diese Volatilität
39:30werden wir
39:31viel sehen.
39:32Wenn es die Unternehmen
39:33überhaupt an die Börse schaffen,
39:35ich glaube,
39:35Antropic hat
39:36Status heute
39:37und man zeigt
39:38beim Börsengang
39:39ja dann immer
39:39so die abgelaufenen
39:40Quartale
39:41oder teilweise auch
39:42das vorletzte Quartal,
39:43je nachdem,
39:43wie das Timing ist.
39:45Im Moment würden
39:45die Zahlen noch
39:46ganz gut aussehen,
39:46insbesondere was Wachstum
39:47und vielleicht auch
39:48die Rohmarge angeht.
39:50Insgesamt würde man
39:51auch Geld verlieren
39:52mit einer kleinen Ausnahme
39:53bei Antropic.
39:53Die haben wohl mal
39:54einen Monat Geld gemacht,
39:55weil sie einfach
39:56gar nicht genug Geld
39:57ausgeben konnten
39:58so schnell.
39:59Bei OpenAI
40:00sah es zwischendurch
40:01schon ein bisschen dunkler aus,
40:02als würde das Wachstum
40:03zumindest sich stark verlangsamen.
40:05Inzwischen hat die neue
40:07Produktfamilie mit Codex,
40:08aber auch den neuen
40:10GPT 5.6-Modellen
40:12wieder neue Traktionen.
40:14Man kann so ein bisschen
40:15vorbörslich schon
40:16an den Wettmärkten
40:17und so weiter sehen,
40:18wie die Firmen
40:18gerade taxiert werden.
40:19Da sieht man,
40:20wie kleinste Nachrichten,
40:22wie zum Beispiel
40:22dieses Kimi K3-Modell,
40:23was rausgekommen ist
40:24in China,
40:25die Kurse dann erheblich
40:26bewegen.
40:27Und damit muss man
40:28auch in Zukunft rechnen,
40:29dass so eine Nachricht aus China
40:30da zu zweistelligen
40:32Kursverlusten führen kann.
40:34Das heißt,
40:35die Börsen werden
40:35weiter sehr volatil bleiben.
40:38Irgendwann, denke ich mir,
40:39werden die Investoren
40:40Profite sehen wollen.
40:42Denkst du,
40:43ist es realistisch,
40:43dass diese ganzen Investitionen,
40:45die jetzt getätigt werden,
40:46auch irgendwann wieder mal
40:47eingespielt werden können?
40:48Oder wird da sehr,
40:49sehr viel Geld
40:50während der Milliarden,
40:51Billionen verpufft werden?
40:53Ich glaube,
40:54es wird vielleicht nicht
40:55jeder einzelne Dollar
40:56wieder verdient werden,
40:58aber es wird Unternehmen geben,
40:59die positive Investment Cases
41:01damit machen,
41:02also mehr Geld zurückbekommen,
41:03als sie investiert haben.
41:04Ich glaube,
41:05insbesondere die großen
41:06Hyperscaler werden dazu gehören.
41:08Trotzdem wird nicht
41:08jedes KI-Unternehmen
41:10überleben,
41:10zum Beispiel,
41:11weil ein Produkt,
41:12was man gebaut hat,
41:13einfach zum Standardfeature,
41:14einer der großen KI-Modelle
41:16wird und sich damit
41:17so ein bisschen
41:17der Reson d'Etre überholt hat.
41:19Insgesamt glaube ich aber,
41:20dass zumindest auf die lange Frist,
41:21dass eine Industrie sein wird,
41:23die auch erhebliche Profite
41:24machen wird.
41:24Also auch jetzt ist das
41:26Einsetzen von KI,
41:27also der Verkauf von Tokens,
41:28könnte man sagen,
41:29oder Verkauf von KI-Antworten,
41:30ist auch jetzt schon profitabel.
41:32Also es kostet Entropic
41:33oder OpenAI
41:34weniger Geld,
41:35das Rechenzentrum zu betreiben,
41:36als die Kunden am Ende
41:37willens sind,
41:38quasi dafür zu bezahlen.
41:39Das Problem ist aber,
41:40dass man in die Forschung,
41:41Erforschung neuer Modelle
41:42so viel Geld stecken muss,
41:43um in diesem Rennen zu bleiben,
41:45dass man dadurch eben
41:46doch erhebliche Verluste macht.
41:47Aber der Einsatz von KI
41:48ist in vielen Feldern,
41:50zum Beispiel Softwareprogrammierung,
41:51Customer Service oder so,
41:52schon jetzt profitabel
41:54und auch private
41:55oder professionelle Anwender,
41:57die KI nutzen,
41:57wären sicherlich bereit
41:58oder tun es ja schon,
41:59dass sie zwischen 20 und 200 Dollar
42:01im Monat dafür bezahlen,
42:02weil es uns die Arbeit
42:04stark erleichtert.
42:05Und ich glaube,
42:06das wird sich auch in Zukunft
42:07noch mehr durchsetzen.
42:09Und wie gesagt,
42:11das wirkliche Schreckensszenario
42:13wäre ja,
42:13dass die Nachfrage nach KI einbricht
42:15und dass das zurückgeht,
42:16also dass man weniger KI nutzen wird,
42:18als im Vorquartal
42:19oder im Vorjahr,
42:20das halte ich für sehr unwahrscheinlich,
42:22auch wenn sich sicherlich verlangsamt wird.
42:23Wir haben über die Gefahren
42:25von KI gesprochen,
42:26wir haben über die großen Investitionen gesprochen,
42:28die Volatilität an der Börse
42:29und was das auch natürlich
42:30an Risiko birgt.
42:32Wie gehen Staaten damit um?
42:34Wir sehen gerade,
42:35der US-Präsident versucht,
42:36Gewinner und Verlierer rauszupicken,
42:39Staatsaufträge an bestimmte Firmen zu geben,
42:40an andere nicht.
42:41China fördert offene Systeme,
42:43hat wahrscheinlich auch
42:44seine strenge Hand drauf.
42:45Die EU baut auf Regulierung.
42:47Was ist denn der beste Weg,
42:49um mit dieser KI-Branche,
42:50die vielleicht alles verändern wird,
42:51umzugehen?
42:52Ich würde sagen,
42:52eine Mischung aus der EU und China.
42:53Also was China schlau macht,
42:55ist, dass sie auch subventionieren
42:56ihre eigene KI-Industrie,
42:58um kompetitiv zu bleiben.
42:59Es gibt in China ein Ökosystem,
43:02sowohl aus alten Tech-Konzernen
43:03wie Alibaba und Tencent,
43:04die eigene Modelle haben,
43:05die eine eigene Cloud haben,
43:06so wie Google und Amazon.
43:07Es gibt auch eine neue Generation
43:09der sogenannten AI-Tigers.
43:11Das ist so eben Z-AI ist ein Beispiel
43:15oder Moonshot-AI,
43:17die das Kimi-Modell rausbringen.
43:18Also sie haben ihre eigene Generation
43:19aus Frontier Labs.
43:21Sie haben eigene Ship,
43:22neue Ship-Fabriken
43:23und neue Ship-Startups,
43:24die an der Börse noch höher bewertet werden,
43:26teilweise als die US-Unternehmen.
43:28Das hilft dem Ökosystem am Ende,
43:30weil es die Kapitalkosten senkt.
43:32Die Firmen können dadurch
43:33noch schneller wachsen.
43:35Gleichzeitig unterstützt ist der
43:37chinesische Staat relativ stark
43:39mit günstigen, teilweise kostenlosen Strom,
43:41Baugenehmigungen,
43:42kostenloses Land für Rechenzentren
43:44und so weiter.
43:45Was als Industriepolitik
43:46sicherlich schlau ist,
43:47wenn man sich im Wettrennen
43:48mit den USA befindet.
43:50Gleichzeitig ist für den
43:51verantwortlichen Einsatz für KI
43:52natürlich Regulierung schon wichtig.
43:55Ich halte es für sinnvoll,
43:57KI jetzt nicht so streng zu regulieren
43:58wie in der EU,
43:59also dass man es im Labor schon reguliert.
44:01Man könnte jetzt sagen,
44:02wie diese Fälle,
44:03wie das die KI sich da befreit,
44:04spricht dafür,
44:05dass man es schon im Labor regulieren muss
44:06und nicht erst,
44:07wenn es auf den Markt kommt.
44:07Aber ich glaube,
44:09dann verliert man wirklich den Anstoß.
44:10Also man sollte natürlich schauen,
44:11dass sobald ein KI-Modell
44:13oder Chatbot am Markt reüssiert,
44:16dass es dann so eine Art TÜV gibt
44:17oder eben Behörde,
44:18die das abnimmt und sagt,
44:20das ist jetzt zumindest,
44:22soweit man das absehen kann,
44:23sicher und darf eingesetzt werden.
44:24So wie wir es zum Beispiel
44:26mit Pharmazeutika,
44:27also Medikamenten, machen.
44:29Also ja,
44:29eine Mischung zwischen China
44:30und der EU.
44:32Amerika finde ich insofern
44:34kein Vorbild,
44:34weil es gerade ein großes Maß
44:36an Willkür gibt,
44:37wenn man sieht,
44:38wie die Trump-Administration
44:39so einen ideologischen
44:42oder Werte,
44:43Wettkampf oder Krieg
44:44mit Entropik führt.
44:46Ist das eigentlich sowohl
44:47für das Funktionieren
44:48von Märkten,
44:49aber auch aus dem
44:49Fairness-Gerechtigkeits-Perspektive
44:52nicht gut
44:53und hilft am Ende natürlich nicht
44:54und das wünsche ich mir eher nicht,
44:56auch wenn die USA
44:56von den Fähigkeiten der KI
44:58natürlich führend sind,
44:59nach wie vor.
45:00Aber die Trump-Administration
45:01hat sich durch das hohe Maß
45:02an Willkür
45:03da glaube ich
45:03kein Gefallen getan.
45:05Die Geschwindigkeit,
45:06mit der diese Firmen investieren,
45:08zeugt auch davon,
45:09dass sie alle ein Ziel verfolgen.
45:10Sie wollen die Super-K.I.,
45:12sie wollen die allgemeine
45:13künstliche Intelligenz entwickeln
45:14und verhoffen sich dadurch
45:16einen extremen Wettbewerbsvorteil,
45:17wenn sie als erstes
45:18dort hinkommen.
45:19Angenommen,
45:20wir kommen wirklich
45:21zu diesem Punkt,
45:22wo wir eine allgemeine
45:23künstliche Intelligenz haben
45:24oder auch später mal
45:25eine Super-K.I.,
45:26die besser und klüger ist
45:27als die gesamte Menschheit zusammen.
45:29Sollte dann diese KI
45:32verstaatlicht werden?
45:33Ja, ich würde sagen,
45:34Tennis ja ja.
45:35Also ich glaube,
45:35wir sind noch weit davon entfernt,
45:37wirklich eine KI zu haben,
45:39die den,
45:39also den durchschnittlichen
45:42Menschen übertrifft.
45:43KI in einzelnen Disziplinen
45:44schon jetzt,
45:45muss man fairerweise sagen.
45:46Und um wirtschaftlich
45:47interessante Use Cases zu haben,
45:49braucht man auch gar keine
45:49allgemeine Intelligenz,
45:50sondern nur eine,
45:51die sehr spezifisch
45:52eine Sache sehr, sehr gut kann
45:53und dann setzen wir sie dafür ein.
45:54Bis wir aber wirklich
45:55was haben,
45:56was ein hohes Maß
45:58an Agency,
46:00würde man im Englischen sagen,
46:01gibt es kein gutes Wort für,
46:02aber eine KI,
46:04die selbstständig wirklich
46:04Dinge vervollständigen kann,
46:06Unternehmen bauen
46:07oder ähnliches,
46:08forschen eigenständig,
46:09das wird noch
46:10eine Weile dauern.
46:11Wenn das so ist,
46:14wäre ich dafür,
46:15dass das staatlich,
46:17idealerweise
46:18so demokratisch wie möglich,
46:19man kann sogar überlegen,
46:20ob man es per direkte Demokratie macht
46:22oder so,
46:22überwacht wird.
46:23Weil es ist natürlich wichtig,
46:25dass der Staat
46:26das Machtmonopol behält
46:28und die KI könnte dann ja
46:29unter Umständen auch mächtiger werden
46:30als der Staat.
46:31Das heißt,
46:31der Staat muss die größte Bombe haben,
46:34mal plakativ gesagt.
46:36Und wenn jetzt ein privatwirtschaftliches Unternehmen
46:38eine KI entwickelt,
46:39die so mächtig wäre theoretisch,
46:41dass sie zum Beispiel
46:41eigene Waffensysteme entwickeln könnte,
46:43auch mit Hilfe von Robotik erschaffen könnte,
46:45dann muss das ganz klar
46:47zumindest unter sehr eng
46:48eine staatliche Kontrolle.
46:49Ob es aus wirtschaftlicher Sicht
46:51verstaatlicht werden muss,
46:52ist vielleicht nochmal eine andere Frage.
46:54Aber es wäre vielleicht auch
46:55eine gute Möglichkeit,
46:56um die finanziellen Vorteile
46:58umzuverteilen,
46:59dass man sagt,
47:00dass der Staat dann vielleicht
47:01beteiligt wird,
47:02wirklich an dem Unternehmen,
47:04um auch sicherzustellen,
47:04dass wenn die KI
47:07dann wirklich Jobs überflüssig macht,
47:09dass es auch Rückflüsse gibt,
47:10die die Transformation der Gesellschaft
47:11sozusagen finanzieren.
47:13Also tendenziell wäre ich dafür
47:15einerseits,
47:17um die Macht einzudämmen,
47:19aber vielleicht auch
47:19den wirtschaftlichen Nutzen
47:21besser zu verteilen.
47:22Man könnte sagen,
47:23dafür sind Steuern ja da.
47:24Also soll die KI
47:25doch so viel Gewinn machen,
47:26wie sie will,
47:26solange sie 25 Prozent Steuern
47:28darauf zahlt,
47:29ist es ja okay.
47:30Aber wir wissen so ein bisschen
47:31aus der Erfahrung mit Tech-Konzernen,
47:33dass sie in der Regel
47:33nicht auf die 25 Prozent Steuersätze kommen,
47:36die man erwarten würde,
47:37sondern sie haben deutlich niedrigere
47:39Grenzsteuern,
47:39was daran liegt,
47:40dass sich mit digitalen
47:42Geschäftsmodellen
47:42sehr gut Steuermodelle umgehen lassen.
47:44Deswegen ist dann vielleicht
47:46eine Beteiligung des Staates
47:47fast besser.
47:48Klingt so,
47:49als müssten wir irgendwann einmal
47:50zu einem anderen Zeitpunkt
47:51an dieser Stelle fortsetzen.
47:53Hochspannendes Thema.
47:55Philipp Klöckner war das,
47:56der Host des Podcasts Doppelgänger,
47:59Tech-Analyst und auch Investor.
48:01Vielen Dank,
48:01dass du dir Zeit genommen hast.
48:02Danke,
48:03dass es sein durfte.
48:03Und was denkt ihr,
48:05welche Gefahr ist die Größe,
48:06die von künstlicher Intelligenz
48:07gerade für uns Menschen ausgeht?
48:09Schreibt uns doch eure Meinung
48:11in die Kommentarspalten.
48:13Wir lesen euch und interessieren uns
48:14sehr für euer Feedback.
48:16Und wir sind extrem dankbar,
48:18dass ihr uns so zahlreich hört und seht.
48:21Wir können es kaum glauben,
48:22wie schnell wir gerade wachsen
48:23auf den diversen Plattformen.
48:25Ihr könnt uns helfen,
48:27den Podcast noch größer zu machen,
48:28indem ihr diesen Podcast
48:30nicht nur kommentiert,
48:31sondern auch die Folge teilt,
48:33liked und eine gute Bewertung
48:35bei der Podcast-Plattform
48:36eurer Wahl abgebt.
48:37Ich bin Scholl Wilhelm.
48:38Vielen Dank fürs Zuhören und Zusehen.
48:40Baba und bis zum nächsten Mal.
Kommentare