Vorsicht beim Onlineshopping, chinesischer Cyberscam und Fazit vom Digitalgipfel mit Frederike Kaltheuner

00:00:16: Hallo und herzlich willkommen zu They Talk Tech, ein CT-Podcast.

00:00:19: Ich bin Svea Eckert, Tech-Journalistin.

00:00:22: Und ich bin Eva Wolf-Angel, ebenfalls Tech-Journalistin.

00:00:27: Wir schauen jeden Mittwoch darauf, was die Tech-Welt antreibt und auch auf das, was uns gerade so beschäftigt.

00:00:33: Und dieses Mal, Eva ... hast du ein Thema dabei, was so ziemlich alles sprengt.

00:00:38: Ich bin mega gespannt darauf.

00:00:39: Und zwar geht es um Anthropic, China und den Verdacht, dass KI-Agenten genutzt werden könnten, um Unternehmen auszuspähen.

00:00:47: What?

00:00:48: Ja, scheint mehr als ein Verdacht zu sein.

00:00:50: Inzwischen ist ja ein Thema, vor dem ich schon immer gewarnt habe.

00:00:55: Ich hab's ja gleich gesagt.

00:00:56: So ein Satz, den ich eigentlich gar nicht mag.

00:00:58: Aber in dem Fall empfinde ich eine gewisse Genunktur.

00:01:01: Weil mir oft gesagt worden ist, wenn ich vor solchen Dingen warne, das ist ja völlig unrealistische Nacht.

00:01:06: Das passiert doch nicht.

00:01:07: Du musst immer alles schwarz malen.

00:01:10: Dabei bin ich ja gar nicht so eine Schwarzmalerin.

00:01:13: Du hast auch

00:01:14: was mitgebracht.

00:01:15: Nämlich was Alltagsnäheres.

00:01:17: Eine gute Frage.

00:01:18: KI-Agenda sind inzwischen auch sehr alltagsnah.

00:01:20: Aber dann ist es noch ein bisschen alltagsnah und auch brisant.

00:01:23: Ja, genau.

00:01:24: Ich beschäftige mich gerade mal wieder mit dem Thema Online-Shopping jetzt vor dem Black Friday.

00:01:29: Überall Rabatte, überall Versprechen.

00:01:31: Und dann manchmal auch Shops, die ein bisschen zugutklingen, um wahr zu sein.

00:01:36: Da habe ich ein bisschen was mitgebracht und vor allem auch dann den Aufruf an euch, mir von euren verrücktesten Online-Shopping-Geschichten zu erzählen, damit ich noch eine größere Recherche aufsetzen kann.

00:01:47: Ich bin echt gespannt.

00:01:48: Ja, solche Erlebnisse haben inzwischen fast alle.

00:01:51: Ich höre das auch ganz oft.

00:01:52: Ja, schräge.

00:01:53: Schaut mal, was ist das eigentlich?

00:01:55: Ja, ich bin gespannt auf deine Erkenntnisse.

00:01:58: Und dann haben wir heute noch eine großartige Interviewpartnerin, Friederike Kalltäuner, mit ihr sprechen über den Digitalgipfel, der ja ganz aktuell diese Woche lief.

00:02:06: Und über die große Frage platzt die KI-Blase und kann das große AGI versprechen, also Superintelligenz, überhaupt jemals eingelöst werden.

00:02:14: Mhm, genau, das ist ein ... Super präsentes Gespräch, was da auf uns wartet.

00:02:19: Aber na gut, erst mal zu den profanen Dingen des Lebens, Online-Shopping.

00:02:27: Eva, hast du schon mal dich verkauft?

00:02:32: Also verkaufen tut ja, verkaufen, das tut ja jeder.

00:02:34: Allerdings tatsächlich kaufe ich nicht bei Shops mit zweifelhaftem Hintergrund.

00:02:40: Ich gucke tatsächlich, und zwar weil ich natürlich viele Kolleginnen und Kollegen habe und selbst auch schon in dem Bereich recherchiert habe, die immer wieder darauf hinweisen, Achtung, diese Dinger sprießen wie Pilze aus dem Boden und von daher, ich bestelle eh nicht wahnsinnig viel online, aber tatsächlich schaue ich.

00:02:55: sehr genau, wo diese Unternehmen eigentlich sitzen.

00:02:57: Und wenn man nicht mal ein Impressum finden kann, ist es ja schon so ein erstes Warnzeichen.

00:03:01: Und wenn dann das Impressum sagt, der Shop sitzt in China, ist auch schon klar, wo man nicht bestellen möchte.

00:03:07: Und du, was hast du schon Falsches gekauft?

00:03:10: Ja, also mir ist es tatsächlich schon passiert.

00:03:12: Ich habe mich verleiten lassen, ich weiß nicht, im Anfall von geistiger Umnachtung und wahrscheinlich Liebe für unsere Katze.

00:03:20: Oh,

00:03:21: das ist so ein schönes Motiv.

00:03:25: Das sagt man ja auch wirklich immer, dass man solche Fehlkäufe immer in so emotionalen Situationen ist.

00:03:33: Dass man solche Käufe dann leichter tätigt.

00:03:36: Und zwar ist das ein Katzenkörbchen gewesen.

00:03:39: Und das war, als ich noch Werbung auf Instagram bekommen habe, wurde mir also immer wieder ausgespielt, dieses superweiche, schnuffelige Katzenkörbchen.

00:03:48: Die Katze wäre so glücklich.

00:03:49: Ja, die Katze wäre so glücklich, wenn du

00:03:52: dieses

00:03:53: Körbchen ... und in irgendeinem Anfall von geistiger Umnachtung habe ich es dann einfach geklickt.

00:04:00: Und das Ding war, auch ein Grund, warum ich es sofort geklickt habe, war... dass man es irgendwie vier Wochen zurückgeben kann.

00:04:07: Was ja super ist, man im Katzenkörbchen, weil jeder, der eine Katze hat, der kennt das.

00:04:11: Man kauft diese Dinger und die Katzen gehen nicht rein.

00:04:14: Und man hat irgendwie... Ich

00:04:15: dachte, sie können vier Wochen lang Probe schlafen, so wie man es beim Matratzen ja manchmal angeboten bekommt, wenn man sich schon fragt, was machen wir den ganzen alten Matratzen?

00:04:23: Stimmt, wahrscheinlich gibt die halt auch niemand zurück.

00:04:25: Genau, also auf jeden Fall dachte ich mir, na ja gut, okay, dann ist ja alles easy, ich kann das Körbchen wieder zurückgeben.

00:04:32: die Webseite mir einfach so oberflächlich nur angeschaut, also wie man das halt so beim Bestellen macht.

00:04:36: Und es war, na, irgendwie, twenty-fünf Euro gekostet oder dreißig Euro, so war es auch nicht so hochpreisig.

00:04:42: Ich dachte mir, na ja, okay, Webseite, alles Deutsch.

00:04:45: War auch eine deutsche Adresse im Impressum angegeben.

00:04:48: Easy, easy, easy, alles Gute.

00:04:51: So, es kam, wie es kommen musste.

00:04:54: Dieses Katzenköppchen kam, die Katze ging nicht rein.

00:04:59: Zum Glück hattest du ja diese Rückgabegarantie.

00:05:02: Das hat bestimmt alles ganz problemlos geklappt.

00:05:06: Vielleicht auch einmal ganz kurz, genau wer mir auf Instagram folgt, der weiß, dass unsere Katze so ein Main-Kunowiker verschnitt.

00:05:13: Und die sind einfach riesig, die Viecher.

00:05:16: Also es ist einfach eine riesen Katze.

00:05:18: Und das Katzenkörbchen war zu klein.

00:05:20: Ich hatte also nicht gut gemessen.

00:05:22: Und das war einfach viel zu klein und er passt da einfach auf.

00:05:25: Die Renette hat sich quer drüber legen können, da wäre der vorn und hinten rausgeguckt.

00:05:31: Sind chinesische Katzen vielleicht kleiner?

00:05:33: Ja,

00:05:35: genau.

00:05:36: Eva,

00:05:37: du stellst,

00:05:38: du ahnst es dir schon, was genau passiert ist.

00:05:41: Ich habe dann also bei Retour geschaut und die Retour war dann tatsächlich ... eine Adresse in China angegeben, wirklich eine Stadt, von der ich noch nie gehört hatte.

00:05:53: Und ich hab dann geguckt, was das kosten würde, um das zurückzuschicken.

00:05:58: Und das hätte mehr als fünfzig Euro gekostet, mit durch den Zoll.

00:06:02: Und die haben dir kein kostenloses Retouan-Ithikett mitgeschickt, natürlich.

00:06:07: Und es war superrückbar.

00:06:07: Ich hab ja noch mal geschaut, wo es herkam.

00:06:10: Und das Katzenkörbchen kam von einer Adresse aus Deutschland, aus Bayern.

00:06:15: Aber die Retour sollte dann nach China

00:06:18: gehen.

00:06:19: Aber kann man es ja nicht einfach nach Bayern schicken?

00:06:20: Das ist ja ein bisschen frech, oder?

00:06:22: Ja, habe ich mich dann nicht getraut.

00:06:24: Es war da alles klein beschrieben.

00:06:26: Dann habe ich dann mir auch mal die Mühe gemacht und in die Reviews geschaut.

00:06:28: Es gibt ja so eine Trusted Shops.

00:06:30: Also es gibt ja so Webseiten.

00:06:32: Und die ganzen Kommentare, da, da, da, da, da, da, da, da, da.

00:06:36: Man kann's nicht zurück schicken.

00:06:39: Schlechte Qualität.

00:06:40: Das lockte andere Katzenbesitzer und Besitzerinnen gefunden, die auch unzufrieden waren und Katzen unzufrieden waren und zu groß waren.

00:06:45: Ja, genau.

00:06:46: Also, die Kommentare, wirklich, hab ich mir gedacht, Mann, diese doofen Reviews, hätte ich einmal lesen müssen.

00:06:52: Mach ich normalerweise auch einmal diese Reviews lesen.

00:06:56: Und dann hätte ich sofort gemerkt, Naja, das ist meine kurze Story.

00:07:00: Und jetzt gerade im Rahmen von Black Friday haben mich noch weitere Stories erreicht und ich würde da, hatte überlegt, ob sich lohnt, doch eine bisschen ausführlichere Recherche aufzusetzen und mir dieses ganze Thema Shops noch mal anzuschauen, aber nicht unter diesem Aspekt Fake Shops.

00:07:15: Ich weiß nicht, erinnerst du dich?

00:07:16: Eva gab mir diesen sehr guten Talk letztes Jahr auf einen CCC-Kongress.

00:07:21: Mein Kollege Kyle Biermann hat dazu recherchiert.

00:07:23: Das war der erste Welle, wo ich dachte, ich schaue sehr genau hinkünftig, wo ich was bestelle.

00:07:27: Das waren Shops, da wurde einfach gar nie was verschickt.

00:07:30: Die gab es gar nicht als Shops.

00:07:31: Und die neue Masche scheint also zu sein.

00:07:34: Shops sind die Eindrücke weg, dass die Qualitäts-Dinge verschicken.

00:07:37: Und in Wirklichkeit kriegt man irgendwelchen billig Schrott direkt aus China geschickt.

00:07:42: Was ich mich echt frage, lohnt sich das, Sachen aus China zu verschicken?

00:07:45: Ist es so rum dann nicht teuer oder wie?

00:07:48: Ja, da würde ich gern mal den Fall ... erzählen von einer Freundin, die mir den geschickt hat, also ihr habt nur zwei Fälle geschickt, die würde ich gerne hier einmal ganz kurz erzählen, eben mit der Frage bitte und Aufforderung, schickt uns bitte, wenn ihr solche Shops habt, einfach mal eure Story oder die Shops zu, also das könnt ihr gerne machen bei mir über die Website, über das Kontaktformular, auf Mastodon, auf LinkedIn, also unsere Kanäle sind da offen.

00:08:13: Und zwar hat die mir erzählt von Shops, die so ganz deutsche Namen haben, also Heidi Mode, oder Land, Freiluft Kinder oder so.

00:08:25: Nein,

00:08:25: die lustig.

00:08:26: Genau, also die haben ganz deutsche Namen.

00:08:28: Ich hab mir die Seiten auch mal angeschaut und die Seiten sind so, wo ich vom Gefühl her sagen würde, KI, KI, KI, textmäßig.

00:08:35: Also einfach super viel, super glattern Text.

00:08:40: Also nicht, wo man das Gefühl hat, was individuell ist, was anderes.

00:08:44: Da hat jemand selber geschrieben.

00:08:46: Ja klar,

00:08:46: KI-generiert wohl.

00:08:48: Total professionell.

00:08:50: Und dann gibt es da wirklich die Leggings.

00:08:54: die du dir, wenn du dann bei Aliexpress schaust, also Aliexpress sozusagen, das chinesische Amazon, da kosten die bei Aliexpress, kannst du die für neun und neunzig Cent kaufen, also diese Thermo-Leggings jetzt als Beispiel.

00:09:09: Oder für sieben Euro kann sie diese Thermo-Leggings teilweise sogar mit kostenloser Versand bei AliExpress kaufen.

00:09:17: Und die werden dann eben bei diesen Shops für thirty-five Euro angeboten.

00:09:21: Und was ähnliches habe ich auch gesehen, genau, also bei Heidi Mode.

00:09:31: Die dann aber im Impressum teilweise auch chinesische Firmen in chinesischen Städten angeben, wo man halt weiß, okay, die machen dann im Prinzip so ein Umlabeln von Produkten.

00:09:46: Also eine Sache hatte ich mich frage, weil ich das jetzt auch ... Echt öfter hatte im Freundes- und Familienkreis.

00:09:50: Leute, das Motiv ist oft auch gear.

00:09:54: Irgendwas ist sagenhaft billig.

00:09:56: Ich bestelle es bei dem Shop, weil es ist billig.

00:09:58: Dann sind die vielleicht auch noch dazu mit KI-Betexte, so dass es Deutsch klingt und alles.

00:10:03: Ich frag mich ... Und oft fällt es den Leuten dann auf, wenn das Geld abgebucht ist, weil dann auf einmal eindeutig irgendwie das nach China geschickt wird, das Geld.

00:10:10: Man kann aber doch, wenn man mit Kreditkarte bezahlt, auch das Geld einfach zurückholen.

00:10:14: Was passiert dann?

00:10:15: Also geschickt in den Gerichtsvollzieher aus China?

00:10:17: Ist das nicht vielleicht die Lösung?

00:10:18: Also solche Fragen, wenn du da mal reinschauen könntest, das mal rauskriegen könntest, dann haben wir da Verbraucherzentrale reichen.

00:10:26: Was mache ich, wenn ich bei so einem Shop bestellt habe und ich will das Produkt nicht haben und ich kann es aber, aber keine Lust ist, nach China zurückzuschicken?

00:10:34: Also ich meine, mir fällt das auch sehr oft auf.

00:10:35: bei Amazon zum Beispiel, werden ja inzwischen auch sehr viele Produkte angeboten von chinesischen Firmen, wo ich dann halt immer denke, okay, wenn ich das jetzt bestelle, die Frage ist halt, kann ich das jemals irgendwie zurückschicken, ja?

00:10:51: Das greift ja um sich, das auch so etablierte Plattformen.

00:10:55: Also wie so ein Verkäuferplattformen werden.

00:10:56: Auch bei Zerlanuts zum Beispiel.

00:10:58: Jetzt kommt der überall her, der Kram.

00:11:00: Also

00:11:00: ich hab's auch bei deutschen Shops gesehen, wo man denkt, Otto oder Sportjack, wo man denkt, das ist eine deutsche Firma, aber die Verkäufer sind Hins- und Kunst.

00:11:09: Und ich weiß es nicht, vielleicht haben die auch eine Qualitätskontrolle.

00:11:12: Das wäre auch mal interessant zu wissen, weil das wäre ja dann was, was vielleicht so ein Shop mal auszahlen würde.

00:11:15: Man sagt, hier kannst du bedenkenlos auch bei anderen Verkäuferinnen bestellen, weil die sind zumindest überprüft und du musst eben ... Also eigentlich, wenn die kostenlos zurück schicken können, ist was, was auch relevant ist.

00:11:28: Das ist was, was ich oft noch

00:11:30: mal alles schaue.

00:11:31: Ich glaube, es ist auf gültiges Recht, tatsächlich, also in Deutschland, innerhalb von vierzehn Tagen, zurück schicken.

00:11:36: Aber ich glaube nicht kostenlos...

00:11:38: Ja, aber Porto,

00:11:38: genau.

00:11:39: Der

00:11:39: Begriff kostenlos hat schon auch eine Bedeutung gehabt.

00:11:42: Ja, ja, ja, ja.

00:11:42: Man darf alles zurück schicken.

00:11:44: Aber, hu, nach China haben fünfzehn Euro, wo du die Adresse noch nicht mal auspaket schreiben kannst.

00:11:49: Ich dachte dann, wenn das nicht ankommt, wer weiß.

00:11:52: Einmal was nach China geschickt, aus beruflichen Gründen.

00:11:56: Das hat ewig gedauert.

00:11:58: Das hat einfach fünf Wochen allein diesen Zettel auszufüllen.

00:12:02: Das war schon mit Zoll und nicht Zoll und sich irgendwie mit so was zu beschäftigen.

00:12:07: Das war schon so eine Leistung, dass ich jetzt auch in dem Fall von diesem Katzenkörbchen oder wenn du die halt eine Thermolaggings bestellst, dann denkst du dir halt, okay, ja doof, dumm gelaufen, schlechte Qualität, was soll's?

00:12:20: Ja.

00:12:21: Ich mein, wenn's um sieben Euro geht, dann ist es halt so.

00:12:23: Aber das ist wahrscheinlich auch das Geschäftsmodell.

00:12:25: Ja,

00:12:25: welcher auch.

00:12:27: dass die denken, es geht schon auf, wird dann vielleicht nicht zurückgeschickt.

00:12:31: Leute geben einfach auf, wegen sieben Euro machst du dann auch nicht groß rum und riskierst das doch noch irgendwann ein Gerichtsvollzieher kommt oder was.

00:12:38: Also, teilt

00:12:40: mit uns eure Alltags-Shopping-Stories und wir schauen mal, ob wir da entweder was Größeres aufsetzen oder ob wir nächstes Mal einfach ein paar Antworten auf Fragen liefern können.

00:12:51: Wir freuen uns drauf.

00:12:53: Ich bin so gespannt.

00:12:54: Das ist doch wirklich mal richtig.

00:12:56: Lebenshilfe vor Weihnachten.

00:13:00: Shoppen

00:13:01: kochen und ... Spionage und KI-Agenten aus China.

00:13:04: Eva Duas

00:13:05: ist sehr

00:13:07: schön angeteasert und mich sehr neugierig gemacht, weil ich kenne natürlich deine Bedenken, die du auch hier regelmäßig teilst, was eben KI-Einsatz im Kontext von Unternehmen angeht.

00:13:19: Aber erzähl mal, was ist das für ein konkreter Fall?

00:13:23: Ich habe davon tatsächlich noch nichts gehört, erzähl mal.

00:13:26: Also, Entropic hat ein Bericht rausgegeben, Ende vergangen aber sogar schon.

00:13:30: Kann man

00:13:31: den verlinken?

00:13:31: Genau, verlinken auf jeden Fall.

00:13:33: Das erste Mal in der Geschichte wurde, haben sie quasi aufgedeckt, dass ein Nation-State-Actor, also ein Geheimdienst staatliche Spione, in dem Fall aus China, KI-Agenten nutzen, um automatisierte Spionage-Angriffe zu fahren, also laut Entropic.

00:13:49: Da kann man gleich den Disclaimer sagen, man kann das alles nicht überprüfen, das ist von Entropic geschrieben, aber es gibt keinerlei Quellen, denen ich nachschauen könnte, ob das wirklich alles so war.

00:13:58: Aber sie sagen, achtzig Prozent dieser Angriffe sei automatisiert erfolgt und es waren, ich glaube, zwanzig, dreißig Organisationen, auch Behörden darunter, auch die werden aber nicht genannt.

00:14:07: Gute kann man sagen aus gutem Grund vielleicht nicht, aber auch das lässt sich natürlich nicht überprüfen.

00:14:11: Aber ein Shopping schreibt eben, es war ein großem Stil, hat der chinesische Geheimdienst Spionage-Angriffe gefahren und dafür eben Claude ... genutzt, und zwar Claude Code, also der KI-Assistent, der auch Coden kann von Entropic, und zwar für alle, also für die ganze Kette von Angriff angefangen von der Recherche, also welche Unternehmen haben vielleicht Sicherheitslücken und welche, was haben die, lohnt es sich?

00:14:37: dann die Schwachstellen identifizieren, diese Unternehmen haben wir durch, die man eindringen könnte, dann hat Claude auch wohl automatisiert Zugangsdaten und so Zeug rausgeholt aus diesen Unternehmenorganisationen und halt geguckt, was man mit diesen Zugangsdaten machen kann und dann Daten gesammelt und das Ganze dokumentiert, also wohl den Angreiferinnen zurückgeschickt.

00:14:59: Und das ist schon ... Das erste Mal würde ich auch sagen, dass ich höre, dass so ein Angriff in the wild durchgeführt worden ist, also dass tatsächlich ein großem Stil oder auch eine ausgefeilte Angriff.

00:15:13: weitgehend automatisiert stattgefunden hat.

00:15:15: Natürlich waren die Menschen beteiligt.

00:15:16: Man muss dem System, man muss prompten.

00:15:20: Das hat man wohl auch in dem Angriff gesehen.

00:15:22: Man muss mit den Herausforderungen umgehen, die KI so hat, also allen voran.

00:15:26: Das ist eine gute Sache, Filter und Regeln, die Anthropic versucht, seinen Modellen mitzugeben, dass sie nicht als Hecker agieren dürfen.

00:15:34: Weißt du, woher die das eigentlich wissen, Anthropic?

00:15:38: Haben die da irgendwas dazu geschrieben?

00:15:41: Überwachen die ... Monitoren, die intern wofür ihre Agenten eingesetzt werden?

00:15:47: Also konnten die es quasi von hinten aus dem System sehen?

00:15:50: Oder wie ist das rausgekommen?

00:15:51: Das finde ich...

00:15:53: Also ich glaube so eine Mischung.

00:15:54: Teilweise kann man natürlich sehen, von welchen IP-Adressen Sachen angefragt werden.

00:15:57: Da waren dann nur welche Bekannte dabei.

00:16:00: Die werden aber auch natürlich irgendwie autonom überwachen, was so gemacht wird mit ihren Systemen.

00:16:06: Also mal, ja... Ohne das zu wissen, aber so stelle ich es mir technisch vor, dass man dafür auch wiederum ein KI-System nutzen kann, also eher so eine predictive AI, die vielleicht auswertet, welche Prompts, welche Begriffe kommen denn hier vor.

00:16:22: Wo ist auf einmal in großem Stil?

00:16:23: Vielleicht wird auch wo wird in großem Stil immer die gleiche Tätigkeit angefordert?

00:16:28: Also so könnte ich mir vorstellen, dass man sowas überwachen kann.

00:16:31: Denke ich,

00:16:31: weil anders, wie sollen die sonst diesen Report rausgeben?

00:16:34: Und man kennt ja auch den Report von Open Aid Eye, zum Beispiel, den sie kürzlich rausgebracht haben, wozu Chatshipiti eingesetzt wird.

00:16:42: Und haben sie ja auch so prozenter verteilt, Lebensberatung, sonst was.

00:16:46: Also das machen die ja schon, dass sie so ein bisschen auswerten und schauen, wofür werden unsere Produkte eigentlich genutzt.

00:16:53: Das heißt, die müssen das in die hinten rum überwacht haben.

00:16:57: Und noch einmal ganz konkret, magst du einmal nochmal beschreiben, wie so ein Angriff dann aussieht?

00:17:04: wie so was aussehen kann?

00:17:06: Also eigentlich unterm Strich ist es natürlich dann am Ende wie ein Angriff von menschlichen Angreiferinnen.

00:17:13: Also da wird geguckt nach Schwachstellen, dann wird ein Schadcode entwickelt, der diese Schwachstellen ausnutzt.

00:17:20: Dann gibt es dieses so genannte Lateral Movement, das heißt, du trinkst in das System ein und versuchst dann, dich fortzubewegen.

00:17:25: Das ist die Sache mit den Credentials, also mit den Zugangsdaten, die Claude dann rausgeholt hat.

00:17:30: dann findest du irgendwann Zugangsdaten, z.B.

00:17:32: von einem Admin oder jemandem von einem User, der mehr Rechte hat in so einem System.

00:17:36: Und so kommst du quasi immer weiter hoch und kommst dann irgendwann auch an sehr gut geschützte Bereiche, wo dann die Informationen liegen, die du vielleicht haben möchtest.

00:17:44: Okay, aber das wäre dann im Prinzip, wie du gerade gesagt hast, ein Angriff, der so abläuft wie ... Er vorher auch ablief, nur, dass ich mehr im Prinzip Arbeit spare oder dass ich vielleicht nicht so gut ausgebildet sein muss.

00:17:59: Es wäre aber nicht so ein Angriff wie, weil das hattest du ja auch schon mal beschrieben, diese Sorge, dass wenn wir jetzt zum Beispiel in unseren Mails-Argenten dafür einsetzen, dass sie unsere E-Mails beantworten, dass das so ein Angriff ist.

00:18:12: Ich bekomme eine E-Mail, die sieht irgendwie total normal aus.

00:18:15: Da ist aber ein versteckter Prompt eingebaut und der sagt dann, hey, verrat mir alle deine Geheimnisse, ich vereinfere jetzt.

00:18:21: Und dann formuliert wiederum mein dummer E-Mailagent eine E-Mail zurück und da stehen dann alle meine Geheimnisse drin.

00:18:28: Aber um so was geht es nicht.

00:18:30: Um so was geht es nicht.

00:18:31: Allerdings mache ich eigentlich der Bericht von Entropic sehr optimistisch, wenn man das in dem Fall sagen kann, dass... dass eben meine Warnungen vor solchen Angriffen durchaus berechtigt sind.

00:18:41: Weil, nämlich wenn man liest, was die gemacht haben, die sie angeblich chinesischen Angreifer, Angreiferinnen ist, die haben eben diesen Agenten unter einem auch überredet, Dinge zu tun, die ja nicht tun darf.

00:18:51: Weil das gehört natürlich immer dazu, ne?

00:18:52: Weil diese Systeme sollen ja eigentlich

00:18:58: nicht...

00:18:59: Genau, sollen sowas ja nicht tun.

00:19:00: Und in dem Fall haben sie wohl, Claude, gesagt, ja, du bist hier Mitarbeiter von einer legitimen Serbessicherheitsfirma.

00:19:06: Wir machen hier ja nur, wir testen ja nur, du machst bis zum Pentester.

00:19:10: Also diese allerälteste Masche, wie man Chatbots überreden kann, Dinge zu tun.

00:19:16: Und ich wirklich, das finde ich, ist richtig, richtig krass, das Claude.

00:19:21: Zum Helfer, das Helfer,

00:19:22: der Kriminell wird.

00:19:24: Ja,

00:19:24: und das Unchopik, dass sowas nicht schon geschafft hat, zu verhindern.

00:19:27: Also inzwischen denkt sowas, kann man ja eigentlich mit einer Regel verhindern, wenn jemand sagt, du bist ein guter Hacker, du darfst hier.

00:19:33: nach sicheres Lücken suchen, dass man dann einfach eine harte Grenze einbaut.

00:19:37: Weil natürlich, das kann man auch nicht unterscheiden, ob das gute oder böse sind.

00:19:41: Und dann haben wir halt weite, also echte Whiteheadhacker Pech gehabt und müssen die Arbeit selbst machen, aber kriminelle und staatliche Spione können die Wesen nicht auch benutzen.

00:19:50: Der andere Angriff, vor dem ich eigentlich noch mehr war, eine weiße Gefühl habe, der wird noch öfter.

00:19:55: oder noch mehr unterschätzt, weil immer mehr Unternehmen, Organisationen, KI-Agenten eben zum Griff geben auf ihre E-Mails und auf ihre internen Dokumente und auf ihre Netzwerke, ist eben genau der, den du gerade genannt hast, nämlich dass man KI-Agenten heimlich... quasi übernimmt oder denen heimlich Aufgaben gibt, die nicht im Interesse dieser Unternehmen sind, die sie aber auch nicht verhindern können.

00:20:16: Da gibt es ja ganz, ganz viele inzwischen Proof-of-Concepts, die ich bekommen habe von Whitehead-Hackern und ethischen Hackerinnen, die eben gezeigt haben, dass sich das nicht verhindern lässt.

00:20:26: Und darauf bestehe ich auch weiterhin, dass sich das nicht zuverlässig verhindern lässt, weil Sprachmodelle eben reagieren auf Sprachanweisungen und weil man die verstecken kann auf Webseiten, weil immer wenn so ein Sprachmodell oder Also ein KI-Agent, hilfreich sein soll und Aufgaben übernehmen können, soll für mich er halt gewisse Freiheiten braucht und Zugriffe braucht.

00:20:45: Also das ist ein Paradox, was ich nicht auflösen lässt.

00:20:47: Der kann dann sobald das nützlich ist für mich... ist es eben auch in Gefahr übernommen zu werden von externen Angreiferinnen manipuliert zu werden und so weiter.

00:20:55: Und warum man sowas nicht liest von den großen KI-Unternehmen, ist natürlich auch, weil das nicht so positiv ist für sie, ne?

00:21:02: Weil sie damit zugeben müssen, ja, unsere KI-Agenten, die sind bei default unsicher und wir können das nicht verhindern.

00:21:10: Und das ist, glaube ich, der Unterschied zu dem jetzigen Fall, warum Entshopik auch tatsächlich den Groß rausgebracht hat und da auch selbst überall Nouns-Touch, guck mal, wie cool wir haben das rausgefunden, dass sie eben bei diesem Fall sagen können, schaut, wie cool wir sind und unsere Sicherheitsforschung.

00:21:24: Wir haben entdeckt, dass der chinesische Geheimdienst unsere Systeme hier missbraucht.

00:21:29: Weil es eben nicht der Fall war, der natürlich für ein Shopping viel bedrohlicher wäre, wo man belegen kann, dass KI-Agenten tatsächlich, so wie es eben schon viele Sicherheitsforscherinnen tatsächlich belegt haben und gezeigt haben, dass man KI-Agenten fernsteuern kann, sobald sie nützlich sind.

00:21:45: Auf solche Berichte warte ich noch, wenn ihr so einen da draußen seht.

00:21:49: Also von einem Vorfall in the wild.

00:21:51: Ja.

00:21:52: Spannend.

00:21:53: Sehr spannend.

00:21:53: Ja, vielen Dank.

00:21:55: Ich bleibe da hin.

00:21:57: Suche weiterhin solche Fälle.

00:21:59: Und werde in dem Fall weiterhin schwarz malen.

00:22:01: Oder auch nicht.

00:22:02: Also es ist ja nur Realismus, ehrlich gesagt.

00:22:03: Das ist ja keine Chance.

00:22:04: Ja,

00:22:04: und ich denke, wir haben natürlich auch auf der anderen Seite KI, die eingesetzt wird, um zum Beispiel Anomalien zu finden.

00:22:12: Also ich denke, das ist ja immer ein Wetter.

00:22:17: Rennen zwischen Katzen und Maus.

00:22:18: und ich denke auch dieses Problem oder Thema, dass Chatbots auch für problematische Zwecke eingesetzt werden können.

00:22:27: Das gab es von Anfang an.

00:22:28: So ein Stichwort Bombe bauen oder sowas.

00:22:31: wird es auch immer noch geben.

00:22:32: Also das

00:22:33: geht ja nicht nur

00:22:35: mal bei Bereichen auch in der physischen Welt.

00:22:37: Und am Ende kann man sich davor schützen, indem man eben die Systeme, die eigenen Systeme sichert, selbst Pentesting macht, seriöse Pentester-Innenbeauftragte.

00:22:45: Und diese Lücken eben findet, bevor irgendein KI-Agent daherkommt.

00:22:48: Also von daher genau.

00:22:49: Ich

00:22:49: bin da auch so zwiegespalten, weil ich denke mir auch, mit einem Messer kannst du jemanden töten.

00:22:55: Also es ist sehr oft so, dass wir Werkzeuge haben in der hechten Welt, aber auch in der virtuellen... in der digitalen Welt und Werkzeuge Anwendung haben, die man auch für, natürlich sehe ich auch eine Verantwortung bei den Firmen und bei den Unternehmen, alles zu tun, was in ihrer Macht steht, um solche Sachen auch einzugrenzen.

00:23:14: Und manchmal hat man ja auch gerade das Gefühl, dass Dinge eben nicht eingegrenzt werden, weil das eben wie dann das Business Model gefährden würde.

00:23:22: Das sehen wir ja gerade so auch in dem Bereich, so Schutz von Kindern und Jugendlichen bei Chatbots, auch bei sozialen Medien und so weiter.

00:23:30: Aber auf der anderen Seite denke ich auch, ist es so ein bisschen so, man kann, dann ein Messer wird dann irgendwann auch stumpf, ja?

00:23:38: Also dann kann man es halt auch irgendwann nicht mehr benutzen, wenn man sagt, okay, wir machen alles weg, man kann jetzt nichts mehr damit machen.

00:23:46: Ja

00:23:46: klar, am Ende ist es natürlich auch eigenvoll.

00:23:48: und wobei ich schon echt sagen muss, ich finde, der Vergleich mit dem Messer hinkt noch so ein bisschen, weil bei einem Messer ist uns ein... bekannt und bewusst, dass man damit auch jemand verletzen kann.

00:23:57: Bei KI-Agenten finde ich, überragt gerade der Hype und das Marketing das Problembewusstsein.

00:24:03: Und viele Organisationen sind sich nicht im Klaren darüber, was die Gefahren sind.

00:24:07: Und nutzen diese Agenten auf eine naive Art und Weise, weil eben auch der Nutzen gehypt wird.

00:24:13: Also, wenn man sich mal real überlegt, was haben wir für einen Vorteil davon?

00:24:16: Kommen die ihm ganz viele zu dem Schluss, oh, ja, ehrlich gesagt, am Ende ist das doch vor allem eben so.

00:24:21: AIS-Lob, also so ... dann kommt Zeug raus, was uns eigentlich gar nicht so viel hilft.

00:24:25: Und deswegen meine ständig malende Stimme vor den Übersehenden gefahren, die KI-Agenten mit sich bringen.

00:24:32: Und damit sind wir eigentlich schon beim nächsten Thema, nämlich dem Hype oder Doom von AI, aber eher beim Hype.

00:24:40: Weil dafür haben wir Friedrich gekallt heute eingeladen.

00:24:44: Sie ist eine sehr gute Expertin in diesem ganzen Gebiet, macht viele Reports zum Thema KI, schreibt Bücher dazu.

00:24:53: Sehr gute Analysen auch.

00:24:55: Sehr gute Analysen.

00:24:56: Und wir haben sie gebeten, uns die Lage einzuschätzen.

00:24:58: Und zu diesem Gespräch kommen wir gleich.

00:25:10: Heute sprechen wir mit jemanden, deren Arbeit ich und die uns schon lange und auch immer wieder begleitet.

00:25:17: Wir sprechen nämlich gleich mit Friederike Calthoyner.

00:25:21: Friederike hat in Brüssel, London und Berlin gearbeitet, berät Regierungen und NGOs.

00:25:27: Und zwar immer wieder zu der Frage, die die Tech-Konzerne am liebsten vermeiden, nämlich wer profitiert eigentlich davon, wie KI und Daten heute eingesetzt werden.

00:25:39: Und ich schätze ihre Arbeit sehr.

00:25:41: weil sie sich in Reports und Analysen auch immer settet ihr damit auseinandersetzt, Strukturen sichtbar macht, die sonst so leicht durchrutschen.

00:25:51: Auch sowas wie wachsende politische Einflussnahme der großen Konzerne, der Kampf um Rechenzentrum, um Infrastruktur.

00:25:58: Also, da sind ganz viele Aspekte, die sie untersucht.

00:26:03: Und wir sprechen mit ihr heute über diesen digitalen Raum und darüber ... was passiert, wenn wir diese Macht nicht mehr erkennen oder zu spät wissen, wo es eigentlich langgeht und wollen natürlich mit ihr auch diese Frage berühren.

00:26:17: Sind wir eigentlich gerade in einer großen KI-Bubble, oder nicht?

00:26:22: Weil das etwas ist, was uns und auch viele gerade umtreibt.

00:26:26: Deswegen jetzt erst mal herzlich willkommen, Fredrike Kaltoyna.

00:26:29: Schön, dass du da bist.

00:26:32: Hallo.

00:26:33: Hey, schön, dass du da bist.

00:26:34: Willkommen.

00:26:35: Fredrike, du untersuchst immer wieder in deinen Reports das Thema Macht und KI und Einfluss.

00:26:42: Was sind denn so Aspekte, die dir da immer wieder begegnen?

00:26:46: Ich fange mal mit einem Meta-Kommentar an, warum es überhaupt wichtig ist, auf den Markt zu schauen.

00:26:52: Ich habe viele Jahre zu Digitalrechten gearbeitet, also Dinge wie das Recht auf Privatsphäre, das Recht auf Meinungsfreiheit, Diskriminierung.

00:27:01: Und wenn es um neue Technologien geht, haben wir oft die Tendenz eigentlich nur zu diskutieren.

00:27:08: Welche direkten Auswirkungen individuelle Produkte oder Anwendungen haben?

00:27:12: Also sowas wie ist Chat GPT gut oder schlecht für Kinder?

00:27:17: Oder ist Social Media schlecht für die Demokratie?

00:27:22: Und diese Fragen sind extrem wichtig.

00:27:24: Oft sind die gar nicht so einfach zu beantworten, evidenzbasiert.

00:27:28: Aber ich bin irgendwann zu dem Punkt gekommen, wo ich mich gefragt habe.

00:27:32: Auf der einen Seite wird es politisch immer schwieriger über Rechte zu sprechen, das macht sie nicht weniger wichtig, aber ich finde so das Gefühl, das resoniert einfach nicht mehr.

00:27:42: Und auf der anderen Seite, wenn man durch diese Perspektive sich neue Technologien anschaut, kommt man immer an einem Punkt, wo es eigentlich um größere Fragen geht, wo es um die Frage geht, ja, warum existiert denn eigentlich Chat GPT?

00:27:57: Und kam diese Firma aus den Nichts, oder welche Rolle spielt Microsoft und Microsofts Markt macht in der Tatsache, dass JetGBT jetzt so dominiert.

00:28:07: Lass nur so als kleinen Hintergrund, warum diese Fragen so wichtig sind.

00:28:11: Und genau, ich habe letztes Jahr sehr eng mit dem, auch immer noch mit dem AI Now-Institut zusammengearbeitet.

00:28:19: Und die Arbeit fing an, das hat man jetzt schon ganz vergessen, bevor Trump an die Macht kam.

00:28:25: Gab es in Amerika so einen richtigen Momentum, würde man auf Englisch sagen, hinter diesem Thema Marktkonzentration.

00:28:34: John Biden hatte Lina Kahn, die unglaublich tolle Beeindruckung ist, zum Chair der Federal Trade Commission ernannt.

00:28:42: Und ihr explizites Ziel war, und das war auch so Teil der beiden Agenda, die Marktmacht der Tech-Konzerne aufzubrechen.

00:28:50: Und da wurden plötzlich Gedinge gesagt, die so noch nie ausgesprochen wurden.

00:28:54: Der Trade Envoy für die Vereinigten Staaten hat gesagt, die Interessen der Tech-Konzerne sind nicht identisch mit den Interessen der amerikanischen Bevölkerung.

00:29:05: Das ist ja bei ja total neu.

00:29:06: Also wenn man auf alle Jahre, Jahre davor geht, wo man das Gefühl hatte, völlig unregulierte Freiheit, also wo wir in Europa immer wieder gesagt haben, nee, da müssen wir regulieren, aber auch das Gefühl, der Machtlosigkeit hatten, weil die Konzerne eben nicht im Land sitzen.

00:29:22: Und ich bin oft gefragt, warum werden die in den USA nicht reguliert?

00:29:25: Und die Antwort war halt immer, naja, auch Wirtschaftspolitik, das macht einfach keinen Sinn.

00:29:29: Also von daher, damals ja eine echte Trendwende in Sicht eigentlich.

00:29:34: Wobei schon echt spannend ist, als du gerade gesagt hast, das ist ja total neu, ist schon ein bisschen lustig, weil für uns eben das total plausibel ist, dass wir nicht die gleichen Interessen haben, die Bevölkerung wie die Tech-Konzerne.

00:29:46: Und mein Eindruck war, was dem entgegensteht, so ein Verständnis von Liberalität, irgendwie von wegen, man darf da nicht zu viel reinreden.

00:29:55: Aber super interessant, mir war gar nicht klar, dass es dann vielleicht auch für die USA so ein Aufwachen war zu erkennen, die haben andere Interessen.

00:30:03: Genau, und wir schauen in Europa immer in die USA und denken, ach, wir hätten gerne, was es da gibt.

00:30:09: Und vergessen dabei, dass ganz unter, also weniger vielleicht jetzt politisch, aber wirtschaftlich ist es immer noch die Narrativen.

00:30:16: Wir hätten eigentlich gerne diese Tech-Konzerne.

00:30:19: Und das Ziel

00:30:20: hinter, genau, und auch das Ziel hinter dieser Arbeit war zu zeigen, lass uns diese, so eine US-Perspektive, diese Argumente, die gerade in den USA so prominent sind, nach Europa bringen.

00:30:31: Denn, Europa hat es in den letzten zehn Jahren einfach verschlafen, sich mit dem Thema Marktkonzentration auseinanderzusetzen.

00:30:39: Wir haben ganz viele Gesetze verabschiedet, die DSGVO, die niemand mag, aber die trotzdem zumindest das Potenzial gehabt hätte, das Geschäftsmodell dieser Firmen radikal zu verändern.

00:30:51: Wir haben das so verschlafen.

00:30:53: Damit fing die Arbeit an.

00:30:55: Und dann passiert etwas Interessantes.

00:30:57: Letzten Sommer von der Leyen hat ihr neues Kabinett ernannt und hat damit einen Richtungswechsel eingeleutet.

00:31:04: Und zwar hat sie gesagt, regulieren ist jetzt vorbei.

00:31:07: Wir haben hier ernsthafte, exzentielle Probleme.

00:31:10: Der Hauptfokus ist jetzt Industriepolitik.

00:31:14: Wir brauchen Wachstum, wir brauchen Investition.

00:31:18: Und hat quasi eine Strategie vorgelegt, genau.

00:31:21: Draghi, der ehemalige Chef der Europäischen Zentralbank, hat einen Bericht veröffentlicht vorgestellt, der sagt, damit Europa mithalten kann, müssen wir massiv investieren.

00:31:31: Und was interessant war, vor einem Jahr, war die Rolle, die KI in dieser Narrative gespielt hat.

00:31:37: Denn KI, wie ihr beide ja auch leidlich wisst, heißt alles und nichts.

00:31:43: Deshalb eignet sich KI auch super dazu, als KI ist der Grund, warum wir hinterher sind.

00:31:49: KI heißt auch die Hoffnung für Europa.

00:31:51: Es gibt noch eine Hoffnung, dass wir Weltmarktführer sein können.

00:31:55: Das war so die Stimmung.

00:31:56: Weil es ist so, nach dem Motto, alle fangen bei null an jetzt.

00:32:01: Alle können jetzt wieder soziale Medien, Social Networks, Hyperscaler.

00:32:07: Da sind wir alle schon längst raus.

00:32:08: Die Monopole haben da den Markt für sich schon aufgeräumt.

00:32:11: Aber als eben so OpenAI noch neu war, da dachte man, man kann zum Beispiel mit Mistral oder mit Aleph Alpha da noch irgendwie ... mithalten.

00:32:19: in dem

00:32:20: Sinne.

00:32:21: Ich

00:32:23: lache, weil wir ja vor kurzem erst über Aleph Alpha gesprochen haben und so diese Verweiterungskai.

00:32:28: Genau, aber stimmt, als Aleph Alpha neu war, hat man so ein bisschen die Idee gehabt, dass das auf der gleichen Ebene wie OpenAI und wir können damit halten.

00:32:37: Ja, aber auch diese Idee, diese Firma OpenAI.

00:32:41: Wenn man sich auskann, kannte man diese Firma, aber die meisten Menschen, es war kein Name für sie.

00:32:45: Das wirkte so, als wäre ein Start-up aus dem Nichts erschienen.

00:32:50: Und dann denken wir, jetzt, das ist unsere Chance in Europa, das können wir auch.

00:32:54: Und das Spannende an der Arbeit, die das Erinner-Institut macht, ist, dass sie sich nicht nur anschauen, wie konzentriert der Markt ist.

00:33:01: Und das ist sowohl der Markt für Cloud-Infrastruktur, als auch für KI-Modelle ist hochkonzentriert.

00:33:07: Das haben Wettbewerbsbehörden in den USA, in England, in der Europäischen Kommission durch Studien quasi belegt.

00:33:14: Sondern das Argument geht eigentlich noch viel weiter.

00:33:16: Das Argument geht, und das ist aber schwierig zu erklären, aber ich versuche es trotzdem.

00:33:21: Das Argument ist, wir reden gerade über eine sehr eng definierte Definition von KI.

00:33:29: Wir reden ja seit Jahren über KI, aber plötzlich geht es nur noch um eine ganz, ganz spezielle Art ein ganz spezielles Paradigma KI zu entwickeln mit immer mehr Daten mit immer mehr Ressourcen immer größere Modelle zu bauen.

00:33:44: Und die Hoffnung ist das größere Modelle qualitativ besser sind.

00:33:49: Und und da kann sich darüber streiten ob das Marketing ist oder ob was da wirklich hintersteht und diese Idee das genau dieser Fahrt auf dem wir uns befinden KI intelligenter und besser als Menschen.

00:34:02: Das ist das Paradigma in dem wir uns momentan befinden.

00:34:06: Und in diesem sehr eng gefassten KI-Begriff ist es so, dass es extrem schwierig, wenn nicht fast unmöglich ist.

00:34:16: Und da werden sich Zuschauer darüber ärgern, wenn ich das sage.

00:34:18: Aber ist es wirklich so?

00:34:20: Mitzuhalten.

00:34:23: Genau.

00:34:23: Und dann

00:34:23: ganz kurze Frage dieser enge, enge, definitive Begriff.

00:34:27: Da geht es um generative KI, das kommt noch dazu.

00:34:29: Das ist eben nicht mehr um ... Weil vorher war KI ja, und es ist ja immer noch, manchmal ist Lernen, also letztlich Datenauswertung.

00:34:36: Mit Hilfe von digitalen Netzen.

00:34:40: Genau, und jetzt geht es nur noch um generative KI.

00:34:43: Und diese ganze AGI-Debatte wird schlauer als Menschen, fußt ja auch auf der ... aus meiner Warte immer noch irren Idee, dass Systeme, die statistisch Wörter aneinander reinkönnen, wie sie wahrscheinlich aufeinander folgen, eine echte Intelligenz entwickeln können.

00:34:59: Das ist alles eins, oder?

00:35:01: Diese enge Definition, von der du sprichst, betrifft generative KI.

00:35:06: Genau, genau das ist das Argument sogar noch viel enger innerhalb dessen das Transformer Modell Sprach, große Sprachmodelle, wir sagen dann zu einer so large-scale AI, also KI, ganz große KI-Modelle.

00:35:19: Das ist das Paradigma, was gerade alles dominiert.

00:35:22: Und genau, wenn man über KI redet, ist wichtig zu unterscheiden.

00:35:25: Es gibt Anwendung, es gibt Modelle, es gibt die Cloud-Infrastruktur und es gibt die Hardware, die Chips, auf denen all das basiert.

00:35:36: Und wenn man sich den KI-Markt aus dieser Sicht anschaut, wird sehr klar deutlich, wo genau die Konzentration besteht und wo genau das Geld verdient wird.

00:35:46: Der Economist, ich liebe den Economist, was diese Themen angeht, hat vor anderthalb Jahren schon eine ganz tolle Grafik veröffentlicht, in dem er eben zeigt, der Titel war das Thema war so, Who's Getting Rich of the AI Gold Rush?

00:35:59: Also wer wird eigentlich gerade reicht?

00:36:02: Und wenn man sich quasi anschaut, Anwendungen, Modelle, Cloud und Chips.

00:36:08: Das alle, alle, alle.

00:36:09: meiste Geld wird auf der Chips-Ebene verdient.

00:36:12: Der Markt ist hochkonzentriert.

00:36:15: Nur oder fast nur die Firma NVIDIA kann eigentlich diese Chips herstellen, die in der Lage sind, diese Art von KI zu bauen.

00:36:23: Ich korrigiere, das muss ich ganz kurz machen, weil wir vor kurzem zwei, drei Ausgaben über TSMC gesprochen haben und die Chipherstellung.

00:36:30: Aber genau, TSMC in Taiwan produziert die Chips und Nvidia sind diejenigen, die sie designen.

00:36:38: Man kommt an Nvidia nicht vorbei im KI-Bereich und eben auch nicht an TSMC.

00:36:44: Wie du sagst, das Rennen ist verloren, oder?

00:36:48: Bei, was ist mit Zeiss eigentlich?

00:36:50: Als ihr mal so tief einsteigen wollt, aber in der Recherche in Taiwan ist mir immer wieder gesagt worden, Europa spielt ja eine ganz, ganz große Rolle bei der Schiffsproduktion, weil es ASML aus den Nierlanden gibt, also die diese optischen Systeme herstellen, die helfen bei der Belichtung von diesen... Also im Prozess der Chipherstellung muss man ja elektronik belichten, um die aufzubringen, in quasi Atomen, weniger Atom mit den Geschichten und so weiter.

00:37:15: Und da hieß es immer, wir sind noch nicht verloren, weil es gibt ASML in Holland, die machen diese Belichtung.

00:37:20: Und es gibt Zeiss in Deutschland, die stellen wiederum für ASML bestimmte Optiken her.

00:37:25: Und das ist unser Anteil.

00:37:26: Aber da wird vermutlich nicht das große... Ein Scheibchen

00:37:29: wahrscheinlich.

00:37:30: Ein Scheibchen vom

00:37:31: Kuchen.

00:37:33: Aber vielleicht noch mal.

00:37:34: die Cloud-Ebene ist noch eigentlich noch viel spannender, aber noch mal einen Schritt zurück zu gehen zu dieser Chips-Ebene.

00:37:41: Es geht ja nicht um KI als solche.

00:37:43: In dieser sehr eng definierten Ansatz, immer größere Modelle zu bauen, ist man auf eine sehr spezielle Art von Chips angewiesen.

00:37:54: und in diesem Paradigme ist entweder so.

00:37:58: Ja, mächtig.

00:37:58: Ich glaube, das ist der wichtige Kontext.

00:38:03: Dann schauen wir uns die Cloud eben an.

00:38:06: Man braucht Rechenzentren nicht nur, um Modelle zu entwickeln, sondern da gibt es auch europäische Alternativen.

00:38:13: Mystery-Modelle wurden, ich bin mir mal nicht sicher, ob unter anderem oder exklusiv, aber öffentliche Rechenzentren haben eine wichtige Rolle gespielt in der Entwicklung der Modelle, die Mystery, zum Beispiel die französische KI-Form anbietet.

00:38:26: Das entwickeln ist aber nur das eine.

00:38:28: Wenn man diese Modelle in großen Stil nutzt, braucht es wieder enorme Rechenkapazität.

00:38:34: Und diese Art von Kapazität, das nennt sich Inference of English, für diese Kapazität ist man dann wieder auf die sogenannten Hyperscaler, die dominanten Cloud Anbieter angewiesen.

00:38:46: Und das quasi so in diesem und wenn man sich anschaut OpenAI, wenn wir jetzt gehen, wir hatten Chips, wir hatten Cloud, jetzt kommen die Modelle und dann die Anwendung.

00:38:55: Wenn man sich die Modellanbieter anschaut, OpenAI macht keinen Gewinn.

00:39:00: Weil nicht nur das entwickeln der Modelle, da gibt es Alternativen, das kann man auch mittlerweile günstiger machen.

00:39:08: Aber die Anwendung ist so teuer, dass es sich unter dem Geschäftsmodell, die bis jetzt entwickelt wurden, eigentlich nicht rechnet.

00:39:17: Oder eigentlich, es rechnet sich nicht.

00:39:19: Die Firma hat... Billiarden Verluste gemacht, allein im letzten Quartal, wo aber das Geld verdient wird, ist auch der Cloud und Ship Infrastruktur Ebene.

00:39:29: Und dann oben drauf, wenn wir bei KI Startups reden, manche sind dann auch einfach Anwendungen, die benutzen dann quasi OpenAI Modelle oder die benutzen bekannte Modelle und bauen darauf eine Anwendung.

00:39:40: Das ist auch Innovation, das ist auch spannend.

00:39:43: Aber als nachhaltiges Geschäftsmodell ist es natürlich sehr prekär, weil wenn auf der Ebene darunter Dinge geändert werden, das Preismodell geändert wird, ist plötzlich das ganze Geschäftsmodell so ein bisschen in Frage gestellt.

00:39:56: Das ist dieser Markt.

00:39:57: und dazu kommt auch noch, das ist nicht nur eine Horizonteur, sondern auch eine vertikale Integration.

00:40:05: Die Cloud-Anbieter... investieren auch zunehmend in modell anbieter etc.

00:40:10: so dass es quasi so ist in der praxis wenn man in diesem modell wenn man in diesem kontext mithalten möchte was auch der aleff alpha der ehemalige aleff alpha chef gesagt hat.

00:40:25: So, genau.

00:40:25: Nur so ganz grob zusammen.

00:40:27: Ja, also so, so ist es ein Google,

00:40:28: es macht Gemini, ne?

00:40:30: Also da hast du dann eine vertikale, horizontale Konzentration Google mit Gemini, dann Microsoft eben mit OpenAI verbandelt, ne?

00:40:38: Also jeder, jeder Cloud-Anbieter hat sein eigenes Modell.

00:40:42: Und jetzt finde ich die spannende Frage, die uns ja aktuell umtreibt und die viele auch umtreibt, ist ja dieses, kann das für immer so weitergehen, ja?

00:40:50: Also so Stichwort, ist es eine Blase, wann platzt die Blase?

00:40:54: eben schon angedeutet.

00:40:56: Es wird mit den Modellen selbst kein Gewinn gemacht, ganz im Gegenteil, es werden hohe Verluste gemacht und es gab jetzt diesen, es gab jetzt was bekannt wurde, hat auch schon wieder zurückgenommen, Sam Altman, der gesagt haben soll, ja.

00:41:10: sind wir jetzt zu big to fail und man könnte doch schon mal, das war das, so Staatskredite im Hintergrund zu bereitlegen, falls es dann doch nicht so, also falls diese ganze Wette nicht aufgeht, ja.

00:41:23: Und das war nicht, war so ein sehr interessantes Momentum, weil es halt noch mal stärker in die Debatte reingegeben hat, dass das vielleicht alles eine Fantasy ist, der wir hier hinterher hängen.

00:41:35: Eva glaubt sowieso,

00:41:35: aber... Aber was ist denn die Wette?

00:41:37: Also AGI wird ja auch nicht das Geld... auf einmal auftreiben und MEI bezahlen.

00:41:42: Also was ist die Wette?

00:41:43: Ist die Wette einfach irgendwann realistischen Betrag zu verlangen für die Nutzung von Chatbots und großen Sprachmodellen?

00:41:52: Also ist das die Wette?

00:41:53: Und was ist denn eigentlich die Wette?

00:41:54: Weil dieses ADI-Ding ist doch eigentlich auch nur Marketing, aber es wird uns ja nicht retten.

00:41:59: Also es wird eh nicht kommen, würde ich sagen, aber es wird uns selbst wenn es kommt, doch auch nicht retten.

00:42:05: Als erstmals die Frage, ist es eine Blase?

00:42:07: So natürlich ist es eine Blase und zwar Ich glaube letztes Jahr im Sommer hat Goldman Sachs gewarnt, dass es eine Blase ist.

00:42:14: Vor einem Jahr hat das Editorial Board der Financial Times geschrieben, dass es eine Blase, denn es gibt zunehmend so selbst referenzielle Deals zwischen sogenannten Neocloud Anbietern, die sich Geld von Nvidia, also die mit Nvidia Deals machen und die Finanzierung bekommen sie, indem sie Nvidia Chips kaufen etc.

00:42:34: Also da gibt es Dynamiken, das ist nicht meine Expertise, aber da gibt es Dynamiken, die ja.

00:42:39: für Finanzexperten sehr an Zeiten der Finanzkrise erinnern.

00:42:44: Super

00:42:44: spannend, kurzer Reminder an mich selbst.

00:42:46: Und uns irgendwie, die Telekom macht ein großes Rechenzentrum mit Nvidia in München, haben wir das mal drüber gesprochen.

00:42:53: Das ist eventuell ein ähnliches Ding.

00:42:55: Wir haben uns gefragt, zahlt Nvidia da wirklich was dafür?

00:42:58: Aber selbst wenn sie was dafür bezahlen, hat Nvidia einen eigenen Interesse daran, weil sie gleichzeitig ihre Chips auch dahin verkaufen.

00:43:03: Also kommen wir gerade vor wie ein ähnliches Muster.

00:43:06: Sorry, für die Unterbrechung wollte ich zumindest kurz mal.

00:43:09: Einwerfen.

00:43:09: Genau.

00:43:10: Nvidia hat natürlich einen Interesse daran, dass die Cloud diversifiziert wird, weil sie mehr Kunden haben.

00:43:18: Deswegen setzt Nvidia ganz stark auf auch souveräne KI-Ansätze.

00:43:23: Ah,

00:43:24: die verkaufen, also die nehmen den Marketingbegriff souveräne KI, um sich selbst breiter aufzustellen.

00:43:31: Ich habe mich gefragt, was ist eigentlich daran souveräne?

00:43:33: Aber eher gut interessant.

00:43:34: Es ist halt doch einfach Marketing.

00:43:38: Aber genau, was ist eine Blase?

00:43:40: Die Börse, die großen Tech-Konzerne dominieren die Börsenpreise.

00:43:44: Wenn deren Werte sinken, hat das einen Effekt auch die Börse.

00:43:47: So der eine hinweist.

00:43:48: Der andere ist, es gab jetzt Zahlen, die US-Wirtschaft wäre ohne die Investitionen in Rechenzentren nicht gewachsen in den letzten Jahren.

00:43:57: Das heißt, diese KI-Investitionen sind das Wirtschaftswachstum im Endeffekt.

00:44:03: Und der Economist hat auch ausgerechnet, Also die großen US-Tech-Formen haben vierhundert Milliarden in KI-Infrastruktur investiert.

00:44:10: Dieses Jahr ...

00:44:11: Was für eine Zahl.

00:44:12: ... bis ...

00:44:12: oder ... Ja, wahnsinnige Summen.

00:44:14: Das kann man sich gar nicht vorstellen.

00:44:16: Bis zur Schätzung des Economists.

00:44:18: Die Hälfte dieser Investitionen, falls diese Glase platzt, bis zu der Hälfte dieser Infrastruktur nutzlos.

00:44:26: Denn diese Infrastruktur, das ist nicht so, dass wir

00:44:28: gerade

00:44:29: Straßen bauen oder Schienen bauen.

00:44:31: die dann auch für was anderes genutzt werden können, sondern diese sehr spezialisierten Rechenzentren sind dann nicht wirklich für was anderes nutzbar.

00:44:40: Und diese Ships, genau, entwerten sich so schnell, dass das auch keine nachhaltige Investition ist.

00:44:45: Also großes Glas im Territorium.

00:44:47: Die spannende Frage ist aber, warum platzt die Glase nicht oder warum ist die noch nicht geplatzt, wenn doch seit mehr als einem Jahr alle darüber reden.

00:44:57: Genau, da gibt es unterschiedliche Erklärungen.

00:44:59: Auf der einen Seite ist natürlich, niemand weiß, wann Blasen platzen.

00:45:02: Das weiß einfach niemand.

00:45:03: und selbst wenn man weiß, dass es eine Blase ist, gibt es ja immer noch sehr viel Geld zu verdienen.

00:45:07: Das macht es so, wie man kann das vorher sagen.

00:45:10: Naja, und auch die Technologie entwickelt sich halt rasant weiter.

00:45:16: Also es gibt ja auch immer wieder neue Entwicklungen, die da reinstoßen und wo dann Anwendungen kreiert werden, die teilweise heute schon oder auch teilweise absehbar, wirtschaftlich oder gesellschaftlich relevant sind oder werden.

00:45:32: Also ich weiß nicht, ich habe beschäftigt mal so mit dem Stichwort Krebsforschung, also Krebsthematik und da gibt es ja auch spannende Ergebnisse, die dann mit KI erzielt werden.

00:45:43: Von daher.

00:45:43: Und dann, denke ich, haben wir eine ungeheure politische Rückendeckung, weil Regierungen investieren ja massiv.

00:45:49: Ich fand, das hat man jetzt auch wieder gesehen.

00:45:51: Wir hatten da schon mal gesprochen über die Ankündigung von Google in Deutschland, fünf Komma fünf Milliarden zu investieren in ein neues Rechenzentrum.

00:45:59: Der zahlt jetzt Deutschland sozusagen nichts davon, aber das, das überhaupt klappt.

00:46:03: Also da werden ja gerade einfach auch Hebel in Bewegung gesetzt.

00:46:07: Von daher, denke ich, das schürt im Prinzip, das zahlt alles noch in die Bubble rein.

00:46:12: Aber ich glaube, da würde ich ein bisschen gegenhalten.

00:46:14: Diese Idee, KI wird immer besser und das wird bestimmt ganz viele Gewinne abwerfen.

00:46:19: Das ist die Spekulation.

00:46:22: Und diese Firmen sagen, seit Jahren erzählt uns auch, dass sie Krebs reihen möchten.

00:46:27: Jetzt, wo die Dummern immer härter werden, geht es darum, Open AI möchte jetzt Erotika anbieten und Werbung in den Chatbond integrieren.

00:46:37: Also so, ich bin wirklich nicht Antikais.

00:46:40: Es ist nur so, diese Sprachmodelle haben einen enormen Nutzen, aber wirklich nur für sehr eng gefasste Probleme.

00:46:47: Und es gab noch mal eine Studie vom MIT.

00:46:51: Wochende, ich weiß nicht mehr, wann es war, die nochmal gezeigt hat, dass für den neunzig Prozent der Firmen nicht so richtig wissen, was sie eigentlich damit anfangen sollen.

00:46:58: Also so Dinge wie so administrative Aufgaben zusammenfassen, wie wir ja auch alle selber die Technologie nutzen.

00:47:05: Super nützlich, aber diese schlechten Dinge wie diese sogenannten Hallezinationen.

00:47:12: Das sind Inherenteprobleme.

00:47:14: Die lassen

00:47:14: sich nicht weg.

00:47:14: In der Natur der Chatbots gehen nicht weg.

00:47:16: Genau.

00:47:17: Ich finde das so abgefahren, weil das Versprechen von Anfang an ist, wir kriegen das schon in Griff.

00:47:22: Aber es kann ja gar nicht sein.

00:47:24: Die funktionieren ja genau so, dass sie eben nicht sinnvolle Dinge einandereien, sondern statistische Wahrscheinlichkeiten.

00:47:29: Und so, ja, alles, was die machen, ist halt nur meistens, hat man das Glück, dass es in einem von den Sinnvollen zusammenkommt, aber eben nicht immer.

00:47:38: Das finde ich wirklich interessant, wie das die Firmen geschafft haben, so lange.

00:47:42: zu behaupten, wir schaffen das schon.

00:47:43: Das geht weg, obwohl ja eigentlich alle wissen, dass es gar nicht weggehen kann, weil sie Natur der Chatbots ist, zu hallucinieren.

00:47:50: Ich glaube ja, dass auch FOMO ein Riesenfaktor ist.

00:47:53: Also warum?

00:47:54: Weil wir ja gerade darüber sprechen, warum platzt die Bubble nicht, obwohl es schon seit Monaten Warnung gibt und ich schon auch.

00:48:02: viele Firmen investieren ja immer noch, auch in KI.

00:48:06: Auch wenn der Nutzen nicht ganz klar ist, auch wenn die Produktivität nicht das hält, was man sich mal versprochen hat.

00:48:12: Weil es eben doch diesen Gedanken gibt, wenn wir jetzt nicht investieren, dann verlieren wir später.

00:48:16: Also, ich glaube ich auch, dass FOMO hält Geld.

00:48:19: im System.

00:48:21: Und nochmal diesen Punkt in Erinnerungsrufen.

00:48:24: Es geht wirklich jetzt nur in dieser Blase um diese ganz enge Definition von KI.

00:48:29: Man kann alle wirklich in anderen Dingen machen, aber das ist nicht die Glase, die wir gerade sehen.

00:48:34: Aber genau.

00:48:35: Und diese viel wichtige Frage ist, also warum platzt die Glase nicht?

00:48:38: Es ist natürlich so, dass vielleicht ein gutes Beispiel, man kann alle möglichen interessanten Anwendungen bauen.

00:48:46: Wenn sich aber eine Firma wie Microsoft dazu entschließt, die einfach schon im Office mit einzubieten, hat man keine Chance.

00:48:54: Denn die haben ja jetzt schon eine dominante Marktposition in bestimmten Segmenten.

00:49:00: Und dasselbe gilt für Google und Facebook.

00:49:02: Das stimmt bei Google,

00:49:03: Meta und Amazon.

00:49:05: Also es gibt Firmen, wenn diese Blase platzt, werden Firmen Geld verlieren, aber es gibt doch welche, die sich so positioniert haben.

00:49:14: Die haben erstens viel Geld auf ihren Cash Reserven bezahlt, erst jetzt kommen diese wirklich hoch spekulativen Investitionen, die sehen wir erst vor allem in diesem Jahr.

00:49:24: Genau, und da gibt es einfach Player, die durch ihre Dominanz eigentlich quasi ist geschafft haben durch diesen Hype, ihre Marktdominanz.

00:49:34: noch weiter zu zementieren.

00:49:35: Und eine ganz wichtige Rolle spielen da vor allen Dingen in den USA.

00:49:39: Diese Narrative, genau KI ist nationale Sicherheit.

00:49:42: Wenn wir das nicht machen, macht China das.

00:49:44: Wir brauchen jetzt Aufträge von der Regierung.

00:49:47: Genau, da passieren Dinge in den USA gerade.

00:49:49: Die Sozialversicherung wird jetzt mit KI ausgezahlt.

00:49:52: Dinge, von denen wir wissen, dass KI das nicht

00:49:54: kann.

00:49:55: Aber trotzdem ist das eine Möglichkeit, sich langfristig abzusichern durch quasi langfristige Aufträge.

00:50:01: Viel interessanter ist aber eigentlich ja die Frage,

00:50:04: was heißt das alles für Europa.

00:50:06: Und genau wo

00:50:07: ich mich gerade drauf

00:50:07: komme, weil wir hatten ja jetzt gerade den Summit on European Digital Sovereignty und genau... Der sollte ja einen Schwerpunkt setzen auf das Thema, wie sieht es eigentlich in Europa aus mit der digitalen Souveränität?

00:50:22: Also, März hat gesprochen, Macron hat gesprochen.

00:50:26: Wir haben ja Aleph Alper erwähnt, wir haben Mistral erwähnt, aber so richtig viel hört man über dir, dann doch, doch wieder nicht.

00:50:32: Haben wir noch eine Chance in

00:50:33: Europa?

00:50:34: Ich würde gerne unterscheiden diesen Auslauf digitaler Infrastruktur und ... das mobilisieren öffentlicher gelder um in dem um in diesem k?

00:50:48: i rennen mitzumachen das sind nicht nur zwei unterschiedliche dinge sondern da gibt's auch einen ganz eindeutigen zielkonflikt.

00:50:56: in diesem wettrennen mitzumachen ist so unfassbar teuer

00:51:00: dass das

00:51:01: in voller konsequenz heißt dass wir andere dinge nicht machen können.

00:51:04: also die kommission hat dreißig vierzig milliarden für so genannte giga factories angekündigt das heißt dreißig vierzig milliarden für de facto nvidia chips die die gerade die preise quasi setzen können.

00:51:18: mit dreißig vierzig millen kann man ganz viele tolle andere sachen machen.

00:51:22: Also das ist wirklich eine entscheidung und wenn wir uns anschauen genau die strategien die wir auf europäischer Ebene zum thema k i gesehen haben.

00:51:30: das schwingt schon eigentlich die ganze zeit mit diese idee.

00:51:33: wir werden bald e g i haben k i wird immer besser immer mächtiger und wir müssen bei diesem wetrennen machen und das ist dann eine ganz andere strategie.

00:51:43: Ich denke, dass quasi sobald so lange man versucht, in diesem speziellen Wettrennen so mitzuspielen, wie das gerade gemacht wird.

00:51:50: Das ist nicht nur unrealistisch, es ist auch unklug.

00:51:54: Es ist unklug, weil man versucht quasi, wir können, man versucht mit Amazon mitzuhalten, eben genau dem Spielfeld, in dem Amazon am dominantesten ist.

00:52:03: Es ist einfach Quatsch.

00:52:03: Und es gibt... Der KI Begriff ist viel weiter.

00:52:06: Man braucht auch nicht KI, ist auch wirklich nicht die Lösung für alles.

00:52:10: Brauchen wir mehr Lehrer oder brauchen wir KI in Schulen?

00:52:13: So brauchen wir mehr Pflegepersonal oder brauchen wir mehr KI?

00:52:17: Also das ist wirklich nur weil KI interessante Anwendungen hat, heißt es nicht, dass KI die Lösung für alles ist.

00:52:24: Und genau, aber die Strategien, die wir sehen, da geht es darum, massiv die KI Anwendung zu fördern in allen möglichen gesellschaftlichen Bereichen.

00:52:33: Was dann aber unter den Bedingungen, unter den jetzigen Marktbedingungen heißt, dass es zumindest den Status quo weiter zementiert.

00:52:41: Ein Stadt, das es wirklich alternativen schafft.

00:52:43: Und die Rolle natürlich, Alternativen zu schaffen, ist nicht nur die Rolle des Staates, das ist auch die Rolle von Firmen, Investoren, oder die Rolle des Staates ist es auf der einen Seite, die Bedingungen zu schaffen, in denen ein vielfältiges digitales Ökosystem entstehen kann.

00:52:58: Und die Rolle des Strates ist auch, ich will nicht sagen, gemeinwohl orientiert, im Sinne von nicht gemeinwohl orientiert, aber zumindest zu definieren.

00:53:08: Wofür man das Ganze macht?

00:53:09: Wofür wollen wir denn eigentlich KI?

00:53:10: Worum geht es denn eigentlich?

00:53:12: Wir wollen ja nicht Produktivität.

00:53:14: Was heißt das denn eigentlich?

00:53:15: KI führt zu mehr Produktivität, führt es zu besseren Jobs, führt es zu einer gerechteren Einkommensverteilung, führt es zu einem nachhaltigen Wachstum, was auch mit unseren Klimazielen vereinbar ist.

00:53:26: Und ich glaube, die Rolle der Politik ist da eine Richtung zu setzen, anstatt irgendwie in diesem Hype dem Markt hinterher zu rennen.

00:53:34: Du hast ja eingestiegen mit diesem plötzlichen Umschwenken auf, jetzt geht es nicht mehr um Regulierung, jetzt geht es um Wachstum.

00:53:41: Es ist die Fehlerannahme, dass es KI ist, wo wir mithalten müssen oder vor allem diese Enge.

00:53:46: gesteckte Definitionen von KI, die eben lästig zu Transformer-Modellen führt und nicht zu den Dingen, denen wir eigentlich stark sind in KI.

00:53:55: Also ich sehe oft als Wissenschaftleralistin im Süddeutschland zum Beispiel, dass es wahnsinnig gute Forschung und Entwicklung in Deutschland gibt zu Erklärbarkeit von klassischen KI-Systemen oder zu Robustheit.

00:54:06: Und ich habe lange gesagt, eigentlich sage ich es immer noch, dass das die Stärkensinn in Deutschland, die man vielleicht eher investieren sollte, weil das ist was, was wir wirklich gut können und wo wir tatsächlich auch schon, würde ich behaupten, recht vorne dran stehen.

00:54:18: Das wird aber natürlich heißen, den KI-Begriff wieder zu weit oder eigentlich abzuspringen von dem Transformer-Hype und so ein bisschen zurückzugehen zu so prädiktiven KI-Systemen, zu klassischen maschinellen Lernen.

00:54:30: Das finde ich auch sehr, sehr schön dargelegt, jetzt eventuell in Breit.

00:54:34: Also jedenfalls nicht so eine schmalen Anwendungs-Usecase hat wie generative KI und Transformer-Modelle, die ja, wie du ja sagst, eigentlich klar, manche Dinge schön lösen.

00:54:43: Wir sehen ja gerade überall die Grenzen, die die haben.

00:54:45: Und wie wir herausgefunden haben, haben sie noch immer nicht Krebs geheilt und auch nicht die Klimakatastrophe verhindert, was ja auch oft behauptet wird.

00:54:52: Also ist das den Abzeug, den wir nehmen sollten oder was ist die Richtung, die wir gehen sollten aus deiner Sicht?

00:54:58: Also grundsätzlich ist ja Industriepolitik überhaupt nichts Negatives, sondern was ganz Spannendes.

00:55:03: Das ist die Möglichkeit, Innovation zu fördern.

00:55:06: oder Innovationspolitik zu machen und sich auch zu überlegen, was könnte denn, was hat denn eigentlich einen gesellschaftlichen Mehrwert?

00:55:12: Das ist ja erstmal spannend, da gibt es tolle Forschungen, am UCL in London zum Beispiel, Marina Masucato, gibt es ganz tolle Beispiele, die man folgen könnte, nur die Frage ist, Was ist denn die Aufgabe, wenn der Staat Geld in die Hand nimmt, um zu investieren?

00:55:29: Was ist denn die Aufgabe des Staates?

00:55:31: Und ich finde, die Aufgabe des Staates ist, dahin zu gehen, wo der Privatsektor eben nicht hingeht.

00:55:37: Also, der Staat muss gar nicht sich zu dieser Blase in dem Sinne so verhalten, sondern einfach sagen, wo fehlt es denn gerade?

00:55:44: Was wären denn Alternativen, wo es sinnvoll wäre, weitere Investitionsanreize zu geben?

00:55:51: Und wenn es gerade eben so ein Hype gibt, wäre es doch interessant zu schauen.

00:55:54: auch für die ganzen Industrieanwendungen, was brauchen wir denn da eigentlich?

00:55:58: Und wir sehen auch, dass auf diesen Biger Factories Vorschlag, der KI-Verband Startupverbände sind gar nicht so richtig begeistert davon, von diesem Vorschlag, weil sie sagen, wir brauchen eigentlich so ein bisschen was anderes.

00:56:11: Ich glaube, so würde ich das eher formulieren.

00:56:14: Und dann natürlich, klar, es gibt so viel Bürokratie, es gibt auch manchmal Regulierung, die so kompliziert ist und Quatsche.

00:56:22: Aber Regulierung und Wirtschaftswachstum gegeneinander auszuspielen, greift natürlich auch viel zu kurz.

00:56:30: Aber da haben wir uns ja voll dran gewöhnt an dieses Narrativ, dass Regulierung dazu führt, dass wir arm und vergessen werden so ein bisschen.

00:56:37: Also das ist, finde ich, wahrscheinlich so, dass du es gerade sagst, dass es eigentlich gar nicht den Zusammenhang gar nicht gibt.

00:56:43: Also ich finde es vor allen Dingen so ein bisschen faul das Argument zu sagen, wir haben kein Amazon wegen Regulierung.

00:56:50: Das ist ja so nicht richtig.

00:56:51: und es ist auch nicht so, dass es in China gibt es natürlich keine Regulierung für den Staat, aber es gibt sehr viel Regulierung für Techfirm und auch in den USA gibt es Regeln.

00:57:02: Und genau was wir jetzt hier machen ist eigentlich genau das, was Trump will und was in den USA passiert, nämlich dass die Regeln für besonders große Konzerne aufgeweicht werden.

00:57:12: Die Herausforderung ist, und das sieht man auch an diesem Sammel, die Herausforderung ist, wir haben das verschlafen und jetzt sind wir geopolitisch in einem ganz ganz anderen Punkt.

00:57:23: Es ist jetzt wirklich so, dass sowohl Investitionen, Industriepolitik als auch Regulierung verwoben ist mit Handelskonflikten und ganz anderen Themen.

00:57:36: Und da wird es natürlich schwieriger, Dinge zu tun, die gegen die Interessen von großen Konzernen gehen, wenn deren Interessen so eng mit der US-Regierung verhoben sind.

00:57:48: Sondern mal kurz, was haben wir verschlafen?

00:57:52: Wir haben verschlafen.

00:57:54: Wie gesagt, ich sage das ja gar nicht, sondern ich sage das auch.

00:57:57: Aber die EU-Kommission, die Federal Trade Commission, die britische Aufsichtsbehörden, alle sagen, dass der Markt für Cloud als auch für große Foundation-Modelle ein konzentrierter Markt ist.

00:58:09: Und das heißt, der Markt funktioniert nicht.

00:58:12: Das ist nicht der einzige Grund, warum vielleicht manche Dinge hier nicht gut laufen.

00:58:16: Aber das ist ein wichtiger Grund.

00:58:18: Und das Aufbrechen dieser Konzentration, das Aufbrechen dieser Märkte ist ein wichtiges Thema, was man angehen muss.

00:58:27: Aber das ist dann wirklich

00:58:28: schwieriger

00:58:31: als es vorher war.

00:58:32: Das Verschlafen ist dann eigentlich das Narrativ, was sagt, wir haben den KI.

00:58:36: Wir haben es verpasst, richtig einzusteigen in den KI-Hyper.

00:58:39: Aber eigentlich sagst du, wir haben Verschlafen, da rechtzeitig anders darauf zu reagieren.

00:58:44: Ja, genau, sorry.

00:58:45: Ja, wir haben

00:58:46: verschlafen,

00:58:46: also wir haben vielleicht noch mal ganz klar formuliert, dieselben Firmen, die die Plattformökonomie dominieren, dominieren jetzt Karten.

00:58:55: Und das ist kein Zufall, denn die ... Denn was gerade passiert, cementiert ihre Dominanz noch viel mehr.

00:59:02: Hätten wir zur Zeit der Plattformökonomie uns anders verhalten, auch die DSGVO wäre eine Chance gewesen, das Geschäftsmodell dieser Firmen in Frage zu stellen, das datenbasierte, werbebasierte Geschäftsmodell zu verändern.

00:59:19: Das hätten wir machen können, wenn wir gewollt hätten.

00:59:22: Und all diese Datenmacht, die diese Firmen haben, nicht nur finanzielle Macht, sondern auch Datenmacht, hilft ihnen jetzt in der nächsten Revolution schon wieder, die Gewinner zu sein.

00:59:31: Und dieser Verbindung wird nicht gesehen.

00:59:34: Sogar im Gegenteil, es wurde jetzt letzte Woche im Bus angekündigt, man hat jetzt die DSGFO sogar noch weiter abgeschlecht.

00:59:42: Und du denkst schon auch, dass die DSGFO in der Theorie eigentlich eine gute Idee war und auch in der Praxis hätte mehr durchgesetzt werden können, aber das wurde halt nicht getan und jetzt wird sie ...

00:59:52: Man hat sie umgesetzt.

00:59:56: Die Kita sagt, es darf keine WhatsApp-Gruppe geben.

01:00:01: So ein Quatsch, während gleichzeitig, und das wäre, dass du ja auch intensiv zugearbeitet, Datenhändler, personalisierte Werbung, da wirklich über Jahre lang.

01:00:12: Das Gesetz gebrochen wurde und diese Untersuchungen haben so lange gedauert, dass die Strafen Jahre später kamen und das eigentlich im Klacks war für diese Firmen.

01:00:20: Das meine ich mit, das haben wir verschlafen.

01:00:22: Nicht die Investitionen und es gibt auch noch andere Probleme, aber das ist zumindest ein Teil der Debatte.

01:00:29: Sehr, sehr spannend.

01:00:30: Vielen Dank für deine Analyse, Fririke.

01:00:32: Das war ein ganz... Ganz toller Deep Dive und hat viel auch noch mal klargemacht.

01:00:40: Ich hab das Gefühl, wir leben in so einer Welt mit ganz viel Konfetti.

01:00:44: Und hier wird ein Datenzentrum eröffnet und hier platzt jetzt die Bubble oder nicht.

01:00:47: Und ich fand jetzt, das war so ein toller Roundup mal zu verstehen, okay, wie hängt das strukturell eigentlich alles miteinander?

01:00:55: Und

01:00:55: ich find super spannend, dass im Ende wieder steht, Regulierung, Schwächt uns ist ... das Narrativ.

01:01:02: Und das sieht man ja auch, wer spricht davon?

01:01:04: Wer verkündet denn die ganze Zeit?

01:01:06: Das ist ein Problem, Regulierung ist ein Problem.

01:01:08: Das sind genau die Unternehmen, die, ja, die, wie du sagst, nicht, also nicht das gleiche Interesse haben wie die Gesellschaft.

01:01:14: Und ich finde es super schön, dass das so klar geworden ist.

01:01:17: Und das ist so, ja, das war eine sehr, sehr, sehr klare und deutliche Analyse von dir.

01:01:21: Vielen, vielen Dank.

01:01:23: Super interessant.

01:01:23: Gerne.

01:01:24: Also Regulierung kann ein Problem sein.

01:01:27: Aber wenn große deutsche Firmen, die ich nicht nennen würde, sagen, der Grund, warum wir gerade auf dem Weltmarkt Probleme haben, ist der AI Act.

01:01:36: Das kann es ja nicht sein.

01:01:37: Das mag vielleicht, aber das ist nicht der Hauptgrund, zumindest für große Konzerne in Deutschland.

01:01:44: Ja,

01:01:44: danke.

01:01:44: Ist es wirklich gut, das nochmal so einen Punkt zu bringen.

01:01:47: Wenn

01:01:47: man deine Arbeit folgen will, dann kann man das machen.

01:01:50: Einmal über deine Webseite, die du leidlich aktuell hältst.

01:01:53: Aber sonst lohnt es sich auch an die Analysen vom AI Now-Institut reinzuschauen.

01:01:58: Auf jeden Fall.

01:01:59: Da bist du immer mal wieder beteiligt.

01:02:02: Vielleicht noch einmal fand ich noch wichtig zum Hintergrund, weil wir es einfach nicht angesprochen haben, was das AI Now-Institut eigentlich ist.

01:02:08: Das ist eine NGO aus den USA, die sich so aus unterschiedlichen ... Foundation, also Spendengeldern, Speist.

01:02:17: Genau.

01:02:18: Und depomierenderweise kann man meine Arbeit leider auch auf LinkedIn verfolgen.

01:02:22: Das ist der schlimmste soziale Netzwerk.

01:02:25: Findest

01:02:25: du, LinkedIn ist das Schlimmste?

01:02:27: Schau dir X an, also ... Das stimmt.

01:02:30: Nein, aber auf LinkedIn ist das immer ... LinkedIn finde ich mal ganz cringe, aber auf LinkedIn teile ich vor allen Dingen hauptsächlich meine Arbeit gerade, ja.

01:02:38: Auch dafür wird immer mehr generierte Inhalte.

01:02:41: Apropos.

01:02:43: Genau.

01:02:44: Sehr gut.

01:02:44: Ja, schön, dass du bei uns warst.

01:02:45: Und dann bis bald mal wieder.

01:02:47: Ja, hoffentlich sehen wir uns mal wieder.

01:02:49: Danke für die Fragen.

01:02:50: Tschau.

01:02:54: Und ihr könnt uns folgen.

01:02:55: Auf

01:02:56: LinkedIn auch.

01:02:57: Aber ganz viel auch auf Mastodon.

01:03:00: Und da freuen wir

01:03:01: uns.

01:03:01: Schönere soziale Netzwerke, wo man schön diskutieren kann.

01:03:06: Ja, schreibt es doch mal, was ihr davon von dieser Folge haltet.

01:03:09: Ich bin wirklich, mich hat es gerade sehr inspiriert.

01:03:13: der Analyse zu folgen.

01:03:15: Meldet euch mit Feedback-Tipps für künftige Interpreterinnen und Themen wünschen und was euch sonst alles einfällt.

01:03:22: Und Kritik natürlich.

01:03:23: Tschüss von uns!