Ein offener Brief von OpenAI und Milliarden statt Urteil: Wie Meta den Big-Tobacco-Moment abwendet

00:00:00:

00:00:16: Hi und herzlich willkommen zu They Talk Tech, ein CT-Podcast.

00:00:20: Ich bin Svea Eckhardt, Tech Journalistin

00:00:22: Und ich bin Eva Wolfanger ebenfalls, Tech-Journalistin.

00:00:25: Hey Mensch wie schön wieder hier zu sein!

00:00:28: Und über einen großen Prozess werden wir heute sprechen oder ein großes Verfahren eher gesagt, bei dem es eine schnelle Einigung gab.

00:00:35: Nämlich über das Verfahren gegen Meta und Meta muss Milliarden zahlen und was das genau bedeutet und wie sich auch dieses Verfahren einordnen lässt in eine ganze Reihe von Verfahren und was uns überhaupt in Europa bedeutet.

00:00:50: Darüber sprechen wir heute!

00:00:52: Ihr wart noch ein Thema mitgebracht aus Chronistenpflicht dass ich dann gleich kritisieren darf.

00:00:59: Ja, ich kann mich schon selbst mal nicht mehr hören mit den KI-Themen aber tatsächlich gibt es einen neuen offenen Brief.

00:01:06: das ist ja auch so ein Ding was es immer gibt beim Thema KI irgendwie.

00:01:09: man schreibt einen offenen Brief von OpenAI dieser mit sehr viel Unterzeichnerinnen unterzeichnen Unternehmen und auch die Telekom ist dabei und SAP Hugging Face ist dabei.

00:01:18: viele andere würde ich gerne am Ende kurz einordnen.

00:01:23: Ich will euch auch nicht nerven mit sowas doch verhindern, dass OpenAir mit seiner Marketinggeschichte durchkommt.

00:01:29: Deswegen ist es mir ein Anliegen das am Ende ganz kurz einzuordnen.

00:01:35: Lass uns ruhig anfangen ... ja, mit dem größeren Thema.

00:01:39: Ich war's gar nicht wichtiger an krasseren Themen irgendwie auch immer wieder gab's Prozesse gegen Meta mit dem Vorwurf, Kinder und Jugendliche süchtig zu machen, gezielt dafür zu sorgen, dass sie nicht mehr wegkommen von Instagram und Facebook.

00:01:57: Ich habe mal einen Enger begleitet.

00:01:59: Das hat mich tatsächlich ziemlich mitgenommen, weil man was man immer sieht auf diesen Bildern von den Prozessen, dass da so ein Gruppchen an Eltern steht die ihre Kinder verloren haben.

00:02:09: also aus verschiedenen Gründen sind Kinder tatsächlich tot, die ja aus Sicht der Eltern auf Social Media Ja, also entweder Depressionen entwickelt haben.

00:02:20: Das war in dem Einputz, das ich begleitet habe auch ...

00:02:23: Oder erpresst wurden mit Fotos.

00:02:25: Also Sex-Torschen ist ein großes Thema.

00:02:28: Ich erinnere mich auch oder sehe diese Bilder immer wieder und die Eltern halten so große Schilder hoch und machen teilweise auch Max Zuckerberg persönlich dafür verantwortlich was diesen Kindern oder Jugendlichen geschehen ist am vergangenen Mittwoch.

00:02:45: Das habt ihr bestimmt mitbekommen, dass wir so ungefähr vor einer Woche leider quasi direkt nachdem wir rausgekommen sind.

00:02:51: in unserer Folge, sodass wir das nicht ganz aktuell einordnen konnten ist ein ganz großes wirklich großes Verfahren mit einem überraschend schnellen Vergleich zu Ende gegangen also nicht durch einen Urteil wichtig eben kein Schuld eingestellt ist sondern ein Vergleich.

00:03:10: Meter zahlt Milliarden und muss Instagram und Facebook für Jugendliche umbauen.

00:03:17: Ja, und ich glaube

00:03:18: ... Sechs bis acht Milliarden Dollar.

00:03:20: Du hast vorgesagt, Meter muss Milliarden zahlen?

00:03:22: Und man kann dabei sagen, Meter darf Milliarden zahl'n und dafür schweigen!

00:03:28: Und das ist, glaub ich, das so ein bisschen dieses Thema was uns hier auch beschäftigt, dass im Winter es geschafft hat sich da rauszukaufen gewissermaßen zu verhindern, dass dieses ganze Thema noch mal groß in der Öffentlichkeit diskutiert wird, dass Zuckerberg vom Gericht aussagen muss.

00:03:43: Ich habe damals schon im Februar über diesen Prozess in Los Angeles geschrieben und es, glaube ich vor allem einige längeren gab eine junge Frau die eben Depression entwickelt hat.

00:03:52: Und da wurden ja unter anderem auch interne Unterlagen von Meta zitiert aussehen klar vorging das ist ganz eindeutige Geschäftsziele waren Die Verweildauer von jungen Menschen auf Social Media zu erhöhen also dass das Ziel von Metha eben ganz klar war Ja, der Sucht fördernde Faktoren immer besser einzubauen und quasi unser Gehirn ging uns einzusetzen.

00:04:15: Also alles was man weiß aus der Psychologie und der Hirnforschung zu nutzen um uns zu schaden.

00:04:20: Und ich hab damals gesagt das ist der Big Tabak-Hormoment für Meta oder für Social Media weil es damals einfach eine riesige Diskussion war und eben diese Bilder von den Eltern auch wirklich um die Welt gingen.

00:04:32: Es war so ganz klar Metastand in Zuckerberg Stand einfach schlechter.

00:04:37: Genau und zwar eindeutig, dass die gesellschaftsfeindliche Geschäftspraktiken und Ziele haben... Und ich weiß bei dieser

00:04:44: Klage auch so also das, die sich gestürzt hat vor allem auf interne Papiere, interne eigene Studien, die zeigen sollten, dass eben auch die Führungsebene von diesen Mechanismen, auch von denen man kann das ja fast Sicherheitslücken nennen.

00:05:01: Also sozusagen ihre eigenen ... Auch Mechanismens die sie immer nach außen propagieren, Jugendschutzmechanismen dass die nicht so funktionieren wie sie nach Außen verkauft werden.

00:05:11: ich erinnere mich noch an die große Frances Haugen-Roscherche whistleblowerin der ich sehr viele Interviews geführt habe Die ja auch tausende Dokumente damals fotografiert hat.

00:05:21: vielleicht ganz interessant auch am Rande zu wissen, Meta führt umfangreiche eigene Studien durch.

00:05:29: Also das handelt sich dann jetzt nicht um Studien die irgendwelche externen Forschungsinstitute gemacht haben wobei auch für die eigenen Studien teilweise externe Mitarbeiter sozusagen dazu gekauft werden zum Beispiel um Umfragen oder so zu machen.

00:05:41: habe ich auch schon dazu recherchiert.

00:05:43: muss ich das so vorstellen dass Meta eigene Teamsat, eigene Forschungsteamsat.

00:05:49: Das sind auch Leute die haben Psychologie studiert, die haben Soziologie studierter also die wissen auch was sie tun und machen dann eigene Studien anhand der Konzern eigenen Daten Wie bestimmte Funktionen funktionieren?

00:06:02: Wie bestimmten Funktionen wirken, die führen dann Interviews durch mit Fokusgruppen.

00:06:07: Die machen Gruppendiskussion und Beobachtungen.

00:06:11: Muss man sich wirklich vorstellen wie eine interne Forschung ...

00:06:14: Und eben auch einfach A-B-Testing testen.

00:06:16: Mit welchem Mechanismus bleiben Menschen länger online?

00:06:21: Das

00:06:21: wird dann intern dokumentiert.

00:06:23: Also die machen dazu Powerpoint Präsentationen.

00:06:28: ganzes Haugen so eindrücklich raus.

00:06:31: Das Interessante ist halt, die machen diese ganze Forschung ... Die sollen natürlich nicht an die Öffentlichkeit und ziehen daraus ihre eigenen Schlüsse.

00:06:39: Und eigentlich müsste man doch sagen okay wenn man weiß das oder jenes schadet Jugendlichen dann muss man das umbauen!

00:06:46: Und dass das offenbar nicht geschehen ist?

00:06:48: Das ist jetzt das was eben diese Klagen beinhaltet haben.

00:06:53: und das Ganze geht ja schon seit.

00:07:07: Und das

00:07:13: ist drei Jahre her, ne?

00:07:15: Das heißt es lief einfach drei Jahre.

00:07:18: Obwohl's spätestens seither hinreichend und auch öffentlich bekannt ist, konnten die ... zu weitermachen.

00:07:25: Dann gab es diese Aussage von Zuckerberg, wo um US-Szenat ... Ich weiß, da gibt's ein Video, was mich ziemlich mitgenommen hat auch her, weil dann halt dahin sind auch im Hintergrund eben diese Eltern mit ihren Karten.

00:07:39: Und Zuckerberg sitzt vor ihnen und schaut, dreht sich halt keine Erzigs mal um.

00:07:42: Dann sagt einer der Natoren, wollen Sie sich wie sie es einmal umdrehen und sich entschuldigen?

00:07:47: Und er dreht ihn mit so einem ausdruckslosen Gesicht um.

00:07:49: Klar natürlich ist das für ihn auch eine schwierige Situation.

00:07:52: Aber ich fand es so bezeichnend.

00:07:54: Es ist zuvor den Schott gar nicht hin ... Ja hat eindeutig andere Geschäftsinteressen eigentlich als irgendwas zu machen was Kinder und Jugendliche schützt.

00:08:07: Dann Mitte August war das dann diesen großen Prozessauftrag in Oakland vor einer Bundesrichterin.

00:08:15: Da waren da neunundzwanzig Bundesstaaten beteiligt, das Ganze sollte sechs Wochen laufen und es ging um zwei Hundert Milliarden Dollar Strafe.

00:08:26: tatsächlich so heißt es zwischenzeitlich wären sogar bis zu eins Komma vier Billionen also Deutsche Billion Dollar im Raum gestanden.

00:08:35: Also es ging um wirklich viel Geld, vielleicht einmal zum Vergleich die Zwarhundert Milliarden Dollar das ist so ein Jahresumsatz von zwanzig fünfundzwanzig gewesen von Meter also zweihundert Milliarden dollar ist dann auch für Meter viel Geld Auch wenn sie sehr sehr sehr viel Geld verdienen sehr viel gelb machen mit ihren Produkten.

00:08:53: und Dann hat das ganze geendet.

00:08:55: der Instagram Chef Adam Musseri hat noch ausgesagt hat noch eingeräumt, dass ja nur ein bis zwei Prozent der Jugendlichen die eingebaute Pausenfunktion überhaupt nutzen und das die Eltern das nicht wussten.

00:09:07: Also diese Aussage gab es noch.

00:09:10: Und dann kurz bevor Sackerberg selbst aussagen sollte war dann Schluss.

00:09:14: Dann gab es eben diesen Vergleich, du hast es eben schon gesagt da geht es um eine Kohensumme von rund...

00:09:21: Ich hab siebzehn Milliarden Dollar bekommen sagen.

00:09:24: Und klar, ich meine das kann man sich schon vorstellen wenn es erstens um diese viel höheren Summen ging und zweitens also dass zu bezahlen und dafür wird eben das ganze Zeug nicht nochmal in der Öffentlichkeit diskutiert.

00:09:34: Das lohnt sich für Meter!

00:09:35: Also das ist... Ich würde sagen, das klingt vielleicht für uns nach viel Geld aber eigentlich ist es ein Sieg für Meter weil sie jetzt halt sich wieder zurückziehen können und nicht noch mal alles öffentlich besprechen müssen und ich glaube schon, das lohnt.

00:09:51: Ja, sie den vielleicht noch mal entkommen können.

00:09:53: Das Ganze wird gestreckt übrigens, vielleicht noch nebenbei gesagt auf zehn Jahre und das ganze ist so ein kleiner Gag am Rande.

00:10:04: Das ganze gilt auch nur in der Höhe wenn TikTok und YouTube sich denselben Standards anschließen.

00:10:13: Also das hängt ja übrigens auch noch mit dran.

00:10:16: Das heißt, wenn die anderen auch machen was sie wir dann aus der Perspektive von Meta schon auch verständlich ... Weil natürlich gesagt wird Ja, wir haben sonst Wettbewerbsnachteil Wenn die anderen die Kinder süchtig machen aber wir nicht.

00:10:30: Trotzdem ist es natürlich total unbefriedigend.

00:10:35: Und ja und auch diese Maßnahmen also vereinbart wurde sie sollen irgendwie nächtliche Sperren für jugendliche Nutzer einführen.

00:10:43: Insgesamt

00:10:44: noch zwei Stunden sollen Jugendlicher am Tag die Plattformen nutzen können, diese ganzen Sachen natürlich nicht während der Schulzeiten.

00:10:51: das Ganze geht einher natürlich mit auch einer noch stärkeren Überwachung würde ich sagen.

00:10:55: wie sonst soll das kontrolliert werden und es sind glaube ich auch Dinge man überlegen muss ist dass eigentlich ist das das sind es die Maßnahmen die wirklich was verändern?

00:11:05: Ich musste ehrlich sagen also neben dieser Geldstrafe Als ich mir diese Maßnahmen, die Meta jetzt einführen muss auf seinen Kinder- und Jugendaccounts.

00:11:16: Ich hab mit ihr so durchgelesen, ich muss sagen ... Ich hab echt Gänsehaut bekommen, weil ich dachte, what the fuck?

00:11:23: Das hätte die ganze Zeit schon sein sollen!

00:11:27: Mindestens!

00:11:28: Ja.

00:11:29: Und zwar, du hast es eben angesprochen, zwei Stunden tägliches Zeitlimit als Standard.

00:11:36: Zwei Stunden.

00:11:37: Täglich.

00:11:39: Mir kommt es auch viel vor, ehrlich

00:11:41: gesagt.

00:11:42: Ich glaube das ist für Heavy Insta-User gar nichts.

00:11:49: Das sollte doch normal sein dass man nicht länger als zwei Stunden auf Instagram hängt.

00:11:54: okay sorry jetzt für alle Heavy User die uns hier zuhören aber zumindestens wenn du vierzehn fünfzehn bist und noch in die Schule gehst und vielleicht auch Sportarten machst oder Freunde und Freundin trist Dann Nachtsperre für zentrale Funktionen zwischen Mitternacht und sechs Uhr.

00:12:14: Ich dachte, ey ... Okay, wer ist zwischen Mitter- nacht und sechst Uhr auf dem Handy?

00:12:20: Keine Benachrichtigungen zwischen zweiundzwanzig und sieben Uhr und während der Schulzeit.

00:12:24: also benachrichtigung das sind so Pushmitteilung die dir sagen hey XY hat dir ein Like gegeben dann keine Likezahlen mehr sichtbar.

00:12:33: ja dann die Pflicht, einen nicht-personalisierten Feed anzubieten.

00:12:39: Und das ist ja einfach nur ... Das ist eine Empfehlung?

00:12:43: Ist ne Empfehnung!

00:12:44: Ja.

00:12:44: Es ist nicht standardisiert eingeschaltet.

00:12:46: Also, wow ich finde, das sind alles Sachen... Da denk ich mir so, das ist doch alles normal.

00:12:55: Also was steht

00:12:56: eigentlich

00:12:57: nicht da drin?

00:12:58: Da steht nicht drin Transparenzpflicht für Algorithmen.

00:13:02: Da steht Nichtrin-Beschränkung für Werbung an Minderjährige.

00:13:07: Das hätte ich mal gut gefunden!

00:13:09: Und die ganzen

00:13:09: suchtfördernden Maßnahmen, die ja diskutiert werden in den Prozessen sind auch nicht drinnen also dürfen sie alles weiterhin machen.

00:13:18: Endlosscrawler ist genau das, was du gesagt hast für unser Gehirn.

00:13:23: Und das kennen

00:13:23: wir auch, es geht ja nicht nur um Kinder und Jugendliche, sondern uns alle am Ende.

00:13:27: Und diese ganzen suchtvollen Maßnahmen gibt's ja wissenschaftliche Belege dafür oder an erkannteermaßen dazu führen, dass man schwer wegkommt.

00:13:36: Das alles kann einfach weiterhin gemacht werden.

00:13:39: Also das ist schon traurig, dass so ein Vergleich durchgekommen ist finde

00:13:43: ich.

00:13:43: Genau also obwohl ich mich irgendwie natürlich freue weil ich denke hey... Schritt dem Macht, der von Big Tech zu begrenzen.

00:13:52: Das ist ein Schritt für die Verbraucherinnen und Verbrauchern muss man sich dann doch die Sachen, die jetzt tatsächlich gekommen sind durch den Vergleich genauso auf der Zunge zergehen lassen.

00:14:03: Dann ist es ... Oah!

00:14:04: Dann ist der Sieg nicht mehr ganz so groß.

00:14:08: Und dann kommt eben noch dazu, es ist kein Urteil sondern ein Vergleich und hat damit auch keine Präzidenzwirkung.

00:14:14: D.h.,

00:14:14: es hilft dauerhaft eigentlich?

00:14:18: wenig oder wenn es neue.

00:14:20: Gut, die Frage ist wird es viele weitere ähnliche Verfahren geben?

00:14:23: Gibt es irgendwann real diesen Tabakomoment das quasi einfach die Stimmung wirklich kippt?

00:14:29: Ich finde es gerade total schwer abzusehen hier den Eindruck sind gerade so viele Themen die die Gesellschaft beschäftigen dass es aber nur eins von vielen ist und auch davon profitiert.

00:14:39: Meter wahrscheinlich

00:14:40: Ja.

00:14:41: also das würde ich tatsächlich auch sagen als ich glaube schon dass die stimmung kippte Und ich glaube schon, dass das auch ein Grund war, warum es diesen Vergleich gab und warum der Vergleich überhaupt so ausgegangen ist.

00:14:51: Ich glaube, dass aber auch viel damit zu tun hat, dass eben die Stimmung nicht nur in den USA sich verändert hat sondern auch tatsächlich global.

00:15:00: Wir haben an Australien gesehen das erste Land was tatsächlich einen Social Media-Bahn eingeführt hat für unter sechzehnjährige und wir haben gesehen, dass viele, viele Staaten da nachziehen.

00:15:10: Also Frankreich hat das jetzt gerade im Parlament gehabt.

00:15:14: Das ist erst mal nicht ganz so durchgegangen, aber das ist auf jeden Fall in der öffentlichen Debatte.

00:15:19: Griechenland hat es in der Öffentlichen Debatte, es gibt zahlreiche Staaten die sich da anschließen wollen und eigene Regeln überlegen.

00:15:26: Dann haben wir ja die EU.

00:15:27: Das finde ich vielleicht noch das nächste Thema, auf was wir unbedingt eingehen sollten nämlich... Was heißt das eigentlich für uns?

00:15:36: Sprich kommen diese Feature nenne ich jetzt mal diese Jugendschutzmaßnahmen auch in die EU.

00:15:44: Ist das eine Abmachung nur für die USA sozusagen?

00:15:48: Klar, also die Verhandlung war in den USA und jetzt kann man oft sehen dass solche Features erst einmal in den USA aber dann auch global ausgerollt werden.

00:15:58: Also es ist so nicht nach einzelnen Ländern separiert wird sondern das ist dann sozusagen für alle.

00:16:05: aber ich habe einmal noch mal geschaut, ob die EU schon reagiert hat und Kommissionssprecher Thomas Regenier hat eben schon sich dazu geäußert.

00:16:14: Und er hat eben verlangt dass das die EU genau das gleiche erwartet wie in den USA.

00:16:23: also das heißt dass man davon ausgeht, dass es hier auch so kommt.

00:16:28: Jetzt sind, hier gibt es ja hier.

00:16:29: Wir hatten's schon neulich mal angesprochen nochmal andere Regeln dadurch dass wir den DSA haben und das ist sowieso Verfahren gibt gegen Verströße gegen den Digital Services Act bei unter anderem unter drei zehnjährigen.

00:16:45: Da wird wahrscheinlich noch einiges kommen.

00:16:47: solche Verfahren anzeigen wurden ja von den USA versucht Durch Abschreckung zu verhindern, durch Durungen.

00:16:56: Für mich ist das eine offene Frage wie sich die EU da durchsetzt?

00:17:00: Wer wie ernsthaft angegangen wird.

00:17:01: ich würde mir natürlich wünschen dass man es ernsthaft an geht und auch unsere...

00:17:07: Und für uns ist ja dann als Beobachterin Einerseits natürlich Social Media beobachten.

00:17:14: Auch die Gefahren von Social Media sehr klar, sehr eng begleiten ist natürlich die spannende Frage immer der Altersverifikation.

00:17:23: also das heißt wie genau wird es dann umgesetzt?

00:17:29: Ist das ... Du hast es vorhin angedeutet, sozusagen werden dann die Leute noch stärker überwacht.

00:17:36: Gibt's eine Gesichterkennung oder wie wird das konkret umgesetzt?

00:17:39: Das ist ja für uns immer so ein bisschen ... Geht es

00:17:41: überhaupt in der Altersverifikation stabil und robust durchzusetzen ohne noch viel mehr Daten an Meter zu geben?

00:17:49: Ja!

00:17:50: Ich würd ja prinzipiell erst mal sagen, es muss einfach die Möglichkeit geben.

00:17:55: Wenn ich mir ein Instagram-Account zulege da anzugeben ... Hey!

00:18:00: Ich bin unter achtzehn Jahre alt und dann ist das erstmal die Altersverifikation.

00:18:04: Aber ich weiß du meinst natürlich, die vierzehnjährigen dient das nicht freiwillig angeben?

00:18:10: Ja, die gibt's eventuell auch.

00:18:11: Das ist ja Teil der ganzen Problems, dass natürlich diese Sucht fördern Maßnahmen schon gewonnen haben.

00:18:17: Der Sog ist ja da, also deswegen braucht man solche Maßnahmen.

00:18:21: Am Ende würdest uns allen gut tun wenn sich Instagram oder Social Media generell nach einer Stunde am Tag ausschaltet?

00:18:27: Das hab ich übrigens

00:18:28: auch noch am Rande gedacht was es eigentlich mit den Erwachsenen als ich diese Maßnahme gewesen habe und ich gedacht Ich will sie haben!

00:18:33: Geht mir diese Maßnahmen!

00:18:35: Dann

00:18:35: du kannst dann angeben, dass du unter achtzehn bist.

00:18:40: Nein, ich begrenze tatsächlich meine Instagram-Nutzung auch proaktiv genau aus dem... aus dem Grund.

00:18:48: Wir belassen es einmal dabei bei Meter und im großen Vergleich, wir beobachten natürlich Big Tech weiter und gucken auch was die anderen jetzt tun.

00:18:57: Ein Thema das du unter ongoing Beobachtung hast ist ja AI und Gefahr!

00:19:16: Und du hast eine E-Mail bekommen von einem kruten E-mail-Account.

00:19:20: Damit kann man ja mal angucken, Eva denkt sowieso bei jeder Mail, sie ist scammer.

00:19:23: also versuchte einfach nicht Eva E-mails zu schreiben weil sie glaubt einfach dass ihr scammer seid.

00:19:28: Also ganz im Ernst, da kam eine E mail.

00:19:30: die kam angeblich vom OpenAI.

00:19:31: der Absender war aber nicht OpenAI sondern irgendwas anderes offenbar irgendwie deutsche Werbeagentur die OpenAI jetzt vertritt.

00:19:37: tut mir leid Die haben sich mir gegenüber nicht vorgestellt.

00:19:42: Genau, dann heißt es offener Brief zur globalen Cyberverteidigung und wenn man eben über diesen Link drüber scrollt ... Dann ist auch die URL ist eben auch nicht OpenAI sondern irgendwas mit ServiceshostingAugure.com.

00:19:55: Daraufhin habe ich dir einen Screenshot geschickt von diesem.

00:19:57: Ich habe über den Link und guck mal was da steht Und dann hab' ich den Link in Virus Total gehauen oder kam erst einmal ist harmlos und dann habe ich das Ganze gegoogelt um den Link bis heute nicht angeklickt.

00:20:08: Egal, also erst mal den Lick in Fires Total aus bevor du was googlst.

00:20:15: Ich hätte das gleich googlen sollen, jetzt hätte ich mir sparen können!

00:20:18: Also... Genau, aber die Google Eier hat dann ergeben dass es tatsächlich einen neuen offenen Brief gibt eben von OpenAI zusammen mit wirklich sehr sehr vielen anderen Unternehmen aus Deutschland unter anderem die Telekom und SAP dabei der fordert ja am Ende.

00:20:35: also das ist das Absurde.

00:20:36: dieser offene Briefe stellt fest.

00:20:38: Es ist gerade ein ganz schön großes Problem.

00:20:40: KI-agenten machen Cyberangriffe und haben sich im Hintergrund abgestimmt sich quasi auf eine Art weiterentwickelt, wie es OpenAI offenbar tatsächlich nicht vorher gesehen hat.

00:20:53: Wo ich immer noch denke hey dann stellt euch halt nicht so an.

00:20:56: also das wäre euer Job gewesen genau dieses ne?

00:20:58: Das bezieht sich unter anderem eben auch diesen Fall von diesem zwei OpenAI Agenten, die Hugging-Face gehackt haben und sich befreit haben aus dieser angeblich sicheren Sandbox.

00:21:07: Da hatten wir es ja schon dazu, dass das alles doch ein größerer Widerspruch ist.

00:21:12: Und OpenEye sagt jetzt naja wo?

00:21:14: Wir haben ja diese großen Gefahren.

00:21:15: Ups!

00:21:16: Wir brauchen jetzt noch mehr KI um uns zu schützen.

00:21:18: also so.

00:21:19: Um das vielleicht nicht ganz seriös zusammenzufassen aber im Prinzip ist das die Aussage, die aus diesem offenen Brief rauskommt.

00:21:25: Also sie sagen Es ist jetzt der Moment, dass wir uns schützen können.

00:21:30: KI-Kapazitäten für die selber Verteidigung rufen eben auch auf, dass eben jetzt das Zeitfenster ist in dem wir den Vorsprung oder die Verteilungen, den Vorssprung gewinnen können.

00:21:43: Und es hat so mehrere Ebenen dieser offene Brief?

00:21:47: Ich finde eine grundsätzliche Ebene, die wir ja immer haben bei IT Security – also wenn man sich das mal über die letzten Jahre und Jahrzehnte anschaut – ist, an schwierigen Stand hat, weil wenn nix passiert dann ist alles gut.

00:22:06: Das heißt, wenn man jetzt aus Unternehmenssicht denkt, dann zahlt man quasi für eine Abteilung oder auch für einen externen Dienstleister der ... Wenn er quasi nichts produziert.

00:22:18: also wenn

00:22:19: nichts passiert?

00:22:21: Und das steht natürlich im totalen Widerspruch zu all dem, was Unternehmen sonst machen.

00:22:25: Nämlich Produkte herstellen,

00:22:27: d.h.,

00:22:28: es passieren Dinge und die kann man dann verkaufen und dadurch wird ein Umsatz generiert.

00:22:32: Die IT-Security ist quasi eher so eine Art Infrastruktur oder Begleiterscheinung.

00:22:37: Da ist es immer ein gewisser Tradeoff, weshalb IT-Sekuity in vielen Unternehmen aber auch Behörden wie Eva und ich leidlich wissen durch unsere Recherche gerne mal ein eher stiefmütterliches Dasein ... fristet und es teilweise auch für die Abteilung schwierig ist, Geld zu bekommen.

00:22:57: Man-Woman-Power zu bekommen, sich größer aufzustellen.

00:23:00: Weil das natürlich einfach ... Es gibt nicht ein direktes Produkt zu dem, was dort steht.

00:23:06: Von daher ist ja erst mal des grundsätzliche Ansinnen zu sagen hey wir haben jetzt KI und durch KI wird das mehr Cyberincidence geben?

00:23:17: Ist ja, finde ich prinzipiell erst mal ein richtiges Ansinnen.

00:23:22: Nur, es haut halt auch in diese gleiche Kerbe rein, in dieses gleiche Narrativ, was Du Eva ja seit Wochen

00:23:30: verfolgst.".

00:23:31: Also genau, wieder macht OpenAI halt in zweifacheren Sicht Werbung für sich selbst.

00:23:36: Eine ist, wir haben hier so gefährliche KI-Agen.

00:23:38: Wir sind so mächtig, wir sind so cool.

00:23:40: Das eine und das andere isst nur damit die Welt nicht auf die Idee kommt dass man ... Man könnte auch sagen hey, das ist gefährlich.

00:23:46: tatsächlich, wir hören damit auf.

00:23:48: Investoren können sagen wir investieren nicht mehr in OpenAI.

00:23:51: also man könnte ja... Auch da könnte natürlich die Stimmung umschlagen.

00:23:55: Damit niemander auf die Ide kommen sagen sie wir brauchen jetzt noch mehr KI damit wir uns verteidigen können.

00:23:59: Und es ist ein perfider Kreislauf finde ich, den Sie da machen.

00:24:03: Weil wir so gefährliche Dinge gestaffen haben brauchen wir jetzt etwas was diese gefährlichen Dinge in Zaum halten kann.

00:24:08: deswegen brauchen wir noch mehr Geld und das ist das Interesse von Open AI an diesem offenen Brief und wenn man die Unterzeichen anschaut sind eben auch viele Firmen die ja natürlich auch profitieren davon wenn mehr Geld in KI und IT Sicherheit gesteckt wird.

00:24:22: und ich glaube als doch jetzt muss man diesen offenen Briefstand auch sehen.

00:24:25: also ich war schon auch erst erstaunt wer alles unterschrieben hat aber eigentlich ist es am Ende ganz platt.

00:24:30: Es sind die eigenen Interessen der Unterzeichnenden und wir als Gesellschaft sollten uns damit nicht so sehr in die Irre führen lassen, sondern schon auch überlegen gibt es nicht auch andere Wege?

00:24:40: also warum muss jetzt Open AI noch mehr Geld bekommen für eine Entwicklung, die sie selbst verursacht haben?

00:24:46: Man könnte einfach sagen hört auf!

00:24:48: Ah genau das wollen Sie mich fragen.

00:24:49: Eva was meinst du konkret mit in die irre führenlassen?

00:24:52: weil ich finde das sollte mir nochmal versuchen klar zu kriegen was ist denn die irre?

00:24:59: mehr und auch ausgefeiltere Angriffe geben wird, ist für mich klar.

00:25:05: genauso klar wie es auch ist dass wenn ich mit Abteilungssprache die IT-Security machen die sagen hey wir können unsere Produkte besser machen.

00:25:14: Ich sehe immer wie viele Sicherheitsupdates mein Rechner macht und haiai also das hat zum Beispiel massiv zugenommen.

00:25:23: Ich kriege immer häufiger Sicherheitsupdates bekommen von den Unternehmen und ich weiß genau, woran das liegt.

00:25:30: Weil die auch Kalib nutzen?

00:25:31: Genau weil natürlich auch jeder App-Entwickler seinen Code in irgendeinem Prompt reinschmeißt und sagt hier mach mir mal ein Pen-Test, härte mir mal das Produkt wo sind irgendwie die Bugs?

00:25:43: also das sieht man auf jeden Fall von außen und ich höre es auch von innen dass gerade im Moment ganz viele Firmen einfach an Patchen, Patchen sind.

00:25:51: Weil sie eben die Möglichkeit haben und weil es am Ende eigentlich schon ein Spiel mit Token ist.

00:25:56: Wer hat eigentlich mehr Token?

00:25:58: Wer kann mehr Taken auf sein Produkt draufschmeißen?

00:26:02: Aber jetzt will ich von dir noch einmal genau wissen sozusagen was siehst du an dem Brief an wo du sagst da werden wir in die Irre geführt?

00:26:09: also Es gibt ja durchaus auch Rufe von Menschen die sagen Wir sollten aufhören, KI zu entwickeln.

00:26:17: Und ich weiß ... Ich hab vor kurzem Thorsten Holz interviewt, Direktor des Max-Planck-Instituts Security and Privacy.

00:26:25: Also Sicherheitsforscher, Serien mit der Sicherheitsvorscher hat auch gesagt, er sieht das genau, dass du gesagt hast, dass KI aktuell den Verteidigern sehr viel nutzt und viel mehr Sicherheitslücken geschlossen werden als davor sozusagen.

00:26:40: Das ist ja nicht erstaunlich.

00:26:42: Es gab bei diesen ganzen Geschichten Antropics Mütter, was ja nur an eine ausgewählte Scharran-Unternehmen vergeben wurde.

00:26:52: Aber übrigens nicht an europäische.

00:26:55: Das ist schon ein Punkt, den man sieht in diesem offenen Brief.

00:26:58: also warum überhaupt sollte sich und Europa oder europäischer Unternehmen mit OpenAI verbrüdern?

00:27:05: Mit solchen Forderungen wenn dieser offene Brief dazu führt dass jetzt OpenAI mehr Gelder bekommt um AI-Systeme zu entwickeln, die dann nur der Verteidigung zur Verfügung gestellt werden.

00:27:15: Wir können nicht davon ausgehen dass wir davon teil sind also das sie auch nach Europa gehen.

00:27:20: Selbst wenn Open AI das wollen würde kann es immer noch passieren dass da die US Regierung das Ganze stoppt.

00:27:24: Also diese ganzen Themen spielen damit rein und ich finde ist schon ihre Führung.

00:27:29: natürlich ist es nicht so einfach zu sagen wir stoppen die ganze Entwicklung jetzt.

00:27:32: aber es ist finde ich noch absurder zu sagen diejenigen die sich verbockt haben sollen es noch mehr Geld bekommen um weiterzumachen kann ja nicht die Lösung sein.

00:27:41: Und dann, letzter Aspekt dazu gibt es ja durchaus und das hat im Prinzip Thorsten Holz auch gesagt schon klare Hinweise darauf dass was jetzt aktuell schiefgegangen ist diese Angriffe von angeblich autonomen Agenten oder von autonome Agenten von OpenAI anderen Firmen die sich in Firmen gehackt haben und niemand hat gemerkt ist halt auch wirklich verbockt von in dem Fall OpenAI den anderen KI Firmen, die nicht drauf geacht.

00:28:08: Also sie ihre Sandboxen nicht gut gemacht haben?

00:28:10: Die sagen wir haben eine sicherer abgeschirmte Umgebung erhubs aber irgendwie war ne Lücke drin und halt auch nicht hingeschaut haben.

00:28:17: ja also der Torsten Neuzack gesagt wenn man solche Versuche macht das waren ja Tests ja die zeigen sollen wie stark die Modelle sind dann beobachtet man es genau.

00:28:25: dann merkt man auch wenn die auf einmal völlig andere Dinge machen, als man antizipiert hat.

00:28:31: Und einer

00:28:31: ist jetzt

00:28:32: ... Ich fand es

00:28:32: sehr spannend!

00:28:33: Ich hatte neulich ein Wissenschaftler einen Vergleich gebracht.

00:28:36: meinte Wenn bei einem Crash Test ein Auto in eine Wand fährt und dabei stirbt jemand was schlimm wäre ja dann würde man sagen diese Firma hat nicht die Sicherheitsmaßnahmen getroffen werden.

00:28:53: Das ist ein Problem der Firma, dass da nicht aufgepasst wurde.

00:28:57: Aber es wird nicht so rauskommen, das heißt ja, das Auto, das war einfach crazy!

00:29:03: Sondern wenn man einen Crash-Ass

00:29:05: macht ... Was können

00:29:08: wir dafür?

00:29:08: Wenn das Auto irgendwie ein Seilte macht oder so was und ... Also ich denke, das ist ganz richtig, das noch mal deutlich zu machen dass auch ein Resultat war von eben mangelnden Sicherheitsvorkehrungen und der Fehleinschätzung des eigenen Modells, vielleicht ja eben kam es auch handy.

00:29:28: Was ich noch mal fragen wollte zu dem offenen Brief geht ist es so?

00:29:33: in dem offenden Brief steht nicht drin gibt Gib OpenAI mehr Geld, gell?

00:29:38: Das stimmt.

00:29:40: Sondern der ist ja so formuliert im Prinzip hey wir als führende Anbieter von dieser Technologie.

00:29:48: Wir rufen jetzt alle dazu auf mehr zu investieren in Cyber Sicherheit und in Verteidigung Und dass auch Governments also Regierung da mehr hinschauen müssen.

00:30:02: Genau aber natürlich auch mit dem Ja, mindestens neben Aspekt.

00:30:07: Es braucht KI um uns zu verteidigen und das ist natürlich dann schon der Weg auf dem sich Open AI wiederum erhofft an der ganzen Sache auch finanziell beteiligt zu sein.

00:30:17: also so wie eben ein Tropic oder Mythos nur manchen Unternehmen zugänglich gemacht wird So könnte man ja weitermachen sagen wir brauchen noch stärkere Modelle und es steht zumindest indirekt auch drin Und die müssen da nun den Verteilung zugängig gemacht werden.

00:30:29: wer kann in diese modell entwickeln?

00:30:31: Also dass Natürlich hofft Open Air darauf, da was verkaufen zu können bei den Verteidigerinnen.

00:30:38: Und letztlich, das fand ich auch noch ein interessanter Punkt, wird er immer gesagt.

00:30:41: Naja diese Archäi-Agenten werden ja so autonom und die wollen unbedingt Probleme lösen und deswegen ist es überhaupt erst passiert.

00:30:47: Die wollten ja unbedingt ... Diese Hackingaufgaben, es war ja ein Test um zu zeigen wie stark sie sind, die wollten unbedingt lösen, die sind so autonom.

00:30:53: Dann machen die eben Dinge, die wir nicht erwarten weil Sie halt nicht aufgeben wollen.

00:30:59: Das ist aber kein Naturgesetz.

00:31:00: also diese Agenten sind ja deshalb soweit Menschen, die so designed haben Weil Firmen wie OpenAI gesagt haben, wir wollen das so.

00:31:07: Wir wollen dass die Menschen nicht mehr so viel machen müssen sondern die KI-Agenten sollen selbstständig entscheiden und auch das ist ein Punkt an dem man ja ansetzen kann.

00:31:14: also zum Beispiel finde ich schon was da Regulierung einsetzen muss.

00:31:18: man sagt nein wir wollen es nicht!

00:31:19: Wir wollen nicht dass diese Agenten so ausgemacht werden, dass sie Entscheidungen treffen die nicht...die wird die Kontrolle verlieren.

00:31:27: Und jetzt bin ich jetzt der spannende Gedanke.

00:31:29: also es sind ganz spannenden Gedanken denn du hast weil das geht ja jetzt in wirklich Richtung sozusagen welches Narrativ Was erzählen wir der Öffentlichkeit?

00:31:38: Man könnte ja jetzt als großes KI-Unternehmen der Öffnlichkeit sagen, wir geben unseren Modellen mehr Kontext.

00:31:46: Wir hegen unsere Modelle ein und arbeiten mit Regierung zusammen um eine bessere Regulierung zu erzielen.

00:31:55: Das wäre auch einen offenen Briefdema schreiben könnte – haben Sie ehrlich!

00:31:59: Der offene Brief ist okay, wir brauchen mehr Cybersecurity.

00:32:02: Weil, oh krass diese Modelle die sind einfach so mächtig und um diesen ganzen Gefahren vorzubeugen müssen wir uns besser schützen.

00:32:11: Und das finde ich interessant weil man da ... Eigentlich finde ich es erzählt es uns eben auch eine Geschichte über.

00:32:18: wie erzähle ich eine Geschichte?

00:32:20: Es hat Ablenkung

00:32:21: auf.

00:32:21: Genau mit welchen offenen Briefen lenke ich von welchen Sachen ab!

00:32:26: Genau, und das glaube ich ist der ganze Zweck von diesem offenen Brief.

00:32:30: Diese anderen Diskussionen gar nicht erst aufkommen zu lassen.

00:32:34: Ja, und wie gesagt sorry es kommen wir in

00:32:36: die Karriere.

00:32:37: Hört uns zu für mehr Einordnung, wie man solche Dinge auch lesen kann oder lesen muss gerade vor einem möglichen Börsengang Oben AI.

00:32:48: Sehr spannend, passt auch so ein bisschen in die Kerbe würde ich euch gerne an der Stelle empfehlen.

00:32:53: Ich war nämlich in einem Podcast zu Gast vom Deutschlandfunk und er heißt nach Redaktionsschluss wird moderiert von Markus Richter einen Moderator den ich sehr gerne mag, den ich auch in anderen Podcasts sehr gerne zuhöre Und es fand ich sehr spannend, weil da war nämlich ein Hörer dabei.

00:33:10: Der Kritik hatte an einem Tech-Podcast vom Deutschlandfunk und ich fand die Kritik so spannend.

00:33:15: der hat nämlich unter anderem gesagt, boah ey bei diesen Tech- Podcasts wenn's ja nur noch um KI KI KI geht dann hab' ich einfach ausgeschaltet.

00:33:25: Das fand ich total spannend!

00:33:27: Und hab ich mich gefragt, geht's euch auch so?

00:33:30: Also ... Ich hab von mindestens einem höherer Aufmacht zu Don Liend das Feedback bekommen.

00:33:37: Boah, schon wieder ein KI-Thema, könnt ihr nicht mal was anderes machen?

00:33:40: und dachte, wir sind kein KI-Podcast, ne?

00:33:42: Wir sind Tech-PodCast!

00:33:43: Aber tatsächlich werden wir überrannt von diesen KI-Themen und dann kommen natürlich meine innere Missionen dazu, euch immer warnend zu wollen vor den Narrativen

00:33:52: usw.,

00:33:53: aber ich versteh es schon, dass man gerne wieder andere ... andere Themen hören möchte.

00:33:59: Ja, und deswegen tatsächlich eine Frage an euch.

00:34:01: Ich würde auch echt gerne wissen wie geht es euch eigentlich?

00:34:04: Damit?

00:34:04: welche Themen fehlen euch?

00:34:06: ist es zu viel KI oder Fightors Schwerpunkt?

00:34:10: ich glaube der Hörer in deinem Fall hat auch so ein bisschen so eine Art von zu voraussetzungsreich zuviel Und das.

00:34:17: übrigens sehe ich tatsächlich auch einen anderen KI-Podcast ein bisschen dieses dass dann zwei Haust sich gegenseitig Ja, so ein bisschen zeigen und was die alles über KI wissen.

00:34:26: Und dabei gar nicht mehr nachdenken, was ist das?

00:34:30: Was wollen unsere Hörerinnen und Hörern?

00:34:33: Wenn ich mit dir hier rede haben will ... Ich hab schon immer vor Augen, wer hört denn hierzu?

00:34:38: Was haben wir uns für Feedback zulässt bekommen?

00:34:40: Was interessiert unsere Hörterein und Hörer?

00:34:42: Genau!

00:34:42: Da wär's super hilfreich.

00:34:44: Wir kriegen ja viel Feedback von euch aber hätten noch mehr.

00:34:47: Vor allem zu der Frage Themenmix, ja.

00:34:49: Wie geht es euch mit uns gerade?

00:34:51: Genau,

00:34:52: Themenmics und auch gerne Feedback zum Thema KI-Berichterschattung.

00:34:57: wie findet ihr?

00:35:00: Was denkt ihr?

00:35:02: Was können wir besser machen.

00:35:05: Für uns ist es natürlich immer wichtig, das merkt ihr ja auch, dass wenn wir KI-Themen behandeln, dass wir zum einen Besuchen immer Kontext zu geben also die Dinge eben nicht in fünf Minuten zu erklären sondern auch das eben ein bisschen auszuweiten und das Ganze ein großes Bild zurückzurücken was dann natürlich auch immer ein bisschen Zeit braucht.

00:35:21: Und das andere, was wir immer versuchen.

00:35:25: Was uns aber auch nicht immer gelingt ist, Dinge zu Ende zu erzählen.

00:35:30: Das war ein Feedback von dem Hörer-Waar, dass manchmal mit großen Tatamthemen so angerissen werden und dann diese Geschichte nicht zu Ende erzählt wird oder weiter begleitet wird.

00:35:40: Gerade finde ich in einem Podcast, was ja wie bei uns, jede Woche rauskommt, dass man Themen anreist und dann in einem halben Jahr guckt, was wurde eigentlich aus?

00:35:51: Aber das hab ich mir so für uns auf die Innere Liste schon geschrieben, Eva.

00:35:54: Vielleicht machen wir es mal als Kategorie.

00:35:56: Weißt du noch wie beim Stern diese Artikel?

00:35:59: Was macht eigentlich ...

00:36:01: Das hat ja nicht nur der Stern, ist eine ganz beliebte Kategorie.

00:36:05: Stimmt aber vielleicht auch nur mal gewesen von früher.

00:36:08: Ja, Dinge weiterverfolgen und schauen, was ist draus geworden.

00:36:11: Nicht nur einen Eintagsliegen-Geschichten machen.

00:36:15: Gute Idee!

00:36:16: Schöner Plan, machen wir.

00:36:18: Danke euch auch diesmal wieder fürs Zuhören.

00:36:21: Wir hören uns wieder in einer Woche mit einer, das kann ich jetzt schon sagen, mega spannenden Folge!

00:36:26: Denn Eva und ich sind beide auf der IFA Und wir werden uns mit Robotan, aber auch mit Wearables und Gadgets rumschlagen und euch sicher erzählen können was die möglicherweise neuesten Trends sind.

00:36:43: Bin ich schon selber freuchbar und gespannt drauf, also hören wir uns wieder nächste Woche Mittwoch!

00:36:49: Wir erzählen euch was ihr haben wollt oder auch nicht?

00:36:52: Ja sehr schön!

00:36:54: Bis nächste Woche.

00:36:54: lasst euch gut gehen, passt auf euch auf und schreibt uns auf den bekannten Kanälen.

00:37:00: Das war Daytalk Tech ein CT-Podcast von mir Eva Wollfangel

00:37:04: Und von mir Svea Eckert.

00:37:06: Musik und Produktion Marco Pauli Macht's Gut Tschüss.