Alle Episoden

69 min

AfD-Hacker enttarnt, Kühlanlagen gehackt, Nvidia-Chef in der Honigfalle. Und: Jutta Horstmann zum Digitalgipfel

Ein Jahr nach dem „Souveränitätsgipfel“ heißt das Motto „Shaping AI“, und der Kanzler erklärt die Google-Cloud für den BND zur europäischen Lösung. Jutta Horstmann, Open-Source-Unternehmerin seit mehr als 20 Jahren und frühere Chefin des Zentrums für Digitale Souveränität, war dabei und nennt das ein Feigenblatt. Sie erklärt, warum die Delos Cloud eine Verrenkung mit Steuergeld ist, warum Microsofts Quellcode im Schweizer Bankschließfach niemandem hilft, warum man mit VMware und Oracle anfangen sollte statt mit Word, und wieso Deutschland keine Frontier-KI braucht, außer für eines. Dazu: Was sie selbst nutzt, seit 26 Jahren ohne Windows.

Vorher: Der Spiegel hat den mutmaßlichen...

65 min

Evas seltsames Interview mit einer KI-Schauspielerin, Spyware im Bundestag und der Binance Hack mit Clara Schneidewind

Donnerstagabend, kurz nach neun: Innerhalb von 20 Minuten fließen 6,3 Milliarden Dollar aus den Wallets von Binance ab, der größten Kryptobörse der Welt. Das FBI zeigt auf Nordkorea. Clara Schneidewind vom Max-Planck-Institut für Sicherheit und Privatsphäre erklärt, wie der Hack ablief, warum die Welt beim Abfluss zuschauen kann und das Geld trotzdem weg ist, wem die Coins auf einer Börse gehören und wie man sechs Milliarden wäscht.
Vorher: Eva hat die KI-Schauspielerin Tilly Norwood interviewt, die ins stottern geriet. Und Apple warnt Bundestagsabgeordnete vor Söldner-Spyware auf ihren iPhones. Was die Warnung bedeutet und wer solche Software verkauft. Dazu: Sveas Buch...

55 min

Eva hat mit den Hackern der AfD gechattet, und Svea als falsche Professorin

Januar 2018, ein Hotel in London: Svea steht mit Perlenohrringen vor dem Spiegel und wird zu Dr. Isabella Stein von der Hochschule Himmelpforten, die es nicht gibt. Gleich hält sie gemeinsam mit einem Kollegen einen Vortrag aus gewürfelten Sätzen, mit Messungen per Game Boy. Niemand merkt etwas. Später geht eine Krebsstudie durch, die Chemotherapie durch Bienenharz ersetzen will. Wichtigste Quelle: ein Bilderbuch für Kleinkinder. Was damals eine Recherche über Raubverlage war, ist heute ein KI-Problem: Chatbots geben erfundene Krankheiten als echt aus.
Vorher: Svea erklärt PHP2Shell, die Lücke, die letzte Woche die Charité und halb Nextcloud offline nahm, und was...

70 min

Der Roboter war's nicht: Der Kölner Fall. Und: Alke Martens über ihr neues Buch „Dumm dank KI?"

„Roboter soll 16-Jährige belästigt haben", so lief die Schlagzeile in den Nachrichten. Was in Köln wirklich passiert ist: Zwei Streamer haben einen 25 Kilo schweren Unitree R1 per Joystick gegen den Hintern eines Mädchens gesteuert, live gestreamt. Svea und Eva haben die Videos gesichtet und erklären, warum das Ding nicht mehr Eigenleben hat als ein ferngesteuertes Auto, wer jetzt haftet und ob man so einen Roboter einfach umtreten darf.
Danach Alke Martens, Informatikprofessorin in Rostock und mit mehr als 270.000 Followern die KI-Erklärerin auf Instagram. Sie nimmt uns mit von Weizenbaums ELIZA bis zum Transformer, erklärt, warum ChatGPT am Ende...

32 min

Ein Hack bis zum Blackout: 470.000 Solaranlagen am seidenen Faden

Login-Typ auf 5 setzen, kein Passwort nötig, drin. So simpel war die Lücke in der Cloud von Sungrow, dem zweitgrößten Wechselrichterhersteller der Welt. Ein ethischer Hacker aus Kassel hätte damit 470.000 Solaranlagen in Europa auf einen Schlag abschalten können, 18 Gigawatt mitten im August. Das Stromnetz verkraftet rund drei. Eva erzählt, was sie in den internen Daten gefunden hat, warum Sungrow drei Wochen lang schwieg und wieso der Hacker für seinen Fund 800 Euro bekam.

Danach die Aufreger-Ecke: OpenAI hat 722 Manuskripte zu offenen Matheproblemen auf GitHub gekippt. Die Mathe-Community ist gespalten, ein Verband fordert den Bruch mit OpenAI. Durchbruch...

66 min

Voice Phishing und das Problem sitzt nicht vorm Rechner - mit Prof. Angela Sasse

„Hallo, hier die IT, wir migrieren gerade den Login." Ein Anruf auf Niederländisch, eine nachgebaute Anmeldeseite, ein Callcenter-Account. Mehr brauchte es nicht, um beim Telekom-Anbieter Odido die Daten von über sechs Millionen Menschen abzuziehen. Kein Deepfake, keine KI - Svea erzählt, wie ShinyHunters vorgehen, warum die niederländische Polizei den Anruf im Fernsehen abspielte und was das FBI damit zu tun hat.

Danach Angela Sasse, Professorin für Human-Centred Security in Bochum. 1999 schrieb sie „Users are not the enemy", bis heute einer der meistzitierten Texte des Fachs. Ihre These: Awareness-Training ist meist das Billigste, nicht das Wirksamste. Warum Passwörter ein Relikt...

42 min

„Das ist Mord“: Sabotieren KI-Agenten ihren Ausschalter? Und die stillen Helferlein von Metas Muse

Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt haben, warum Metas eigene Leute vor „so much negative PR“ warnten und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google Duplex bis zu Amazons Supermärkten.

Danach die Studie der Woche: KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was Alignment ist und warum die Maschine trotzdem...

66 min

Anthropomorphisierung: Warum Maschinen nichts wollen. Und: Ex-Meta-Forscherin Anneke Buffone

Der Himmel küsst die Erde, schreibt Eichendorff 1837. Heute titeln Zeitungen die KI sei “ausgebrochen”. In dieser Folge nehmen Svea und Eva diesen Reflex auseinander: warum wir KI so oft vermenschlichen und woher der Begriff Anthropomorphisierung eigentlich kommt. Spoiler: Ein Grieche um 500 vor Christus hat diese Technik bereits benutzt, damals um sich über die Götter lustig zu machen. Weizenbaums ELIZA darf natürlich auch nicht fehlen und die Frage, wem es eigentlich nützt, wenn eine Software einen Willen zugeschrieben bekommt.

Im zweiten Teil ist Anneke Buffone im Interview, sie war sieben Jahre Forscherin bei Meta. Sie sollte messen, wie viele...

38 min

Wird KI uns alle umbringen (und warum das die falsche Frage ist) - 100 Folgen TTT

Hundert Folgen. Angefangen hat alles am 14. August 2024, damals hieß der Podcast noch "Frauen und Technik".
Svea und Eva gehen in den Weinkeller und holen drei Jahrgänge nach oben. Frederike Kaltheuner über das große Blasenterritorium. BSI-Chefin Claudia Plattner über Desinformation vor Wahlen. Julia Freudenberg über Kinder und Smartphones, mit dem Bobbycar auf der Autobahn. Alle drei klingen heute dringlicher als damals, und das ist keine gute Nachricht.
Dazwischen die Frage, warum der Bremsappell aus dem Silicon Valley eigentlich ein Produktproblem beschreibt. Warum russische Bots fast niemanden erreichen und trotzdem Schlagzeilen machen. Und warum man Journalistinnen anschreibt, damit sie eine...

53 min

IFA Besuch: Roboter, die Kaffee verschütten. Und Brillen, die dich filmen mit IT-Anwältin Karina Filusch

Neben uns tanzen Roboter - Svea und Eva sitzen für diese Folge mitten auf der IFA in Berlin, zwischen humanoiden Robotern mit Catwalk-Ambitionen, Kühlschränken, die den Salat im Blick behalten, und einem Haushaltsroboter, dem beim Kaffeekochen ungefähr alles misslingt. Klingt lustig, ist es auch… wenn da nur nicht überall Kameras verbaut wären. Aber auch dafür gibt es inzwischen lokale Lösungen. Wir ordnen ein.
Und wir widmen uns einem weiteren großen Trend: Smart Glasses, im Netz längst "Pervert Glasses" genannt. Junge Männer filmen damit heimlich Frauen auf der Straße und stellen sie auf TikTok bloß. Ist das erlaubt? Wie schnell wird...