Chatbot-(In)Security bei Instagram + Deep Dive: Wofür Svea Claude nutzt

00:00:15:

00:00:16: Hi und herzlich willkommen zu They Talk Tech, ein City-Podcast.

00:00:21: Ich bin Svea Eckert, Tech-Journalistin.

00:00:23: Und ich bin Eva Wolfange, ebenfalls Tech- Journalistin!

00:00:26: Hey, Sveaschön dich zusehen und zu hören.

00:00:29: Ja, hallo alle.

00:00:31: Hallo und schön dass ihr eingeschaltet habt ... Wir haben heute ein fettes KI-Paket für euch, kann man wirklich so sagen.

00:00:37: KI und IT Security und Use Cases.

00:00:40: also wir fangen an mit einer richtig spannenden Story rund um einen geschwätzigen Chatbot

00:00:46: Genau, und dann reden wir noch ein bisschen allgemeiner über IT-Sicherheit in Zeiten von KI.

00:00:50: Weil mein Eindruck ist schon dass viele Menschen so ein bisschen nicht hergerissen sind ne?

00:00:55: Man hört immer die ganzen Gruselgeschichten, die zu denen wir ja auch gerne beitragen.

00:00:59: aber gleichzeitig gibt es auch Menschen die sagen, die IT Sicherheit wird besser mit der Hilfe von KI.

00:01:04: das würden wir gar nochmal ein bisschen auseinander klarmüßern.

00:01:07: Plautest du noch ein bisschen aus dem Nähkästchen, oder wo hast du deinen Agenten?

00:01:12: Genau.

00:01:13: Den hab

00:01:13: ich wirklich im Keller sitzen.

00:01:15: Ja wir machen auch einen kleinen Deep Dive wie man Claude als persönlichen Assistenten einsetzen kann einfach um mal Newscase zu geben.

00:01:26: Bevor wir dahin kommen und auch zu eurem Feedback Wirklich diese spannende Story, die jetzt aufkam vor einer guten Woche war das ungefähr.

00:01:36: Hat Forer for Media sowieso ein großartiges Outlet berichtet.

00:01:41: Das Cyberkriminelle kann man schon so sagen Metas KI Support Chatbot gehackt

00:01:47: haben.".

00:01:48: So wie ich es dann mit deinem Claude und deinem Keller auch mal mache, den frage ich auch immer nach deinem Instagram Passwort.

00:01:55: Ah!

00:01:56: Genau sie haben nämlich tatsächlich den Support Chatbot eigentlich nicht gehackt sondern so social engineered kann man sagen.

00:02:02: oder Sie haben diesen Chatbot überzeugt.

00:02:04: die E-Mail Adresse von fremden Instagram konnten unter anderem Barack Obama oder Obama White House die Adresse zu ändern sodass die Hacker in einen Zugriff auf diese Accounts bekommen haben.

00:02:15: und aufgefallen ist das weil Obama auf einmal ganz seltsam Dinge gepostet hat.

00:02:20: Genau, also es ging so vielleicht einmal von Anfang noch mal erzählt Instagram hat ein Support-Chat-Pod eingeführt und das war eben nicht so einen Chatbot der einfach die Fragen aus dem FAQ beantwortet oder der dann sagt hier klickt mal auf diese Seite hier das habe ich dir unter diesen Link zusammengestellt sondern quasi ein intelligenter Chatbot.

00:02:41: also dass was man sich ja eigentlich wünscht... Was

00:02:43: man so gerne hätte!

00:02:44: Ein Chatbot, der wirklich etwas tun kann.

00:02:47: Oh, Überraschung.

00:02:49: Entschuldigt man der wirklich was tun kann?

00:02:50: Der kann auch Schaden anrichten!

00:02:53: Ja und genau das ist passiert... Es war wie du schon kurz angerissen hast eigentlich ein fast lächerlicher Plumpertrick den man anwenden kann.

00:03:04: Man hat als Angreifer die haben schlicht ein Gespräch mit dem Metakai Supportbot gestartet und ihn dann einfach gebeten eine neue E-Mail Adresse mit einem fremden Konto zu verknüpfen.

00:03:16: Also so was wie, hey das ist meine neue E-Mail Adresse und das ist mein Account Name!

00:03:22: Und ich schick dir hier mal ein neues Passwort zu ungefähr.

00:03:25: also es gab im Prinzip kein Exploit, kein Code keine Lücke im klassischen Sinn sondern der Bot hat dann die neue E mail Adresse angehängt und wer da eben genau diese e mail adresse kontrolliert hat Der konnte dann Passport Reset, Verifizierungscode anfordern und das Konto übernehmen.

00:03:44: Und das hat Meta dem KI-Support im März genau diese Rechte gegeben.

00:03:51: Das ist natürlich eigentlich der totale Wahnsinn!

00:03:55: Ja man fragt sich tatsächlich ob Meta sowas nicht hat kommen sehen?

00:04:01: Wie verrückt ist das?

00:04:03: Ich würde jetzt unterstellen, dass Metas sich schon ein bisschen mit KI auskennt und weiß was schiefgehen kann.

00:04:07: Es gab ja wirklich viele Angriffe ähnliche Art wo Leute Chatbots überzeugt haben inklusive mir übrigens Dinge zu tun, die sie nicht tun sollten.

00:04:16: Mich ärgert es auch fast ein bisschen dass ich nicht auf die Idee gekommen bin wenn das so einfach ist.

00:04:21: wahrscheinlich muss man erst mal drauf kommen dass es so einfach sein kann.

00:04:25: ja es hat dann auf jeden fall eine weile auch gedauert bis das jetzt raus kam also vor media die haben berichtet.

00:04:32: das ging dann erstmal in so telegrammgruppen hin und her das ist schon eben vor ein paar wochen aufgefallen Mutmaßlich einige Accounts übernommen worden, wobei man nicht immer weiß war es jetzt deswegen?

00:04:45: das kann man natürlich am Ende nicht so auseinander halten.

00:04:48: Es hat dann auf jeden Fall irgendwie ein Obama White House Account getroffen.

00:04:53: Das hat große Unternehmensaccounts getroffen und Also es gibt diesen eine Möglichkeit, dass das dann genutzt wird für so Hacktivismus.

00:05:01: Also Leute die über diese riesigen Insta-Accounts in welcher politischen Botschaften verbreiten wollen Es gibt aber auch Accounts, die werden aus rein finanziellen Interessen übernommen.

00:05:11: Ich habe das schon oft recherchiert oder beobachtet dass diese Accounts sehr wertvoll sind.

00:05:16: Also gerade die, die dann vielleicht nur aus einem Namen bestehen oder eine Buchstabenkombination oder zum Beispiel so der Instagram-Iphone-Account oder so, also diese ... wo man dann sagt okay, die sind auf dem Schwarzmarkt richtig viel wert.

00:05:29: und das Dramatische war es kann, also man denkt jetzt so krass.

00:05:33: aber es wurde eigentlich noch krasser weil als die Leute dann versucht haben ihre Accounts wiederzubekommen da haben sie erst mal niemanden richtig erreichen können.

00:05:42: Die

00:05:42: kennen wohl den Trick nicht.

00:05:44: Hätten die gemusst, dass sie nur den Chatboard anschreiben müssen?

00:05:47: Stimmt

00:05:47: ja!

00:05:50: Aber die Leute haben also dann wie verzweifelt versucht ihre Accounts wieder zurück zu bekommen und dann war aber beim Support niemand mehr.

00:05:58: Die konnten sozusagen beim Meter selber niemanden erreichen, der ihnen dann helfen konnte.

00:06:03: Und es hat sehr lange gedauert bis die Leute ihre Accounts wiederbekommen haben und das ist wohl damit ein Hergegang.

00:06:10: so berichtet, dass auf jeden Fall vorvor, dass Meter im gleichen Atemzug eben Support gekündigt hat.

00:06:17: Ja klar!

00:06:18: Das ist diese ...

00:06:19: Okay wir haben ja einen tollen Chatbot, der macht dir Support, er soll richtig.

00:06:23: was können?

00:06:26: Dementsprechend haben dann die Leute niemand mehr erreicht.

00:06:29: Das ist vielleicht auch das gefährlichste aktuellen KI-Hype, dass Leute das Firmenmenschen entlassen, die was draufhaben und Chatbots Rechte geben wie wir ja alle wissen... nicht sicher funktionieren können, die genauso auf solche Sachen natürlich reinfallen.

00:06:44: Weil sie – und das haben wir ja schon auch besprochen – keinen Kontextverständnis haben und kein Weltwissen.

00:06:49: Und weil man Chatbots Social Engineering kann so wie man es eben mit Menschen tun kann.

00:06:54: Ich finde wie der Fall zeigt ist es viel einfacher als Menschen zu überzeugen Dinge zu tun, die sie nicht tun sollen wenn der Chatbot so bereitwillig hilft.

00:07:02: Ja, und ich finde das ist so eine problematische Mischung aus sozusagen dummer Chatboard.

00:07:08: Und Konzern spart Trust and Safety Team weg und ersetzt durch Software.

00:07:13: Das finde ich jetzt wenn wir nochmal einen Schritt zurückgehen und raus.

00:07:16: Es ist ja eigentlich fast das größere Problem, dass zur Zeit einfach ... viele Menschen dann nicht neu eingestellt werden oder ersetzt werden.

00:07:25: Gerade auch zum Beispiel in diesem ganzen Support-Bereich, weil da geht es ... Also das ist am einfachsten.

00:07:31: Das sind vielleicht auch gerade die Leute, die jetzt nicht die problematischsten oder längsten Verträge haben?

00:07:36: Das sind die Leute ,die man vielleicht auch am einfachen Wegrationalisieren kann.

00:07:39: Vielleicht auch, weil sie bei Trittanbietern sitzen und gar nicht bei der eigenen Firma sitzen, weil man die Verträge gut kündigen kann.

00:07:46: Und das ist aber eigentlich das Scharnier was fehlt wenn wirklich dann ein Problem auftritt.

00:07:53: Meter hat vielleicht hier wichtig noch zu erwähnen, Meter hat das Ganze noch am selben Abend dann nur dürftig gestopft.

00:08:00: also ... Das heißt sie haben da einen Art Hotfix gemacht?

00:08:05: Ich weiß

00:08:06: nicht wie ich ... War wahrscheinlich im Chatbot gesagt du darfst nichts und seither funktioniert der wieder gar nicht mehr und man kann eigentlich überhaupt nichts erreichen!

00:08:15: Die Leute konnten sie ja nicht immer schnell wieder einstellen.

00:08:18: Aber ich finde die Geschichte zeigt, es steht eigentlich sozusagen Passportrote für eine größere Entwicklung, die wir im Moment sehen.

00:08:25: Ja und das ist eigentlich ein schönes Beispiel auch um zu klarzumachen was das Problem daran ist und wie schnell das gehen kann dass man so richtig blöd dasteht und es eben nicht so schnell wieder fixen kann aber die Leute eben nicht einfach wieder herkriegt.

00:08:38: Ist vielleicht jetzt auch ganz guter Zeitpunkt um einmal aufzu... Zoomen.

00:08:43: Eva, du hast ja viel zu dem Thema IT-Sicherheit recherchiert.

00:08:47: Das ging ja eigentlich los mit Mythos, haben wir eine ganze Folge dazu gemacht wo wir diese Frage gestellt haben wie viel ist Hype?

00:08:55: Wie viel ist auch dran mal unbeachtet dessen.

00:08:58: Ist es ja tatsächlich so dass wir jetzt mit KI Lücken schneller finden können, lücken schneller auftauchen.

00:09:06: Solche Chatbots eingesetzt werden durch KI auch viel unsichere Software entsteht.

00:09:12: Wo stehen wir da deine Ansicht nach?

00:09:14: Ich glaube das ist genau das Problem dieses große Missverständnis eigentlich so dass viele reden über dieses Jahr Mythos und andere KI-Systeme die jetzt auf einmal Schwachstellen finden, die vorher niemand gefunden hat und alles sehr ganz gefährlich.

00:09:28: Und gleichzeitig ... Es gibt ja, ich würde sagen jeden Tag so eine Meldung.

00:09:31: Ich meine klar die mit Meterweiß besonders groß weil auch besonders dumm und natürlich dir auch die sich die größten Accounts geschnappt haben.

00:09:39: aber es gibt ja fast jeden tag so Meldungen wo man sieht dass KI genutzt wird für Dinge für die's nicht schlau ist KI zu nutzen das KI-Agenden auf ne Art und Weise eingesetzt werden die einen dann angreifbar macht.

00:09:51: Ja und das haben wir beide ja auch immer wieder ausprobiert und diskutiert Das wenn KI-Agenten Zugriff Also wenn KI gern so richtig gut funktionieren soll und ich bin gespannt, wenn wir nach darüber sprechen wie du es gelöst hast.

00:10:03: Dann müssen sie viele Rechte haben und dann bist du angreifbar dadurch Und das glaube ich ist das große Missverständnis dass eigentlich die Hauptprobleme passieren Wenn Menschen eben ja ohne sich Zu viel Gedanken über Sicherheit zu machen oder ohne sich überhaupt damit zu beschäftigen, wie AI eigentlich funktioniert und was ein AI-Agent kann.

00:10:25: Und wo eben die Schwächen sind solche Dinge einsetzen weil es halt so schön bequem ist, weil man dann angeblich sparen kann und Leute entlassen kann und das macht alles... sehr unsicher.

00:10:35: Wir hatten ja auch verschiedene Recherchen und Berichte über weibgekodete Websites, die Daten verlieren – das wächst übrigens als ich sehe wirklich immer mehr.

00:10:45: Ich würde sagen, dass ist das größere Problem, dass jetzt schlaue KI-Modelle Sicherheitslücken finden können vielleicht auch welche, die Menschen noch nicht gefunden haben.

00:10:57: Das ist eigentlich etwas was mindestens Gleichberechtigt ist zwischen einen GreiferInnen und VerteidigerInnen eigentlich gleichberechtigte Vorteile unter Zweifel, die Verteiligung sogar ein bisschen in Vorteil hat.

00:11:09: Weil sie natürlich genauer weiß was für Systeme sie gebaut haben und wie man diese Schwachstellen finden oder auch fixen kann während Angreifer ja erst mal noch im Angriff entwickeln müssen.

00:11:20: Wie siehst du das denn mit Mythos?

00:11:23: Also mein Eindruck ist diese Frage... Machen uns KI-Systeme sicherer oder unsicherer, ist die falsche Frage.

00:11:34: Beziehungsweise sie führt zu einer Antwort, die meiner Ansicht nach nicht zielführend ist.

00:11:39: Weil wenn man fragt, machen uns KI Systeme sicherere oder unsicherer, muss man diese Frage beantworten?

00:11:44: Ja, machen wir uns sicherer und unsicher!

00:11:47: Sondern ich denke es ist beides wahr... Jetzt in der Vergangenheit wieder Kontakt gehabt auch zu einigen Entwicklerinnen, die mir gesagt haben.

00:11:57: Für ihre Arbeit also für das was sie professionell tun hilft ihnen KI und hilft ihnen auch KI Produkte sicherer zu machen weil sie bestimmte wenn Sie im Programm geschrieben haben, wenn sie bestimmten Anwendungen fertig gemacht haben, weil sie sagen können wir können die noch mal anders härten.

00:12:14: Wir können auch KI nochmal so wie du vielleicht einen Text Fakt checken kannst.

00:12:18: Wo du natürlich auch weißt, okay ich kann das nicht eins zu eins übernehmen aber wenn jeder Bugs oder Sachen findet die KI dann kann ich da dran und kann ich noch mal reinschauen.

00:12:26: Dann kann ich nochmal ändern.

00:12:27: von daher denke ich dass viele auch profitieren werden.

00:12:31: also gerade wenn Du ein bisschen Code Verständnis hast vielleicht nicht der super IT Security Experte Expertin bist Aber Du hast einen Code Verstandnis dann kannst Du mithilfe von KI Deine Produkte auch sicherer machen.

00:12:44: deswegen denke Ich Dass wenn wir nur über das eine oder andere reden, dass die Debatte einfach zu sehr verkürzen.

00:12:55: Oder einfach zu zerdicht machen?

00:12:56: Was denkst du denn Eva?

00:12:58: Hast du ne Faustregel oder ein Art Bauchgefühl, welche Aufgaben man an der KI geben darf und wann besser nicht?

00:13:04: Gibt es eine Grenze, die du ziehen würdest?

00:13:07: Ganz Beispiel Support Chatbot-Fragezeichen.

00:13:11: Also ja genau.

00:13:12: Support Chatbots und das ist was, was ich oft höre, diese große Diskussion.

00:13:17: wo spart KI uns eigentlich so viel ein Geld und Ressourcen?

00:13:21: Und oft wird gesagt, ja Support Telefonen, Support Core Center werden jetzt zusammengespart usw.

00:13:28: Und tatsächlich muss man sagen also Core Center sind ja auch tatsächlich Institutionen, die einem nicht so viel weiterhelfen.

00:13:33: bei ernsthaften Problems Wirst du immer irgendwann entweder weitergelegt an den echten Expertinnen im Unternehmen oder du hast High-Pech gehabt.

00:13:40: Und extremer noch geht es natürlich für KI Assistenten, die dann Telefonanrufe oder solche Supportanfragen beantworten.

00:13:47: was sie glaube ich schon gut können ist Material durchsuchen, Infomaterial.

00:13:51: Die helfen die Antwort auf eine Frage zu finden in Material was eigentlich vorliegt.

00:13:56: Also was sie auch gut können sehen ist Passwörter ändern und ihm mehr Interessen erinnern.

00:13:59: aber das sollte man sich eben nicht machen lassen!

00:14:01: Und da glaube ich liegt ihm die Crooks ne?

00:14:03: Wenn die so richtig nützlich sein sollen dann müssen Sie

00:14:06: Weitereiche

00:14:08: Rechte haben und dann wird es gefährlich Ob für meinen Eindruck keine Lösung.

00:14:14: Also einfach aus dem logischen Grund, dass das eben KI ist.

00:14:18: Es sind immer Systeme die keinen Kontextverständnis haben und keinen Weltwissen haben.

00:14:25: Die nicht wissen welche ihre Aktionen... zu Problemen führt.

00:14:29: Und selbst wenn man und was dann Firmen machen, ist natürlich die sagen dann diesem Chatbot du darfst jetzt das und dass nicht machen weil das ein Problem.

00:14:36: Dann kommen schlaue Menschen Sicherheitsforscherinnen oder Hackerinnen und überlegen sich eine Ausrede ja eben so klassische Social Engineering und sagen dem Chatbot warum er das in diesem Fall doch machen darf?

00:14:46: Weil im Zweifel das Leben von jemandem dran hängt.

00:14:49: also das ist der Trick mit dem ich bei diesen angeblichsten anxiety Therapieagenten weitergekommen bin.

00:14:55: Wenn man das genug eskaliert und kreativ genug ist, dann kann man solche Chatbots immer über Redendinge und Lücken finden.

00:15:02: Dieses klassische Lückenfinden was Hecker ihnen eben auch gut können rauskriegen.

00:15:06: Wo könnte die logische Lücke sein?

00:15:08: Da wird dieser Chatbot trotz seiner Erziehung und trotzdem eine Anweisung, was er nicht tun darf.

00:15:14: Das dann eben doch tut.

00:15:15: Und das wird für immer ... Das ist wirklich meine Profi-Zein.

00:15:19: Es wird ein Thema sein mit großen Sprachmodellen, weil sie auf Sprache reagieren.

00:15:25: Man hegt sie gänzlich ein mit festen Regeln aber sind sie nicht mehr nützlich oder man versucht es mit solchen Prompts die zur Sicherheit zu erziehen.

00:15:32: Aber das wird nie richtig sicher sein würde ich

00:15:35: sagen.

00:15:35: Ich glaube so der Stichwort aus der IT-Sicherheit ist da Least Privilege.

00:15:40: ist, der Bord bekommt nur die Rechte, die er unbedingt braucht.

00:15:45: Ich glaube es ist schwierig das Pauschal abschließend zu beantworten so nach dem Motto setzt nie einen Chatboard ein mit KI, setzt immer an Chatboard Ein mit KI sondern tatsächlich ist einfach die Frage welche Rechte bekommt er?

00:15:58: Das hast du ja schon schön beschrieben eben und dass man dann da gibt es ja Möglichkeiten auch abzustufen und zu sagen okay diese Rechte braucht er nicht!

00:16:09: Das gilt ja immer.

00:16:11: Ich habe recherchiert ein bisschen zu der Frage, was sind denn die wichtigsten Tipps im KI-Zeitalter für Menschen, die sich schützen wollen?

00:16:18: Interessanterweise kommt man eigentlich immer auf diese ganz klassischen IT-Sicherheitsmaßnahmen, die auch schon vorgegolten haben!

00:16:26: nicht zu viele Rechte zu vergeben.

00:16:28: Das galt eben vorher auch schon, und das ist übrigens auch das was Angreifer ihnen auch vorher ausgenutzt haben.

00:16:33: Und also so minimalistisch bleiben nicht zu viel Programme, weil die auch jeweils natürlich wieder Fehler Sicherheitslücken oder rechte Probleme haben können

00:16:42: usw.,

00:16:42: man kommt eigentlich auch wenn es um KI geht immer wieder auf die gleichen Regeln, wie man sich selbst schützt.

00:16:50: Das finde ich ganz spannend!

00:16:52: Und da vielleicht auch noch mal, weil man das vielleicht jetzt im Hinterkopf hat oder verwechseln könnte.

00:16:57: Es gibt ja viele die sagen um solche Bots zuverlässiger zu machen, da setzen wir ein Rack auf ne?

00:17:04: Ich weiß nicht ob euch das was sagt.

00:17:05: Rack Retrieval Augmented Generation.

00:17:08: Da geht es darum dass solche Modelle ihre Antworten nur aus geprüften Dokumenten ziehen statt sich etwas auszudenken.

00:17:16: aber Es mag ein Wissensproblem lösen.

00:17:19: Also, und Bot halluciniert dann weniger, bleibt also näher an den echten Fakten vielleicht auch an den Richtlinien.

00:17:26: Das ist ja was wofür man diese Bots gerne einsetzt.

00:17:28: so keine Ahnung.

00:17:29: wir haben ein riesiges Firmen Wikipedia Und wir wollen da Firmen Wiki und wir wollen zum Beispiel oder Wir haben Anleitung Konvolute oder Regelkonvolute und Da kann ein Rack auf jeden Fall helfen.

00:17:44: nur jetzt in dem fall war es ein rechte Problem und kein Rackproblem.

00:17:50: Also die KI hätte sensible Aktionen gar nicht ausführen dürfen, Mail ändern, Passwort zurücksetzen so was Ich glaube da muss man dann auch differenzieren und zu sagen okay Was für einen Bord haben wir?

00:18:04: Was soll der machen können?

00:18:05: Was sollte er nicht machen können?

00:18:07: in dem Fall Ist es dann halt so, dass man sagt eigentlich hätte sagen müssen von Anfang an okay wir brauchen eine rechte Architektur aber krasse Sachen.

00:18:14: das ist sogar so einem Milliarden-Konzern passiert.

00:18:20: Aber es ist auch wichtig, dass solche Sachen enthüllt und aufgedeckt werden, weil am Ende können alle daraus

00:18:25: lernen.".

00:18:25: Also kann man nur hoffen, dass alle anderen jetzt die so was Ähnliches gemacht haben das wieder ausgeschaltet haben?

00:18:30: Vielleicht testen wir's dann mal bei den verschiedenen anderen Social Media Plattformen und anderen Accounts.

00:18:37: Was ich gerade ganz, was du gerade erwähnt hast, ganz spannend finde, ist wirklich diese Frage Haben VerteidigerInnen?

00:18:44: Wir haben vor kurzem zusammen mit Kai Biermann den Brian Gorins Interviews, Leiter der Zero Day Initiative.

00:18:53: Die ja auch Porn to Own veranstalten also diesen Wettbewerb in Berlin und die haben wir dieses Jahr das Problem gehabt dass sie zu viele Einreichungen hatten.

00:18:59: Und die haben irgendwann Schluss gemacht und es gab dann richtig Stress weil dort angefangen haben diese...

00:19:03: Wie eine Kars-Communication Congress?

00:19:04: Die haben immer so viel Einreichung aber die hatten quasi zuviel.

00:19:07: da können ja Hackerinnen, ethische HackerInnen da ja Sicherheitslücken einreichen, die sie gefunden haben und werden dann live auf der Bühne müssen.

00:19:15: Die dann vorführen vor Ort wenn sie akzeptiert, wenn ihre Einreichung akzeptieren wird.

00:19:18: Und da werden teilweise richtig große Sachen gefunden.

00:19:21: Wir haben es ja auch schon mal davon gehabt.

00:19:24: glaube ich eingereicht, doch genau stimmt.

00:19:25: Ein Vorläufer von der SharePoint-Lücke dann trotzdem noch existiert hat.

00:19:29: im Idealfall werden die Lücken dann geschlossen und die hatten eben viel zu viele Einreichungen.

00:19:33: und ein Grund ist sicherlich dass Menschen natürlich mit KI Modellen, Sprachmodellensicherheitslücken vermehrt finden.

00:19:39: das hat der Gorins auch bestätigt, dass das wohl der Grund war.

00:19:44: aber er hat auch gesagt Ein Beispiel genannt von welchen, die waren sich ganz sicher und hatten auch ihren Angriff eigentlich schon verstanden.

00:19:51: Aber dann kriegen sie vor Ort einen neuen leeren unbenutzten Laptop damit eben da nichts.

00:19:56: Wo eingestellt sein kann und so weiter.

00:19:58: Und die haben es dann nicht geschafft, live auf der Bühne diesen Angriff zu reproduzieren.

00:20:02: Der Grund ist dass sie KI benutzt haben und das ja auch okay um den zu finden.

00:20:06: aber das passiert... Das sieht man immer wieder!

00:20:08: Es passiert viel Leuten die Sache mit KI machen, dass sie denken Sie haben das Problem durch Drungen weil der Chatbot ihn ja auch selbst bewussten Anführungszeichen vermittelt irgendwie du bist zwar schlau usw.. Aber wenn man dann genauer nachfragt, merkt man, ah sie haben es doch nicht ganz verstanden.

00:20:24: Also dieses Gefühl ich habe es verstanden das ist glaube schon in Gefahr im Interaktion mit Chatbots auf verschiedenen Ebenen dass dieses Gefühl Ich hab was wirklich verstanden viel zu schnell auftritt und man hat's aber nicht verstanden.

00:20:35: Und das führt auch dazu natürlich Man am Ende weniger lernt als man eigentlich den Eindruck hat und da ist eben einem Team auf der Bühne nicht gelungen den Angriff zu reproduzieren.

00:20:44: und kurz drauf, die haben ja auf Twitter diskutiert oder auf X diskutiert.

00:20:48: Das ist nur noch ein Klick am Ende gefiltert eine Kleinigkeit.

00:20:51: aber das ist eben so einen Effekt von KI entwickelten Angriffen.

00:20:56: und er hat gesagt... Und da glaube ich es wirklich was dran dass er denkt langfristig hat die Verteidigungseite eben da die besseren Karten weil eben Angreiferinnen genau das Problem haben, dass sie den Angriff wirklich fertig zu Ende verstehen und entwickeln müssen.

00:21:12: ihre, also gerade wenn es um Open Source geht.

00:21:14: Die kennen ihr Ding und die finden eher die Stelle... Spannend!

00:21:17: ...die der Fixing gehört.

00:21:18: Auch wenn's natürlich auch nicht einfach ist wie wir bei den SharePoint-Lücke gesehen haben.

00:21:21: dann man macht einen Fixen und dann ist das doch nicht.. Dann ist eine andere Lücke offen oder ähnlich oder man über sieht was dabei.

00:21:27: Und was ich bei den Verteidigern gut finde ist, die patchen einmal und schützen dann alle Und deswegen auch noch mal so Open Source.

00:21:37: Ja?

00:21:37: Also, dass da halt diese ... Genau dann auch diese Möglichkeit besteht.

00:21:41: Das heißt also wenn so eine Lücke gefunden ist, wenn die öffentlich ist, ist der Vorsprung für die Angreifer weg und die Verteidiger können ihr Wissen entweder patchen oder teilen auf gemeinsamen Datenbanken.

00:21:55: So third intelligence sieht man oft bei den Antivirusherstellern zum Beispiel.

00:22:00: Das heißt also, dass die Guten dadurch auch gewinnen können und davon abgesehen.

00:22:05: Ich denke einfach das rein von der Wahrscheinlichkeit her wenn wir einfach nur Geld und Menschen vergleichen.

00:22:12: Wir haben viel mehr Menschen, die daran interessiert sind, Systeme zu härten.

00:22:17: Systeme sicherzumachen, die teilweise Millionen reininvestieren und ihre Systeme sichern.

00:22:22: Deswegen bin da auch gar nicht so pessimistisch.

00:22:24: Sondern eher dass ich denke wir haben jetzt ... Die Verteidiger haben eine gute Chance.

00:22:30: Und sind dem nicht wehrlos ausgeliefert, sondern können ja KI genauso für sich nutzen mit den Entwicklern, mit denen ich gesprochen hab.

00:22:38: Wir können unsere Systeme jetzt auch mit KI-Härten und Leute, die vorher vielleicht gar nicht so gut da drin waren, das eben auch einsetzen.

00:22:47: Gleichzeitig darf man natürlich auch nicht nachlässig werden, dass das

00:22:51: schon angedeutet ist?

00:22:52: Das ist glaube ich schon die große Gefahr!

00:22:53: Und es ist natürlich auch so, dass Leute, der vorher nicht so sehr gut war, sicher als Lücken zu finden auf der bösen Seite jetzt Vorteile haben.

00:23:00: Und das habe ich in meinen Recherchen schon gesehen.

00:23:01: Es sind viele diese sogenannten Scriptkiddies also junge Leute... Zeit haben und Geld brauchen.

00:23:09: Und die haben schon sehr viel Energie und Ausdauer.

00:23:12: Also, genau es bleibt schon spannend denke ich aber ...

00:23:16: Ja, ich denke für den Normalverbraucher das zum Beispiel Fishing, das sehe ich auch so.

00:23:22: da gehe ich davon aus dass noch weiter zunehmen wird und noch unsicherer werden wird.

00:23:27: also was Fishing angeht sowas diese Welt der total auf dich maßgeschneiderten E-Mails WhatsApp Nachrichten neulich im Podcast mit dieser Hoteldatengeschichte Maske schneiderte WhatsApp-Nachricht bekommen, wo ich übrigens viele Rückmeldungen bekommen hab.

00:23:42: Vielen Dank noch mal an alle die jetzt dazuhören.

00:23:44: Wir haben viele Menschen geschrieben auch teilweise richtig krasse Geschichten geschrieben...

00:23:50: mit den Booking-League und E-Mails.

00:23:53: Ja!

00:23:54: Und das war auch sehr interessant, weil es gab auch unterschiedliche Angriffe.

00:23:58: Das haben nicht alle in der WhatsApp-Nachricht bekommen.

00:23:59: Manchen war's eine E-mail.

00:24:01: Die waren teilweise unterschiedlich geschrieben.

00:24:03: Eva hat mich noch mal ganz stark erinnert.

00:24:06: Wir haben dieses spannende Interview geführt zu diesem ganzen großen Geschäftsmodell, was dahinter steckt.

00:24:12: Da hat uns Anja Shortland erzählt ... dahinter immer so Affiliats stecken, also dass diese Daten an viele verschiedene Gruppen gehen.

00:24:22: Und die können dann ihr Schindluder damit treiben und das scheint sich tatsächlich bei diesem Hotel-League ... könnte ich mir vorstellen, dass es da auch so gewesen ist.

00:24:30: Weil mehr so viele Leute auch unterschiedliche Geschichten... Auch gleiche Geschichten geschrieben haben.

00:24:35: Danke noch mal dafür!

00:24:36: Ja aber das glaube ich total also, dass die Daten jetzt weiterverkauft werden.

00:24:39: Wir vermutlich haben sie die ersten exklusiv bekommen oder als Erste halt bekommen, die dann auch wie bei dir ja eine Buchung ausnutzen konnten, die noch in der Zukunft lag.

00:24:48: und das ist natürlich ne große Chance weil den Leuten glauben ja verrückt Das muss ja meine Buchung betreffen, das muss von Booking kommen.

00:24:55: Ich habe übrigens auch eine E-Mail bekommen zu einem ganz anderen Thema, fällt mir da gerade ein.

00:24:58: Also irgendjemand nutzt die Chance und verschickt E-mails vom Booking.com, die nicht von da kommen.

00:25:05: Und genau dann wirkt so einen Angriff natürlich besonders echt wenn sie wissen wann du Wohnhotel gebucht hast.

00:25:11: Von daher hoffe ich dass es viele Menschen erreicht diese Warnung... Und

00:25:16: ich denke das wird zunehmen!

00:25:18: Das wird auf jeden Fall zunehmen, weil das so einfach ist und weil es so gut skaliert.

00:25:23: Weil man das mit Hilfe von KI so gut skalieren kann.

00:25:26: Weil KI Sprachbarrieren überwindet was ja in vielen Kontexten grandiose ist.

00:25:32: Aber genau in diesem Kontext bedeutet es für uns als Verbraucherinnen und Verbrauchern einfach, noch mehr aufzupassen.

00:25:39: Und E-Mails oder Nachrichten stärker zu unterfragen.

00:25:42: Also dieser Prinz aus Nigeria, den habe ich schon lange nicht mehr gesehen ...

00:25:47: Stimmt!

00:25:48: Der ist vielleicht wirklich das der Vorteil?

00:25:49: Dass er zumindest mal verstummt ist?

00:25:53: Kann natürlich sein.

00:25:54: Ansonsten muss man sagen Social Engineering also so Fishing Emails Es sind ja schon immer das Ding, und das ist auch nicht erst seit KISO.

00:26:02: Aber natürlich nimmt es zu, dass wenn die gut genug sind, dass sie natürlich durchkommen.

00:26:07: Und meinen Reden ist halt schon immer so was muss technisch gelöst werden.

00:26:10: Das hilft des Leuten, die bei einem Booking kommen Falle aufsetzen wenig.

00:26:14: aber ich denke Unternehmen, die jammern und sagen meine Mitarbeiter dürfen keinen Fishing Link anklicken sonst geht hier die Welt unter.

00:26:20: Die haben also verpasst ihre Systeme besser und technisch besser zu sichern.

00:26:26: Gerade auch, welche E-Mails überhaupt ankommen dürfen usw.

00:26:29: Da ist ja relativ viel Luft immer noch nach oben, würde ich sagen.

00:26:32: Das macht KI jetzt noch mal klarer.

00:26:35: Wenn Fishing-E-Mail immer besser wird, dann wird klarer werden, dass das Problem nicht gelöst werden kann, indem man Menschen sagt, es reist Sicherheit zusammen und prüfe jede E-mail sorgfältig, weil das einfach nicht geht!

00:26:53: Ja.

00:26:54: Und jetzt frage ich mich, wie kann ich denn dein Klart meine E-Mail schreiben?

00:27:00: Mussten

00:27:00: mir eine E-mail schreiben aber ich leite die nicht weiter.

00:27:03: Aber Speaking of IT Security.

00:27:05: schön das wir jetzt irgendwie so ne halbe Stunde über das Thema gesprochen haben und jetzt erzähl'n wir euch wie wir KI benutzen.

00:27:11: Haha!

00:27:13: Ich bin mal gespannt was für E-mails du dann bekommst.

00:27:15: also das heißt man schreibt dir... Also deinen Agent empfängt keine E-MAILs selbstständig.

00:27:20: Schade

00:27:22: Ich mach das so, dass bei den E-Mets gut erhat.

00:27:24: Bei mir jetzt auch den Hintergrund, dass ich das ethisch problematisch finde.

00:27:28: Also zumindest würde ich keine E-Meds einfach so weiterleiten an der KI die nicht lokal auf meinem Rechner läuft was aber vor allem für mich eigentlich weniger IT Security Hintergründe hat.

00:27:39: Das ist natürlich ein Nebeneffekt davon sondern das hat einfach auch ethische Gründe.

00:27:45: Ich

00:27:47: will keine persönlichen Daten von irgendjemanden in irgendeine KI schmeißen, der dem nicht zugestimmt hat.

00:27:53: Aber wir nehmen euch mal mit und machen einen kleinen Deepdive-Ever.

00:27:56: Nächste Folge frag ich dich dann wie du, Kai, in deinem Alltag benutzt?

00:28:01: Kann ich ja bis da noch ein bisschen für Sicherheit sorgen.

00:28:03: Nein, ich würde auch sagen, wenn man da viele Gedanken drum ... Genau aber erzähl doch mal was macht denn deinen Claude für dich?

00:28:10: Genau, ich hab mir in den letzten Wochen mal KI aufgesetzt als persönlichen Assistenten oder Assistentinnen.

00:28:18: Einfach weil sofort im Hintergrund dass sich gerade ganz viel auch administrative Sachen erledigen muss Dinge die sich immer wieder holen Aufgaben die eigentlich jeden Tag oder jede Woche gleich sind und das habe ich mir so ein bisschen zusammengesteckt.

00:28:33: Das war ehrlich gesagt gar nicht so schwierig und deswegen erzählte ich einmal was ich gemacht habe Und zwar man kann bei Claude.

00:28:39: Und ich bin mir sicher, das geht auch bei OpenAI Chat GPTino, den benutze ich gerade nicht, deswegen kann ich nicht sagen wie es da funktioniert.

00:28:48: Kann man mit sogenannten Connectoren sein Google Drive, Google Mail oder Google Calendar verbinden?

00:28:55: Jetzt habe ich dann ein ganz neues Agentenpostfach aufgesetzt also einen Agentenzwehrmail und einen Agentenkalender einen Agenten Drive und das ist auch, glaub ich eine ganz gute Möglichkeit.

00:29:08: wenn man jetzt sagt.

00:29:08: Ich möchte nicht dass der Chatbot in meinen System rumarbeitet oder rumbäubert.

00:29:14: Ja ich wollte nicht gerade sagen diese Konnektoren sind dann quasi genau die Zugriffsrechte die du dem Ding gibst ne?

00:29:20: Das ist im Prinzip ein anderes Wort für ich geb dir Zugriff

00:29:24: Genau, ich gebe dir Zugriff auf deinen Space.

00:29:26: Ich nenn das mal den Agenten-Space.

00:29:28: Der hat einen eigenen Space und an dieses Agenten Postfach kommen gar keine E-Mails von euch, sondern die kommen immer noch in meinen E-mail-Postfach wo ich reinschau.

00:29:37: Aber das praktische ist, ich könnte dem E-mails weiterleiten... dem darüber auch Aufgaben geben, also kann in den Betreff zum Beispiel schreiben.

00:29:49: Zum Beispiel Newsletter oder so ... Ich krieg relativ viele Newsletter, ich schaff nicht immer die zu lesen.

00:29:54: Ich kann eine Weiterleitung für Newsletter machen und dann sagen, mach mir montags immer ne Zusammenfassung aus meinen Newslettern ein kleines Newsletter

00:30:02: Briefing.".

00:30:03: Ah!

00:30:03: Das ist ja cool, weil in lustiger Weise ... Ich hab so eine Regel mir programmiert.

00:30:06: Dass Newsletter alle in ein extra Ordner gehen und gerade heute Morgen habe ich diesen gesamten Ordner gelöst, weil mein Postfach wie immer zu voll ist.

00:30:13: Das heißt meine Newsletterumgehung für dazu dass sich die eigentlich gar nicht lesen.

00:30:18: Also ich gehe einmal kurz drüber schaub.

00:30:20: irgendwas wichtiges also im Betreff irgendetwas durchdenken das muss ich wissen.

00:30:22: aber eigentlich lösche ich Newsletter dadurch ungelesen.

00:30:26: Und du

00:30:27: hast Dinge

00:30:28: entdeckt in deinen Newslettern, die du, die Claude dir geheim

00:30:31: hat?

00:30:31: Ja auf jeden Fall Genau, ich mach immer das Sicherheit.

00:30:35: Montagmorgen kriege ich dann immer so ein kleines Newsletter-Briefing, wo sozusagen aus den fünf Newslettern ... So viele hab' ich jetzt auch nicht, wo die Sachen stehen, die zum Beispiel für diesen Podcast interessant sind.

00:30:47: Also das ist was.

00:30:49: oder man kann natürlich Emails anders postfach weiterleiten.

00:30:54: Ich würde einfach den Empfänger rausnehmen und ... würde das halt anonymisieren.

00:31:00: Das sind bei mir auch manchmal so ganz profane Sachen, zum Beispiel irgendwelche Anfragen wie kannst du hier auf dieses Panel kommen oder kannst du dazu was sagen?

00:31:10: Oder so.

00:31:10: und gerade wenn ich keine Zeit habe dann ist es für mich eine charmante Möglichkeit einfach in den Betreff schreibe ich dann bitte absagen und nehme halt den Namen raus oder den Signatur unten löscht die kurz Schicksal ans Agentenpostfach Und der hat dann so ne tägliche Routine wo er durch mein Postfach geht Und dann, diese E-Mails beantwortet

00:31:30: ...

00:31:31: Genau.

00:31:32: Dann geht er durch seinen Postfach und dieser E-mails beantwortet er und legt die in den Draft, also in die Entwurfsablage.

00:31:39: Von dort, das ist immer noch ein Copy-Paste Schritt, weil der hat keine Rechte, irgendwas zu verschicken.

00:31:46: Der kann niemanden antworten!

00:31:49: Und von dort mache ich dann Copy-Paste und kopiere es mir rüber.

00:31:52: Jetzt kann man natürlich sagen, ja, sowas kann ich auch sehr schnell selber beantworten.

00:31:56: Oder auch Copy-paste einfach in so ein Chatfenster?

00:32:02: Genau für mich ist das im Moment ein ganz schöner Workflow, wobei das eigentlich gar nicht die Hauptsache ist, für was sich Cloud als Assistent benutze, sondern ich benutze ihn ganz stark.

00:32:14: Das heißt, ich habe mir zusätzlich zu diesem Agendenspace, den ich verbunden habe noch ein sogenanntes Notenpad verbunden.

00:32:21: Das ist wie so eine Art Notizbuch.

00:32:23: Das Interessante oder das Gute ist es richtig der sich selbst ein.

00:32:27: Also du sagst halt, das sind meine großen vier Projekte und ich brauche noch einen Daily Briefing Ordner.

00:32:32: bitte richtet ihr das ein!

00:32:34: Okay, man baut ja selbst zusammen.

00:32:36: Der Bord ist dann selbst zusammen?

00:32:37: Du musst gar nichts machen!

00:32:38: Also dieses Notchalpad ist sozusagen ... Ich schreib da auch nicht rein, sondern er schreibt da eigentlich rein.

00:32:43: Es ist zu sagen, ich mach das auf.

00:32:44: Das ist wie mein Notizbuch was ich sonst führe mit Tudu für heute und es macht eher ... Dann macht der mir so Kästchen, kann die mal abhaken.

00:32:51: Das fühlt sich immer ganz gut an.

00:32:52: Ja, das

00:32:52: ist schön.

00:32:53: Abhaken gibt's sogar von der Hirnforschung Erkenntnisse.

00:32:56: Tudus-Abhaken ist ein kleines Erfolgserlebnis und führt dazu, dass motivierter arbeitet.

00:33:04: Ich brauch das.

00:33:05: Auf jeden Fall!

00:33:06: Und dann hab ich diesen Kalender, weil für mich ist ein ganz wichtiges Toll nicht nur für mich selbst sondern jetzt inzwischen auch für den Agenten denn... ...ich hätte jetzt dem Agenten nicht Zugriff auf meinen persönlichen kompletten Kalender gegeben ja?

00:33:21: Weil da stehen Arzttermine drin, Geburtstage wollte ich einfach nicht dass irgendeine Kaide herumhühnet und mein privaten Termin.

00:33:30: Jetzt ist es aber so, ich hab auch weder Zeit noch nervt, irgendeinen Agentenkalender zu pflegen.

00:33:36: Ich meine, wo komme ich dahin?

00:33:38: Da werd' ich ja verrückt wenn ich irgendwie sechs Kalender pflege muss!

00:33:40: Du musst jeden Tag so einen Slot in deinem Kalender reservieren für Kalendapflege.

00:33:43: Genau,

00:33:44: das geht viel einfacher und dafür gibt's eine technische Lösung.

00:33:47: man kann bei diesem Google-Kalender da kann man sozusagen ne Freigabe machen auf den eigenen Kalender Und bei mir ist es so dass ich meine beruflichen Termine mit einer speziellen Farbe sozusagen kennzeichne Und der fetcht immer nur die beruflichen Termine.

00:34:04: Das heißt, ich kann zum Beispiel mein Kalenderschreiben Skript erstellen für The Talk Tech Podcast oder ich kann in meinen Kalenderscheiben Anfrage mail an interessante Personen von deren Konferenz.

00:34:18: jetzt als Beispiel oder Beantwortung von Anfrage dies das?

00:34:24: Also ich kann sozusagen als Termine To-Do's eintragen in den Kalender Und der arbeitet dann in seiner Routine, das ist noch was anderes, was man machen kann.

00:34:33: Das nennt sich Scheduled Tasks.

00:34:35: Also

00:34:36: d.h.,

00:34:36: wiederkehrende Routinen.

00:34:38: arbeitet er das dann ab.

00:34:40: Bei mir ist z.B.

00:34:41: ein großer oder nerviger Teil meiner Arbeit Rechnung schreiben ...

00:34:46: Oh ja!

00:34:48: Ich will mich erinnertlich und journalistisch mit Dingen auseinandersetzungen und so irgendwelche ... Sachen ausrechnen, Eintragen nachgucken.

00:34:56: Was hab ich da noch mal gesprochen?

00:34:58: Das raubt mir Zeit und Nerven ...

00:35:00: Gerade wenn man das nicht so oft macht, geht mir auch so.

00:35:02: Ich verschieb es dann immer in Rechnungsschreiben.

00:35:04: Wenn's gar nicht mehr anders geht.

00:35:05: oder ich denk jetzt, wenn ich nichts jetzt nicht mache, bekomme ich wahrscheinlich kein Geld mehr?

00:35:08: Aber dann wirds halt immer aufwendiger und erst mal recherchieren muss, an welchem Termin war das was genau, ob ich gemacht habe ... Was hatten wir echt vereinbart?

00:35:13: Ja, super

00:35:14: nervig!

00:35:14: Und dann EU-Deutsche Bahnticket.

00:35:16: da muss sich ja noch

00:35:17: irgendwie den Preis konzentrieren.

00:35:18: Dann sind Millionen E-Mails von der deutschen Bahn durch nach dem entsprechenden Ticket.

00:35:21: PDF und Öffnen.

00:35:23: also das kostet Zeit und Nerven nimmt mir Zeit weg.

00:35:25: Und ich kann jetzt zum Beispiel die Rechnungen, die Bahntickets Flugtickets kann ich ans Agentenpostfach weiterleiten.

00:35:32: Und er hat zum Beispiel jetzt eine Routine drin, wenn im Kalender stand der und der Auftrag dann macht ne Rechnung.

00:35:40: Also ich kann entweder ...

00:35:41: Du schickst die quasi so chaotisch wie es bei dir reinkommt weiter?

00:35:44: Du sagst da hier Bantickets gehört zu dem oder dem Auftrag oder sowas?

00:35:47: Nee, das kann er ja lesen!

00:35:50: Der sieht an meinem Kalender ... Er

00:35:52: kennt welche Termine und welche Beläge zusammengehören.

00:35:56: Ja, genau.

00:35:57: Also sozusagen so ein Art Beleg Management Rechnung erstell Skill ja kommt schon wieder der nächste Fachbegriff.

00:36:04: also das heißt ihr könnt sogenannte Skills erstellen.

00:36:07: Das sind sowieso Art Fähigkeiten die genau für solche widerkehrenden Aufgaben wie Rechnungen schreiben zum Beispiel oder einen Skript erstellen zum Beispiel.

00:36:18: Und ihr könnt das Ganze dann verknüpfen mit diesem Schedule-Task, also wiederkennter Task.

00:36:24: So dass ihr seid immer wenn im Kalender steht, doch so ein Driss... Dann erstelle eine Rechnung oder dann erstelle einer Übersicht oder dann mache dies oder das.

00:36:34: Das ist wie sie.

00:36:34: ihr könnt sozusagen spezifische Fähigkeiten erstellen lassen für eure KI.

00:36:39: die müsst ihr ja nicht selbst erstellen

00:36:41: Sondern es macht auch die KI Genau, so

00:36:44: sagt er.

00:36:45: Ich sag dann, bau dir einen Skill für ...

00:36:47: Ah, das sind sowas was vorher die Plugins waren bei zum Beispiel ChatGPT oder also so?

00:36:53: Und dann hieß es, glaub ich, irgendwann Projekte oder... Also das gibt verschiedene Begriffe dafür.

00:36:57: Aber du heißtest nicht in der Command Line dieses Skills?

00:37:00: Weil daher kenn' ich die wiederum!

00:37:00: Das können wir deine nächste Woche besprechen.

00:37:02: Sondern was machst Du im Browser-Tool sozusagen?

00:37:06: Ja mit dem normalen Chat sozusagen und ich arbeite sehr viel mit Co-Work.

00:37:11: Ich mach das ganz normal

00:37:13: auch.

00:37:13: Co-work, dann musst Du eine eigene App runterladen, oder ist das kein...?

00:37:16: Ja das ist die normale, aber die normale Cloud App da ist Co- Work mit drin als eigener Reiter.

00:37:22: ein anderes Thema.

00:37:23: Das ist dann interessant, wenn ihr zum Beispiel eine Präsentation erstellen müsst und ihr habt für die Präsensation wahnsinnig viele Images vielleicht auch Videos im Studien keine Ahnung wie ihr so präsentieren erstellt.

00:37:38: bei mir ist es oft so ich habe einen Riesenhaufen das ist ein großer Berg an Ersammeln und dann habe ich also im Kopf was sich wie man sagen möchte und dann sitze ich da stundenlang und klick mir das zusammen und dass das ist z.B.

00:37:52: was man mit Co-Works sehr gut machen kann, da kann man einen einzigen Ordner freigeben.

00:37:57: Den ich mir tatsächlich teilweise vorher sogar kopiere.

00:38:00: Ich war so schliss, aber

00:38:01: ...

00:38:03: Genau oder was überschreibt, das Wichtige ist es mir auch tatsächlich schon passiert.

00:38:07: Da musste ich halt Arbeit noch mal machen und war ziemlich genervt.

00:38:09: Ist es mir dann auch mal passiert?

00:38:12: Wo ich eben gedacht hab, nee, muss ich jetzt nicht ... Sicherheitskopie hat mich eine halbe Stunde extra gekostet.

00:38:18: Ein im Fall ist's nicht so schlimm!

00:38:20: Aber auf jeden Fall, wenn man so ganz viele Unterlagen hat mit denen er abends so kann man auch für Corework dann einzelne Ordner freischalten und kann dann wirklich sagen ich möchte eine Präsentation zu dem Thema halten.

00:38:31: So ist der Ablauf.

00:38:33: die Bilder sollen da rein und dann kann man Spüler ausräumen oder was anderes machen.

00:38:38: Wie lange dauert es, bis er in der Präsentation fertig ist?

00:38:40: Ich weiß das gar nicht so genau, weil ich hab das noch nie gestoppt.

00:38:46: Da wären wir jetzt Podcasts und arbeitet im Hintergrund irgendwelche Sachen ab ... Und ich sitze da ja nicht davor und guck dem zu, sondern ich schau dann irgendwann rein und sehe, ah, er hat etwas gemacht, ja prima, dann geh ich das nochmal durch.

00:38:58: Weil die Prompts so lang werden, habe ich mir Whisper Flow installiert, ein kleines Programm mit dem man sehr gut Sprache eingaben machen kann.

00:39:07: Du musst dann so ein Knöpfchen drücken, dann kann ich eine Spracheingabe machen und dann ist es wirklich die Möglichkeit dass du Prompts machen kannst, sag ich mal denen der vier Seite lang sind.

00:39:16: also heißt du kannst dann richtig ausführlichen Prompt machen alle deine Ideen da rein labern reinsprechen und dann setzt ihr das um und so.

00:39:26: ja das arbeite ich jetzt mal so.

00:39:27: seit paar Wochen mache ich das so und finde das nicht schlecht bin mir Aber auch bewusst, also mein ganz starker Eindruck ist das kann nicht die Zukunft sein und dass wir da nicht die echten Kosten sehen.

00:39:44: Das wollte ich dich gerade fragen.

00:39:45: mit diesen sehr langen Promts haust du ja quasi auf die Token raus?

00:39:49: Das kostet wahrscheinlich viel mehr Token als wenn du wohl Feile, wo überlegte kurze Promts machst.

00:39:56: Wie schnell ist denn... Also wie oft sagt dein Cloudcode dir jetzt musst du da warten bis später oder morgen?

00:40:01: Ich

00:40:01: habe tatsächlich meinen Abo letzte Woche abgegraded.

00:40:04: Wie viel zeigst du jetzt?

00:40:06: Neunzig Euro.

00:40:07: Vorher hab ich irgendwie zwanzig, bin ich über Wochen gut gefahren.

00:40:10: aber man muss tatsächlich sagen also wenn man das so intensiv nutzt dass es einem soviel bringt glaube ich kann man das vertreten und sagen okay das das bringt mir auch so viel in meiner Arbeit das stellt mich irgendwie auf eine andere Stufe.

00:40:24: Ich kann mir keine eigen Assistenten einstellen

00:40:28: die wäre teurer.

00:40:30: Also wenn es dir so viel Vorteil bringt, klar.

00:40:33: Dann kann man das ja im Prinzip gegenrechnen.

00:40:35: Das muss man glaube ich nur ehrlich machen.

00:40:37: Gegenrechnend und auch darauf gefasst sein dass diese Sachen tatsächlich noch teurer werden.

00:40:41: Das ist immer noch quasi der gesponserte Preis

00:40:45: weil halt

00:40:45: alle wollen... Absolut!

00:40:46: Der sind wir jetzt glaube ich gerade in der Phase wo man sagt, da kann man so was mal spaßhalber machen und aufsetzen.

00:40:52: Wenn man die Lust dazu hat ... wenn man denkt ich will damit experimentieren.

00:40:57: Ich denke wir werden jetzt die Börsengänge sehen Und ich rechne einfach damit auch wenn KI an sich günstiger wird weil compute günstig wird.

00:41:05: Ich finde man kann bei all dem was es auch positives ins Leben springt muss man natürlich das schon auch kritisch hinterfragen.

00:41:13: Also wenn ich das viele Geschichten gerade über diese Rechenzentren, die so viel Wasser verbrauchen.

00:41:17: Genau!

00:41:18: Das ist das andere.

00:41:19: der Ressourcenverbrauch, den man nicht aus dem Augen verlieren darf

00:41:23: Kann auch gut sein, dass wir uns im halben Jahr wieder treffen.

00:41:25: Ich mach wieder alles selbst!

00:41:27: Von daher ist es auf jeden Fall eine gute Siste

00:41:28: zu verleeren.

00:41:29: Ne

00:41:29: Momentaufnahme.

00:41:31: Genau, das ist nicht so sehr dran zu gewöhnen.

00:41:33: Sag mal, eine Frage habe ich noch.

00:41:33: Du sagst, da gibst du ihm dann Zugriff auf einen Ordner und er kann dann tatsächlich nicht auf andere zugreifen?

00:41:39: Weil das ist was, was ich beobachte, wenn man mit Command Line und Cloud Code arbeitet... ...dass das ja auch nur wie in den Anfangszeichen weiche Anweisungen ist.

00:41:46: Das ist ja ne Sprachdinge.

00:41:48: Man sagt dem LLM.

00:41:49: Du darfst auf diesen Ordner zugreiften aber der greift halt doch auch auf... andere zu.

00:41:54: Deswegen habe ich ein Genutzer eingerichtet, es kann da natürlich sein das ist mit dieser Claude Coburg App dass die Nutzer innen mehr geschützt werden weil man vermutlich davon ausgeht als Entropik dass das breiter genutzt wird als so einen Command Line Interface.

00:42:09: Es ist im Prinzip einer Sandbox wie der läuft.

00:42:13: also das heißt er kann nicht auf die Festplatte und dadurch stöbern oder andere Orten eröffnen, sich selbst Zugriff geben.

00:42:21: Also es ist eine Sandbox und ihr seht physisch nur die Pfade, die durch die Freigabe eingehängt werden.

00:42:29: also alles andere existiert nicht für ihn.

00:42:32: so ist das was ich dazu weiß keine Ahnung ob man das irgendwie engenieren kann aber ich würde jetzt erst mal so sagen nein

00:42:42: Spannend?

00:42:42: Ja, finde ich wirklich spannend.

00:42:43: Aber zumindest kann man theoretisch als Sandbox was machen, das nicht nur prompt geschützt ist.

00:42:50: Weil ich denke alles, was prompt geschürzt ist, ist unsicher.

00:42:52: Das schließt sehr schön der Kreis zum Anfang.

00:42:56: Sondern dass es tatsächlich durch eine feste Regel geschützten ist, was theoretisch möglich ist.

00:43:02: Man muss nur gut gucken, ob's ein Prompt oder verbindlich ist sozusagen.

00:43:12: Lass uns kurz zur Feedback kommen!

00:43:14: Ja, ihr habt uns geschrieben nicht nur zu euren Hotelbuchungen sondern wir wollten ja Vibecoding Beispiele von euch hören.

00:43:22: Wir haben echt viele Einsendungen bekommen.

00:43:24: Auch vielen, vielen Dank.

00:43:25: immer wenn ihr uns schreibt also an der Stelle nach.

00:43:28: wir bauen auf euch.

00:43:30: Wir lieben euer Feedback!

00:43:32: Wir haben nur nicht immer Zeit darüber zu sprechen aber wir...

00:43:34: Wir haben wirklich viel bekommen.

00:43:36: ich denke wir fangen mal mit einem Teil an.

00:43:38: bei einer habe ich sogar noch eine Nachfrage.

00:43:39: also vielleicht falls Phil uns zuhört aber da kommen wir gleich drauf.

00:43:43: dann würde ich ihn vielleicht fragen ob er wie weiter inzwischen gekommen ist.

00:43:45: und wir fang mal an Vielleicht mit Telling Krause.

00:43:49: Der hat einen dynamischen Stromtarif und braucht eine Visualisierung, oder hätte gerne eine Visualisierung gehabt der Strompreistaten und wie die sich verändern.

00:44:00: Und das hat er sich gebaut.

00:44:02: Vibe-Coded auf seinem Raspberry Pi in seinem Netzwerk sagt deswegen hatte natürlich wenig Sicherheitsbedenken.

00:44:09: Klar wenn jemand böses in seiner Fritzbox wäre dann wäre es Blöd, aber das würde zu größeren Problemen führen als zu seinen Strompreistaten und seinem Homeassistent.

00:44:17: Aber so kann er nicht nur eben die Visualisierung sehen sondern auch Steckdosen an- und ausschalten abhängig vom Stromkreis.

00:44:26: Vielen Dank!

00:44:26: Ja danke Henrik Krause, das klingt wirklich interessant.

00:44:29: Ich finde es total gut.

00:44:30: also so Einreichungen hatten wir ja mehrerer.

00:44:33: Also wo Leute sich einfach ein cooles Tool gebaut haben.

00:44:36: Das ist auch etwas was ich in letzter Zeit öfter höre von Leuten auch gerade mit dem Thema Coding sowieso schon in Berührung waren und sind das exakt haben.

00:44:45: Ich fühle mich selbst ermächtigt, also Leute die... Gerade auch Leute, die jetzt nicht so einen fetten Hintergrund haben, also die es jetzt nicht studiert haben oder so, die sagen ich fühl mich so selbst ermrächtigt!

00:44:56: Ich kann Sachen

00:44:57: bauen.".

00:44:57: Genau, und ich glaube es ist auch tatsächlich wenn man sich klar macht was bedeutet das im Hintergrund.

00:45:02: Was passiert eigentlich?

00:45:03: Wenn man sich das einmal durchdenkt kann man solche Sachen natürlich auch so bauen dass sie sicher sind oder es kein Sicherheitsproblem ist.

00:45:09: zum Beispiel hat Peter König eine ganz nette Website gebaut in der Open Street Map Karten mischt mit öffentlich verfügbaren kommunalen Daten.

00:45:20: da habe ich zum Beispiel gerade mal ein bisschen hohen Problem.

00:45:22: Man kann sich allerdings glaube ich war das zu kleinteilig.

00:45:24: Fahrrad-Ständer in Berlin anzeigen lassen habe ich nicht ganz hinbekommen.

00:45:27: Wahrscheinlich gibt es einfach zu viele davon, aber zum Beispiel Friedhöfe in Hamburg – also man kann quasi eine Stadt wählen und dazu eine Kategorie.

00:45:34: Und das sind glaube ich schon Dinge die können nützlich sein oder wenn man so was noch ein bisschen mehr daran feiert, noch mehr Daten einpflegt.

00:45:41: Solche ähnliche Tools hab' ich immer wieder gesehen natürlich auch im Journalismus.

00:45:44: Die Recherchen vereinfachen, die Datenrecherchen vereinfachen.

00:45:48: Er sagt auch ohne Vibecoding hätte ich diesen Prototypen niemals bauen

00:45:51: können.".

00:45:52: Das data-dna.eu ist die Seite, ich denke das schreiben wir in die Show Notes Ja und dann eben gibt's Fil, Film.

00:46:03: Aura.

00:46:03: du hast geschrieben dass du ganz viel gemacht hast innerhalb von sieben Tagen.

00:46:09: Ich weiß nicht, wenn die Zeit knapp ist, würde ich das aufs Nächstes mal verschieben.

00:46:12: und wir fragen Phil.

00:46:13: Weil es auch schon mehr als sieben Tage her ist, dass diese E-Mail kamen was er in den danach folgenden sieben Tagen noch gemacht oder Schütztiertagen noch gemacht hat.

00:46:22: Er war jedenfalls ziemlich kreativ.

00:46:23: Hallo

00:46:25: World!

00:46:25: Ich bin sehr gespannt.

00:46:27: Da ist ziemlich viel.

00:46:28: also ein Deepfake-Videofilter, ein eigen an eigenes Bitmodell, was dreißig Stunden im Hintergrund arbeitet.

00:46:36: der sagt ja gut aber so wie du gesagt hast man kann Haushalten nebenbei machen, die mal in dreißig Stunden kann man viel machen.

00:46:42: Da kann man das Haus einmal im Frühjahrsputz machen und er hat mit Arduino lege Robotern experimentiert, die jetzt mit einem Smartphone durch die Gegend fahren.

00:46:50: Vielleicht kleiner Cliffhanger aber das erzählen wir nächstes Mal was raus und wie er weitergemacht hat, die am Ende mit einer ganzen Agenten her seine Wohnung und seinen Garten vermessen und Optimierungsvorschläge machen.

00:47:02: Ja also es gibt viele coole Ideen.

00:47:04: Wie gesagt wir fragen nach was den nächsten Sieben Tage bei Phil passiert es und ergänzen das nächste Woche.

00:47:11: Ja, damit sind wir am Ende von unserer Folge.

00:47:15: Schön, dass ihr dabei war, schön, dass sie zugehört habt.

00:47:17: Schön ist er uns immer schreibt!

00:47:18: Das war Day Talk Tech mit mir Svea Eckert

00:47:22: Und mir Eva Wolf-Angel.

00:47:24: Musik und Produktion Marco Pauli.

00:47:25: Vielen lieben Dank und bis nächste Woche.

00:47:27: Tschüss machts gut.