🧐KI trifft Amtsstube – kann das gutgehen?

00:00:16: Ja, bei dir zwitschert's ja so.

00:00:21: Der weiß jetzt sich schon unter einer Decke.

00:00:24: Und ich hoffe, manchmal hört man so ein leichtes Glöckchen im Hintergrund und das macht mal mehr.

00:00:30: Ich bin im Urlaub.

00:00:32: Oh, das ist schön.

00:00:33: Urlaubschöne machen uns doch glücklich sogar hier zu Hause.

00:00:37: Mensch!

00:00:38: Es ist mir schon schwer, denkt sogar im Urlaub an uns.

00:00:40: Ja, und ich mich erst, dich und deine Flügel.

00:00:45: Und euch damit herzlich willkommen zu They Talk Tech Ein City Podcast.

00:00:51: Ich bin Svea Eckert, Tech Journalistin.

00:00:53: Und ich bin Eva Wolfange, auch Tech-Journalistin.

00:00:57: Und zurzeit auch ein bisschen Biologin, weil ich kenne mich jetzt voll gut mit Weißlichtmilben aus.

00:01:01: Weher bist du sicher, dass du keine Weißlichtmilben zu Hause hast?

00:01:04: Eva,

00:01:05: lacht dir gar nicht mehr, du trappst nicht, ich kenne den Hokes.

00:01:08: Aber damit sind wir schon fast mitten im Thema, denn Eva, ich finde, ich sage, du hast so Weißlichtmilben recherchiert, aber irgendwie ein bisschen doch, ne?

00:01:17: Die Weißlichtmilben sind nämlich da eigentlich schon ganz alt, also was heißt alt, aber schon bestimmt mehr als ein Jahr alt, aber sie stecken ... oder steckt denn bis vor kurzem noch in einem KI-System, das für die Verwaltung entwickelt worden ist.

00:01:29: Ja, und das ist auch schon unser erster Teaser, weil darum geht es heute.

00:01:32: Verwaltung und KI, kann das funktionieren?

00:01:34: Genau, dazu hast du recherchiert.

00:01:37: Eva, und jetzt bin ich mal ganz gespannt.

00:01:39: Ja, lass uns eintauchen.

00:01:44: Bei Behörde und KI, genau, da gehen bei mir auch viele Alarmglocken an, aber bei Behörde und Digitalisierung ja insgesamt.

00:01:51: wenn man irgendwie seinen Personalausweis verlängern muss oder, weiß ich nicht, ein Kennzeichen fürs Auto braucht, ist es ja immer so ein bisschen, dass man denkt, oh nein, ich muss mein Termin klicken, da muss ich da hin.

00:02:01: Und ich denke immer so an Astrix und Obelix.

00:02:05: Passierschein A-Achthunddreißig, der Gang der Verzweiflung.

00:02:11: Ich klicke gar nicht mehr, ich stell mich einfach in die lange Schlange, weil irgendwie meine Erfahrung zeigt, das klappt besser.

00:02:15: Also nicht mal den Termin kann man digital sinnvoll vereinbaren.

00:02:19: Also so lange ist der Weg.

00:02:21: vom Bürgerbüro zur künstlichen Intelligenz, könnte man sagen.

00:02:25: Und ja, genau, Baden-Württemberg versucht den jetzt abzukürzen mit einem System, was F-III heißt.

00:02:32: Und was steckt dahinter?

00:02:34: Also, ich erst dachte, das ist einfach ein Chatbot.

00:02:36: So sieht es auch aus.

00:02:37: Ich habe es versucht mit einer... Informantin, also das ist nur zugänglich für Behörden, MitarbeiterInnen und LehrerInnen und so weiter.

00:02:44: Aktuell habe ich mit der Informantin an deren Rechner gesetzt.

00:02:48: Es war super aufwendig, einen VPN und dies und das, weil er sich natürlich nicht mit mir in ihrem Büro treffen wollte, weil das ja ein Hintergrundgespräch war.

00:02:56: Und es wirkt auch erst mal so ein bisschen wie ein Chatboard, ChatGPT.

00:03:00: Allerdings hat es wie so drei verschiedene Reiter.

00:03:03: Man kann Chatt'n recherchieren oder zusammenfassen.

00:03:06: Das sind ja Funktionen, die die anderen großen Sprachmodelle, also wie jetzt ChatGPT zum Beispiel, der Co-Pilot ja quasi alles in einem haben.

00:03:16: Und hier bei diesem Behördensystem kann man sich das aussuchen.

00:03:20: Und ich muss zugeben, wir haben erst mal gechattet.

00:03:22: Klar, das ist ja so ein bisschen das, was man einfach, das ist auch das, was als erstes sich geöffnet hat sozusagen, die Startseite.

00:03:28: Und das war schon eher, ja.

00:03:30: Underwhelming, man hat so das Gefühl gehabt, dass es auf einem Qualitätsniveau von einem alten, einer alten Chatchi-PT-Version, vielleicht drei Punkt fünf, ein bisschen, ja, hat emphaluziniert, hat ausweichende Antworten gegeben.

00:03:44: Zum Beispiel haben wir auch gefragt.

00:03:45: Das

00:03:45: ist ja eine Spezialdisziplin mit KI-Systemen zu chatten.

00:03:50: Also, wer da nicht auf der Niveau von Elon ist,

00:03:56: wird sofort ertappt, als halluciniert.

00:03:58: Ja, genau, vielleicht, nee, ich habe aber tatsächlich in dem Fall überhaupt nicht versucht, jetzt irgendwelche Prompt-Injections oder was zu machen, sondern wirklich einfach nur getestet.

00:04:07: Was würde man denn als Mitarbeiterin der Verwaltung zum Beispiel damit machen wollen?

00:04:11: Und ja, diese Chatfunktion war eher so.

00:04:13: Also ist

00:04:13: es ein Chatbot?

00:04:14: Oder der Waldungssystem oder beides?

00:04:16: Ja, das ist eben genau das, was dann in der weiteren Recherche nach und nach klarer wurde.

00:04:20: Dass es eben nicht eine Kopie von ChatGPT sein sollen, eigentlich auch nicht nur ein Chatbot, sondern ein System ist auch Open Source, was ich ziemlich cool finde.

00:04:29: Also das fordern wir wirklich immer, Open Code in der Verwaltung.

00:04:34: Aktuell ist es ein Chatbot und ein Tool, mit dem man Dokumente zusammenfassen kann und ein Tool, mit dem man recherchieren kann.

00:04:40: Aber die Macherinnen und Macher stellen sich vor, dass es auch noch mehr Sachen machen kann.

00:04:45: Und dadurch, dass Open Source ist, kann da jeder und jede sich da Dinge dazu entwickeln.

00:04:51: Und der Björn Beck, der da hier vom Staatsministerium in Stuttgart, der so der große Kopf dahinter ist, hat gesagt, hat von einem App Store für die Verwaltung gesprochen.

00:05:01: Also das ist wirklich so, ja andere sagen Schweizer Taschenmesser, dass man halt verschiedene Funktionen benutzen kann und dass das dann ganz breit anwendbar ist.

00:05:10: Jetzt ist ja die Idee an sich wirklich nicht doof, weil wir wissen ja, so Stichwort Personalmangel, dass das den öffentlichen Dienst ganz besonders betrifft.

00:05:20: Also wenn man mal geschaut, so eine OSZE-Studie mal angeschaut, beschäftigte im öffentlichen Dienst, da haben wir irgendwie in Norwegen, in Schweden auch fast dreißig Prozent Und anteile ich die wenigsten Beschäftigten im öffentlichen Dienst.

00:05:36: In Deutschland mit elf Prozent oder ein anderes Beispiel aus der Justiz.

00:05:41: Aktuell können unter anderem durch Personalmangel rund fünfzig Prozent weniger Urteile gefällt werden.

00:05:48: Und das heißt, die Justiz benötigt fünfzig Prozent länger dafür.

00:05:53: Und man muss ja auch dazu sagen, dass ja oft Verwaltungsakte ja so sehr repetitiv sind.

00:06:01: Immer das Gleiche.

00:06:02: Jetzt frage ich mich natürlich, wie ist man da auf die Idee der KI gekommen?

00:06:06: Und wie kann KI da wirklich helfen?

00:06:08: Weil ich denke immer, wäre da nicht Automatisierung eigentlich das Tool, der Wahl?

00:06:14: Super interessant.

00:06:16: Super interessant, weil der Björn Berg, der ist auch Jurist und hat genauso einen Use Case erzählt von seinem vorherigen Leben quasi in der Welt der Gerichte.

00:06:26: Nämlich auch, er hat gesagt, genau dieses, was du gesagt hast, es gibt viel zu viele Anforderungen an Richterinnen und Richter, die müssten ganz, ganz viele, also vor allem eben viele Dinge aufschreiben.

00:06:36: Und es gibt eben Verfahren, wo ganz, ganz viel ähnlich ist und wo man eigentlich ja auch automatisiert oder textbausteinartig antworten kann oder urteilen kann oder Bescheide rausschicken.

00:06:48: Aber natürlich muss man sie sicher sein, dass man den gleichen Fall hat und das lässt sich ja schon.

00:06:52: mit KI oder Automatisierung maschinell im Lernen ganz gut untersuchen.

00:06:56: Man kann auf bestimmte Stichworte hin, Texte durchsuchen, aber man kann eben heute inzwischen auch mit der Hilfe von großen Sprachmodellen.

00:07:03: ganz gut erkennen, ob es hier ein vergleichbarer Fall ist oder nicht.

00:07:07: Und da gab es eben in der Vergangenheit, hat er schon an Projekten gearbeitet, mit so einem Ansatz.

00:07:11: Genau, aber jetzt tatsächlich wollen Sie Chatbots nutzbar machen und zwar unter anderem auch für so Dinge wie E-Mails schreiben, weil, und das finde ich schon einleuchtend, natürlich braucht das viel Zeit und E-Mails können auch eine Hürde darstellen für Menschen, die vielleicht nicht so sprachgewandt sind.

00:07:27: Also ich kenne da wirklich viel in meinem Umfeld, die sagen, schreibe ihm Gottes Willen.

00:07:30: Und klar, das ist halt der Vorteil von diesem Chatbot.

00:07:33: So kann man diese Chatfunktion nutzen unter anderem, indem man zum Beispiel in natürlicher Sprache rein gibt, was in der E-Mail stehen soll und wer der Adressat, die Adressatin ist und dann entwirft dieser Chatboard eben eine E-Mail, die dann zum entsprechenden Anlass und Empfänger, Empfängerin passt.

00:07:48: Das war ein Use Case, den er mir gezeigt hat.

00:07:51: Und dann ein anderer wirklich großer Use Case in der Verwaltung ist ja Dokumente, Analysieren, Auswerten.

00:08:00: Beantworten, also Dinge wie Landtagsanfragen beantworten, ist ein Riesending in der Verwaltung.

00:08:04: Das habe ich jetzt auch gemerkt bei meiner Informante.

00:08:06: Und da geht es ja darum, dass man irgendwelche Anfragen bekommt.

00:08:09: Erst mal verstehen muss, warum geht es genau.

00:08:11: Und dann aus eben einer großen Menge an potentiellen Dokumenten aus dem aus dem eigenen Bereich, die entscheidenden Antworten extrahieren.

00:08:19: Und dafür ist eben der Chatbot unter anderem gedacht, weil man da eben Dokumente reinladen darf auch.

00:08:24: Und das ist ja eine Herausforderung bei der Verwaltung, dass sie natürlich Nicht einfach die Daten, die sie haben in ChatGPT oder irgendwelche anderen US-Systeme reinladen dürfen, weil natürlich da potenziell andere Regierungen und US-Firmen Zugriff drauf haben.

00:08:39: Und von daher hat Björn Berg den möchte dann gesagt, ja, aber ChatGPT ist doch besser.

00:08:43: Hat er gesagt, na ja, wenn man bedenkt, dass man ChatGPT gar nicht benutzen darf für manche Dinge in der Verwaltung, steht jetzt hier irgendwie unser Chatbot gegen gar nichts.

00:08:51: Und das fand ich super einleuchtend un.

00:08:54: Das muss man schon aufsagen.

00:08:55: Dokumente zusammenfassen, klappt sehr gut.

00:08:58: Das weiß Bergmann ja auch bei anderen Chatbosses, dass das nicht so die große Herausforderung ist.

00:09:02: Und sobald man genug Daten mit rein lädt, hat man auch das Problem nicht, dass die hallucinieren, weil sie dann in aller Regel sich darauf beschränken.

00:09:11: Eva, jetzt hast du gerade schon gesagt, ChatGPT darf man nicht.

00:09:14: Also Stichwort OpenAI steckt also nicht dahinter.

00:09:18: Dahinter steckt ja ALEV-Alpha.

00:09:20: Das haben wir sicher viele von euch schon gehört.

00:09:23: Erst mal total gehyptes KI-Start-up aus Deutschland, auch aus Baden-Württemberg, ne?

00:09:29: Ich zeige dir ein bisschen, weil inzwischen steckt nämlich Ilif-Alpha nicht mehr dahinter.

00:09:32: Aber genau, angefangen hat alles

00:09:34: mit Ilif-Alpha.

00:09:35: Ich bin ganz spannend,

00:09:36: ja.

00:09:36: Genau, also das ist nämlich auch eine seltsame Geschichte, tatsächlich.

00:09:38: Aber angefangen, genau.

00:09:39: Und deswegen gab es eben dieses System auch schon sehr früh, nämlich rund um den Dreh als Chatshipiti das erste Mal quasi öffentlich geworden ist, also im Dezember, zweiundzwanzig.

00:09:49: Ungefähr gleichzeitig ist eben dieses F-III Behördensystem auch rausgekommen, klar, in der Testphase überhaupt nicht öffentlich und so.

00:09:55: Aber das heißt, die sind eben nicht, wie sonst, natürlich so oft auf dem Fahren und Zug aufgesprungen nach dem Motto, da ist ein Hype und wir machen jetzt auch schnell mit, sondern die hatten in Anfangszeit die gleiche Idee.

00:10:05: Natürlich ist die Idee nicht total neu, weil es gab ja auch vor Chat, GPT, Sprachmodelle und Chatbots, aber halt keine öffentlichen.

00:10:11: Und Björn Beck hat mir gesagt, wir haben damals eben gehört, das gibt jetzt eben hier Aleph Alfern, damals noch recht unbekannte Start-up, was in Heidelberg sitzt und die machen Sprachverarbeitung.

00:10:22: Und er hat gesagt, da war ihm total klar, dass die Verwaltung doch als sprachverarbeitende Industrie, wie er sagt, da prädestiniert dafür ist, was damit zu machen.

00:10:30: Und so kam sie auf die Idee.

00:10:32: Und so haben sie also damals mit ALF Alpha angefangen, dieses Behördensystem, diesen Behörden Chatbot zu entwickeln.

00:10:39: Und dann ist er tatsächlich auch, wie gesagt, ich glaube, in den ersten Test-Versionen für die Verwaltung rausgekommen.

00:10:48: Und jetzt hat man von Aleph Alfa dann irgendwann gar nicht mehr so viel gehört.

00:10:53: Vielleicht noch einmal da auch zum Hintergrund.

00:10:55: Schwarzgruppe, Schwarz-Didgets ist da eingestiegen.

00:10:59: Dann hat auch der ursprüngliche CEO Jonas Andrules gewechselt.

00:11:04: Das gab aber so ein bisschen so ein seltsamer Wechsel.

00:11:06: Könnt ihr tatsächlich in einem Heiser Artikel nachlesen?

00:11:10: Genau.

00:11:10: Und jetzt, also das Unternehmen hat sich so ein bisschen verändert, wird auch jetzt nicht mehr so als deutsche Antwort gesehen, also schon lange nicht mehr als deutsche Antwort gesehen auf OpenAI, sondern macht so ein bisschen sein eigenes Ding.

00:11:22: Aber du sagst, jetzt bei F-III steckt Aleph Alpha gar nicht mehr dahinter?

00:11:27: Genau, und das ist ein bisschen seltsam, weil das wurde im Sommer vierundzwanzig, also vor einem starken Jahr, kam ja F-III, also gab es dann das große Marketing, jetzt ist F-III fertig, hier geht raus an die interne Öffentlichkeit in den Behörden und man hat das groß gefeiert und hat alle Alfa eben auch groß gefeiert dafür.

00:11:44: Und dann hat man ne Zeit lang nicht mehr so viel gehört davon.

00:11:46: Es gab einige sehr interessante Recherchen der Stuttgarter Zeitung, da kann ich auch da noch ein bisschen was dazu erzählen, die eben nämlich halt dann durchaus auch entdeckt haben, dass es immer noch halluciniert, dieses F-III.

00:11:56: Und dann Sommer-Vierzehn, also dieses Jahr, wurde auf einmal verkündet, so, und jetzt ist nicht mehr Alf-Alpha dabei, jetzt ist es Open Source, also auch das war es vorher nicht.

00:12:05: Und sie haben eben dahinter liegend Open Source-Modelle, wie zum Beispiel Lama von Meta oder Mistral aus Frankreich.

00:12:11: Also so, jetzt ist es was ganz anderes und ALF-Alpha ist nicht mehr dabei.

00:12:16: Und auf die Frage, wieso ALF-Alpha nicht mehr dabei ist, kriegt man echt ausweichende Antworten.

00:12:21: Also mir wurde dann immer nur gesagt, na ja, wir sind ja modellagnostisch.

00:12:25: Das ist das Wort auf das man sich offenbar geeinigt hat als Antwort.

00:12:28: Also das heißt, dadurch, dass das Open Source, das kann da jedes Sprachmodell dahinter geschaltet werden sozusagen und deswegen können wir jetzt ja auch mit anderen arbeiten.

00:12:37: Aber wie so Aleph Alper da nicht mehr drin ist, ist irgendwie so ein bisschen unklar.

00:12:40: Im Hintergrund habe ich gehört, dass Aleph Alper wohl schon auch schlechte Dinge abgeliefert hat, also schlechte Ergebnisse, schlechten Code.

00:12:48: Das andere, was ich gehört habe von der Stuttgarter Zeitung ist, dass es ja eben auch, das hat man auch hier und da gelesen, dass es so ein bisschen verdacht auf Klüngelei gab vorher, also dass in der alten Truppe rund um F-III Durchaus eine große persönliche Nähe auch war zwischen dem Staatsministerium und eben Aleph Alpha, Jonas Andruhles.

00:13:09: Und da gab es eben auch Vorwürfe, da ist ja auch nicht so wenig Geld geflossen, dass Jonas Andruhles und Aleph Alpha davon profitiert haben, dass wir so ein kleiner.

00:13:18: Fills dahinter steckt.

00:13:19: Es wurde natürlich immer dementiert und da gibt es auch überhaupt keine Belege dafür.

00:13:22: Und ich denke auch so, die sind so kumpelhaft.

00:13:25: Aber ehrlich gesagt muss man sagen, natürlich in dieser Start-up und KI-Szene ist das ganz schnell, dass Leute kumpelhaft sind und dass man sich dunst.

00:13:31: Also ich finde daran kann man noch nicht unbedingt was ablesen.

00:13:34: Aber es könnte natürlich sein, dass sie dann quasi mit einer neuen Truppe das ganze nochmal auf neue Füße gestellt haben und und noch dazu eben beschlossen haben, es Open Source zu machen, vorwurz vertrieben, als, ähm, also man konnte vorher, konnte man Lizenzen kaufen, ähm, beim Gafteck Campus.

00:13:51: Was wieder noch mal in Vereine ist, also diese Strukturen sind ein bisschen undurchsichtig.

00:13:55: Das hat auch der Jan Gjörg Plawis zu mir gesagt in der Recherche.

00:13:58: In Baden-Württemberg, das steckt ganz, ganz oft, steckt eben auch die Schwarzgruppe da irgendwie noch mit drin.

00:14:04: Äh, und man weiß eigentlich nicht genau, wie, äh, und mit wem und wieso.

00:14:09: Und der Gafteck Campus, und das ist das Verrückte, die verkaufen aber bis heute die alte Lösung, also dieses, was damals F-III heißt, heißt jetzt Faria Government Assistant, die verkaufen das heute immer noch gemeinsam mit ALF-Alpha eben auch an Behörden.

00:14:25: Und das ist so das, was ich extrem verwirrend oder schräg finde, dass es quasi schon zwei Varianten gibt.

00:14:31: Ja, genau.

00:14:41: Aber lass uns einmal noch ganz kurz bei dem Geld bleiben Eva, das fand ich ganz spannend, weil da haben wir nämlich noch gar nicht drüber gesprochen, weil das Ganze ist ja gebaut worden, auch natürlich mit Steuergeld und das spart man an irgendeiner Stelle ein, gibt das dann für solche Innovationsprojekte aus, irgendwie finde ich es auch ein bisschen cool, weil Verwaltung ist ja, denkt man ja immer so, verstaubt, da passiert eh nix, also finde ich an sich schon gut und nachvollziehbar.

00:15:05: Trotzdem würde mich mal interessieren, was du da recherchieren konntest, wie viel Geld ist denn da?

00:15:11: reingeflossen in dieses Projekt.

00:15:13: Und dann muss ich auch immer an dieses Verhältnis denken, wo wir denken, oh, da haben die mal richtig Geld in die Hand genommen.

00:15:20: Es hat dann immer in der KI-Welt so Tropfen.

00:15:22: Aber genau, was hast du denn da rausgefunden?

00:15:24: Und wie viel Geld geht's denn da?

00:15:26: Genau, es gab eine Anfrage im Landtag und da kam aus, das ist so eine knappe Million reingeflossen ist, neunundachtzigtausend Euro.

00:15:34: Ja, das ist tatsächlich, die an Georg sagt, das ist ... noch kein richtiger Skandal, aber es ist natürlich schon viel Geld.

00:15:41: Und dazu kommt, und das finde ich eigentlich eher, ja, ob es der Skandal ist, aber irgendwie nochmal fragwürdig, dass eben ja jetzt diese alte Version verkauft wird, wohl schon auch zu, nicht teuer, aber trotzdem, sie wird verkauft.

00:15:56: Und da drin steckt ja aber auch unter anderem das ganze Testing, was die Verwaltung gemacht hat.

00:16:02: Und Plavets sagt, dieses In der Verwaltung entwickelt ist der Gold Standard bei Behörden Digitalisierung.

00:16:09: Das heißt jetzt wird also dann Tool verkauft.

00:16:11: In das ganz, ganz viel Entwicklungsarbeit und Testerarbeit einfließt, dass letztlich auch von Steuerzahlern bezahlt worden ist, weil es eben die Mitarbeiterinnen der Verwaltung getestet haben, überprüft haben, daraufhin wurden Dinge verbessert.

00:16:25: Und da kann man jetzt quasi diesen schönen Siegel draufkleben in der Verwaltung, entwickelt und getestet.

00:16:30: Aber es wird jetzt einfach unabhängig von dem eigentlichen Projekt, was eben Open Source ist, wird das eben dieses alte Ding weiterverkauft.

00:16:38: Und er sagt, nach seinen Recherchen wurden eben diese ganzen Bereichen gar nicht bewertet.

00:16:42: Also niemand hat gesagt, okay, das Land, die Verwaltung hat da so und so viel Arbeit reingesteckt von den Beamten, deswegen bezahlt.

00:16:49: Also wie auch immer, Alfalfa, Gavtech, dieses halt jetzt verkaufen einen entsprechenden Betrag an die Verwaltung.

00:16:55: Und da, finde ich, ist es ein bisschen schräg.

00:16:58: Da müsste man nochmal nachforschen.

00:17:01: Jan Georg sagt, er hat da auch nicht so viele Antworten bekommen.

00:17:04: Gjörg ist der Kollege von der Stuttgarter Zeitung.

00:17:06: Genau, der Kollege von der Schulerzeitung, der hat da viel recherchiert.

00:17:09: Der hat übrigens auch in den Lette-Anekdote erzählt, und zwar haben sie eben auch noch dieses alte System im Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den Sommer, um den

00:17:31: Sommer, um den Sommer,

00:17:32: um.

00:17:32: Hast du mir auch in deiner Zimmerdecke kleben?

00:17:34: Also die Weißlichtmilbe ist, das ist ganz lustig, ist so ein Internethooks.

00:17:38: Da hat so ein junger Influencer auf TikTok und Instagram vor, also nicht zwei Jahre, ein, zwei Jahren so was, sich gedacht, er denkt sich einfach mal was aus, was es gar nicht gibt und testet mal aus, worauf Leute so reinfallen.

00:17:48: Und sein, sein Ding war die Weißlichtmilbe, die in deiner Zimmerdecke lebt.

00:17:53: Und dann hat er angefangen, seine Zimmerdecke um Staubsauger abzusaugen und sich dabei gefilmt natürlich und gesagt, hey, ich hab die Weißlichtmilbe und dem müsst echt aufpassen.

00:18:00: Ich krieg die kaum los, wenn's mal so weit.

00:18:01: ist, wie bei mir.

00:18:03: Also saugt bitte immer eure Zimmerdecke, weil es ist wirklich ein furchtbarer Parasit und so und ich hab das überall.

00:18:07: Und dann haben tatsächlich ganz viele Leute auch angefangen, ihre Zimmerdecke abzusaugen.

00:18:12: Und es gab sogar eine eigene Website, also jemand hat eine Website aufgesetzt über die Weißlichtmilbe, die wirklich ganz offensichtlich für Menschen eine Fake-Webseite, eine Spaß-Webseite ist, ja, da ist eine Pseudo-Wissenschaft darin drauf und die sagt dann, wie die Weißlichtmilbe aussieht, auch das in die Zähnbeine und die Augen sind tropfenförmig und es gibt sogar ein KI-Garnettes Bild von der Milbe.

00:18:32: Und ja, dieses, das alte F-III ist eben auf die Frage des Kollegen von der Stuttgarter Zeitung.

00:18:38: Was kann man denn gegen diese invasive Art tun?

00:18:40: Reingefallen hat in langen, eine ganz lange Antwort geschrieben.

00:18:43: Was man auch kann.

00:18:44: Oh no!

00:18:48: Und das ist natürlich, wenn man sich vorstellt, dass jetzt, dass die Grundlage wäre für eine, keine Ahnung, der Antwort, die einen Behördenmitarbeiter, eine Bürgerin schreibt.

00:18:56: Es ist natürlich super peinlich.

00:18:57: Also das muss natürlich sicher sein.

00:19:00: dass so was nicht passiert.

00:19:01: Und das ist eben, das war.

00:19:03: noch darüber hinaus, was mir Bauchschmerzen bereitet, wenn es diese Variante, die ja zwar nicht die aktuell F-XIII war, aber eben die Grundlage von diesem Faria Government Assistant, der verkauft wird und den sich bestimmt auch die eine oder andere Behörde kaufen wird.

00:19:18: Wenn da drin so was steckt, so ein Modell steckt, was nicht mal gegen die Weißlichtmilbe gefeit ist, dann finde ich, kann man da durchaus besorgt sein.

00:19:26: Ja, oder man kann auch die Hoffnung haben, dass sie das weiterentwickeln.

00:19:30: Ja, das stimmt.

00:19:33: Vielleicht spätestens

00:19:36: jetzt wird das raus trainiert per System Prompt.

00:19:40: Vorher eingegeben, bitte fallen nicht rein auf die Weißlicht.

00:19:45: Sag mal, trotzdem interessiert mich noch mal doch ganz stark das Thema Datenschutz.

00:19:50: heißt es, also wenn das mit Open Source und sagen wir mal Markereigenbau ist, dass es dann auch auf eigenen Servern läuft, weil das ist ja, finde ich, gerade beim Thema Verwaltung eigentlich ein riesen Thema, also dass diese Modelle nicht auf fremden Servern laufen.

00:20:07: Genau, und das ist wirklich das.

00:20:10: besondere an diesem Projekt finde ich und das muss man auch hervorheben.

00:20:14: Und da finde ich kann tatsächlich auch hinten anstehen, dass es ein bisschen schlechter als ChatGPT vielleicht funktioniert.

00:20:19: Allerdings wirklich auch nur, wenn man so ein bisschen ja mit ChatGPT User-Gewohnheiten rangeht, wie ich das getan habe.

00:20:27: Es ist komplett selbst gehostet auf eigenen Servern.

00:20:31: Es ist Open Source.

00:20:32: Also es hat wirklich alle alle guten Merkmale, die wir uns so erhoffen und wünschen und damit ist natürlich tatsächlich der Datenschutz gewährleistet.

00:20:41: Und es hat noch dazu als keine Verbindung zum Internet, wo man erstmal denkt, oh Mann, nervt.

00:20:46: Aber

00:20:47: ich habe ein bisschen darüber nachgedacht und ich glaube, es ist tatsächlich die einzige Lösung, um sicherzustellen, dass es sicher ist.

00:20:53: Weil ich habe jetzt ja viele Vorträge gehalten und Recherchen gemacht zu Sprachmodellen und die Einflussmöglichkeit, die man von außen hat.

00:21:02: und sobald so ein Ding Zugriff aufs Internet hat, kann einfach wirklich, wirklich viel schief gehen.

00:21:07: Und wenn man jetzt überlegt, es ist ja, weil du vorgefragt hast, ChatGPT ist nicht erlaubt in der Verwaltung, ich glaub so pauschal, stimmt es gar nicht.

00:21:14: Also manche Stufen, das durchaus auch ab, wobei ich schon die Frage finde, ob das, also ob das dann funktioniert, ja, ob die Leute dann nicht leichter nicht werden.

00:21:21: Also in manchen Behörden darf man Urlaub ChatGPT verwenden, aber natürlich darf man da keine internen Dokumente reinladen, keine Bürgerinnen, Daten und so weiter.

00:21:29: Das heißt, Wenn man sich das so anschaut, dass F-III dann ja vor allem für diese Use-Cases ist, wo man eben interne Dokumente reinladen möchte, wo man eben TGPT nicht benutzen darf, sondern F-III nutzen muss, dann wiederum ist es mit kein Interessezugriff eigentlich auch kein Problem, weil man dann eigentlich tatsächlich Informationen verarbeitet, vor allem die vorliegen.

00:21:50: Und das ist, glaube ich, am Ende, wenn man sich es durchdenkt, auch der Use-Case ist ja in der Verwaltung wahrscheinlich am häufigsten vorkommt.

00:21:57: Also von daher ... dass das jetzt als Chatbot nicht perfekt ist und nicht ins Internet kann, ist so gesehen gar nicht so das große Problem.

00:22:06: Und sag mal, jetzt noch einmal so abschließend gefragt, denkst du, es hilft wirklich, was?

00:22:12: wir haben ja ganz am Anfang darüber gesprochen, also über Stichwort Personalmangel, Überalterung, gerade Menschen, die jetzt aktuell in der Verwaltung arbeiten, gehen in Rente, in der Justiz, also dass Fälle nicht zeitnah bearbeitet werden können.

00:22:27: Glaubst du denn?

00:22:28: Dass so ein Chatbot da wirklich was helfen kann, also bräuchte es nicht eigentlich mehr?

00:22:32: Also ist das ein ernsthaftes Tool oder, ich sag mal, Showpolitik ein bisschen böse?

00:22:38: Also, ich glaube, es löst natürlich nicht alles.

00:22:41: Und da mussten wir auch aufpassen, weil das ja immer ganz schnell geht, dass man bei so Tech-Lösungen dann so ein bisschen das große Versprechen oder das große Behauptung macht, jetzt ist alles gelöst, Überalterung und Personalmangel und so weiter.

00:22:53: Also, genau, Tech.

00:22:55: Wir sollten nicht in so ein Tech-Solutionismus reinlaufen.

00:22:58: Es ist, glaube ich, einfach ein Tool von vielen, das man benutzen kann.

00:23:01: Und ich glaube, und das ist ja bei KI generell so, dass wir da immer wieder hören, dass so viel Zeit gar nicht eingespart wird und das gar nichts alles so viel effizienter macht, weil eben zumindest bei klassischen KI-System und Agenten noch schlimmer eben auch ganz viel Unsinn bei rauskommt, da hatten wir es ja auch schon davon.

00:23:18: Deshalb glaube ich schon, dass ich die Verwaltung gut anschauen muss, was sind sinnvolle Use-Cases und was nicht.

00:23:23: Ich persönlich würde denken, allein dieses schnellene E-Mail in Form bringen, ich glaube, das spart schon viel Zeit, Texte aller Art zu schreiben auf Basis von eigenen Recherchen und eigenen Dokumenten, die reingeladen werden.

00:23:35: Ich glaube auch da spart es Zeit Zusammenfassung und diese ganzen Sachen.

00:23:38: Also von daher glaube ich schon, dass es was helfen kann, aber natürlich... ist es jetzt nicht die Eier legende Wollmilchsau, die jedes Problem der Verwaltung löst.

00:23:45: Und dann muss man natürlich gucken, was jetzt noch dazukommt.

00:23:48: Also, was sich Leute überlegen mit diesem Open Source System, welche Tools man dann noch ran flanschen kann, die vielleicht auch noch ein bisschen weiterhelfen.

00:23:56: Ja,

00:23:57: also Behörden, Digitalisierung ist auf jeden Fall ein weites, weites Feld.

00:24:02: Also, ich glaube, da muss man auch ehrlich sein und sagen, obwohl ja auch schon einiges passiert, steht man trotzdem noch am Anfang.

00:24:10: Also von dem, was man alles digitalisieren könnte, müsste.

00:24:14: Also, ich meine, okay, man darf schon fast nicht mehr sagen, ja, in Estland, also dreht schon alle die Augen und rennt.

00:24:22: Weil ist dann einfach Mini-Edie-Bidi-Klein ist und natürlich auch viel mehr machen kann.

00:24:27: Aber trotzdem, wenn man sich überlegt, was man alles digitalisieren könnte und wo wir überall noch Formulare ausfüllen, dann ist es natürlich schon so.

00:24:36: dass man denkt, da muss auf jeden Fall mehr getan werden.

00:24:39: Ja, und ich glaube, ganz viel könnte man tatsächlich auch regelbasiert lösen.

00:24:43: Also, tatsächlich muss nicht alles KI sein.

00:24:44: Und ich hoffe sehr, aber ich hab da eigentlich auch ein bisschen Vertrauen, dass die Leute in der Verwaltung das auch sehen.

00:24:51: Also, die Leute wie Björn Beck, die tatsächlich aus der Richtung kommen, wir schauen, was alles möglich ist mit KI und Software.

00:24:59: Dass die schon auch einen realistischen Blick darauf haben, dass man natürlich bitte nicht alles mit KI löst, sondern ganz viele Dinge auch ... einfach regelbasiert machen kann, robust.

00:25:09: Wie gesagt, der GERB haben wir ja gesagt, zwischen ich stelle mich in die Schlange beim Bürgermüro zu, ich kann Dinge digital lösen.

00:25:15: Der ist groß und da muss nicht nur KI reinspringen, sondern bitte auch andere Sachen.

00:25:19: Ja, vielen Dank Eva.

00:25:21: Die spannende Reise in die Verwaltung.

00:25:23: Ich war ja so ein bisschen skeptisch, als du mit dem Thema angekommen bist.

00:25:27: Oh Gott, schlafe ich ein, wenn wir podcasten.

00:25:31: Aber

00:25:32: du bist gut erholt im Urlaub.

00:25:33: Nee, es war einfach interessant.

00:25:35: Ja, so wirklich spannend.

00:25:37: Und ich finde, kann man auch mal sehen, wo an welchen Ecken in Deutschland sich eigentlich was tut.

00:25:45: Von daher, ja, schaltet wieder ein.

00:25:47: Nächste Woche, Mittwoch sind wir wieder für euch da.

00:25:49: Und, falls ihr zwischenzeitlich noch mehr wissen wollt über dieses Thema, hier noch der Hinweis auf den Podcast KI-Verstehen vom Deutschlandfunk, für den ich das unter anderem recherchiert habe, der ist vergangenen Woche erschienen, wir checken, stecken euch den Link auch noch wie Shownauts.

00:26:02: Da könnt ihr auch Otöne von ein paar meiner GesprächspartnerInnen hören und noch mehr eintauchen, dass ihr noch was mehr zu hören habt.

00:26:10: Für die eine Woche bis wir uns der nächsten Mittwoch wieder hören.

00:26:12: Ja, das

00:26:13: räumen wir uns schon drauf.

00:26:15: Und damit tut uns einen riesen Gefallen.

00:26:18: Bewertet uns sehr gerne in euren Podcast-Playern.

00:26:20: Also vier Sterne nehmen wir oder da oben hoch oder was auch immer.

00:26:25: Es für Möglichkeiten.

00:26:26: Es da gibt, damit helft ihr uns, dass wir diesen Podcast weiter machen können, empfehlt uns weiter.

00:26:32: Und dann, ja, gesund und habt hoffentlich auch Urlaub bald.

00:26:36: Genau, passt auf euch auf, schickt uns eure Erfahrungen.

00:26:38: Wenn ihr Erfahrungen mit der Waldungssystem und KI macht oder auch Digitalisierung, wir bleiben an dem Thema dran.

00:26:43: Also meldet euch gerne mit Feedback, Themen, Ideen, Inspiration und allem, was euch einfällt.

00:26:49: Ja, wir freuen uns von euch zu hören und dann bis ganz bald.

00:26:52: Das war Daytalk Tech, ein CT-Podcast von Eva Wolf-Angel und Svea Eckert.

00:26:58: Musik und Produktion Marco Pauli.

00:27:00: Untertitel im Auftrag des ZDF.