Der Roboter war's nicht: Der Kölner Fall. Und: Alke Martens über ihr neues Buch „Dumm dank KI?"

00:00:00:

00:00:16: Hallo und herzlich willkommen zu Day Talk Tech, ein CT Podcast.

00:00:20: Ich bin Svea Eckert, Tech Journalistin

00:00:23: Und ich bin Eva Wolf-Angel auch Tech Journalisten!

00:00:26: Hallo schön dass ihr auch wieder da seid.

00:00:28: Ja wir haben heute...ich würde sagen es ist eine richtige Blockbuster Folge, würde man sagen.

00:00:34: Weil wir haben in der zweiten Hälfte einen richtig spannenden Gast Alkanathens von der Universität Rostock auch bekannt als KI-Influencerin einfach eine wahnsinnig tolle, spannende Informatikprofessorin die in den letzten Monaten ja einfach bekannt geworden ist dadurch dass sie KI ganz besonders gut erklären kann.

00:00:56: Ja, sie hat wirklich innerhalb von kurzer Zeit sehr viele Follower innen.

00:01:00: Vor allem auf Instagram gesammelt und ich bin ja immer so ein bisschen skeptisch mit Influencerinnen weil ich denke das ist halt oft platt und springen oft auf den Hype auf.

00:01:09: aber bei Alke ist es anders.

00:01:11: also ich glaube sie wurde ein bisschen genötigt zu dem Hype mehr zu sagen und kann's auch nicht lassen Aber es einfach genau hat wahnsinnig kluge Gedanken dazu Und wir freuen uns sehr darauf sie im zweiten Teil hier einzuladen.

00:01:23: Und im ersten Teil gehen wir auf so einen kleinen Aufreger ein, der vor allem auch in den sozialen Netzwerken kursiert.

00:01:29: Aber es tatsächlich bis zum ZDF geschafft hat mit der Schlagzeile Roboter soll sechzehnjährige belästigt haben.

00:01:37: und naja das hat uns natürlich hellhörig werden lassen!

00:01:44: Ich muss sagen ich habe neulich Holger hat mich angerufen, es gibt so ein Podcast.

00:01:48: Holger ruft an zum Thema Medien und verschiedene Themen.

00:01:53: Und er hat mich angerufen wegen der Berichterstattung über KI unter anderem.

00:01:57: also wir haben viel auch über generell gesprochen.

00:01:59: wie ist das denn damit KI?

00:02:00: Und ich finde so eine Überschrift ist halt so ein typisches Beispiel für Fail, das ist nicht unser Job.

00:02:06: Also ein Roboter greift nicht von sich aus irgendjemand an und es so zu schreiben ... Ja, es hat einen Framing was ein richtiges Problem ist.

00:02:16: ja weil er so tut wie ... Ups!

00:02:18: Seid ihr da was passiert?

00:02:18: Wo niemand etwas dafür kann?

00:02:20: Ist halt die Technik und sowas in dem aktuellen Fall überhaupt nicht stimmt.

00:02:25: also wir zwei waren ja selbst vor kurzem auf der E-Fahn haben geschaut wie sich Roboter fortbewegen Und dass da ziemlich wenig von selbst passiert.

00:02:33: Ja, aber das ist uns von vorne anfangen Eva.

00:02:36: Lass uns einmal den Fall aufrollen.

00:02:37: vielleicht guckt nicht jeder so viel Instagram wie ich.

00:02:41: Ich habe es auch aus den etablierten Medien erfahren und mich haben viele Fragen erreicht von wegen ja wie kann das sein?

00:02:46: Hat er sich wirklich selbstständig bewegt?

00:02:48: Ist die KI jetzt schon soweit?

00:02:49: Also genau erzähl mal was du weißt von Instagram oder

00:02:53: aus der Pressemitteilung der Polizei Köln.

00:02:56: Da würde eine gute

00:02:57: Quelle sein zusammenfassen,

00:03:00: was bekannt geworden ist.

00:03:01: Das war in der Nacht zum Sonntag, elfte Oktober zwischen, sagt die Polizei, ... In Köln Ecke Palmstraße holen Zollering vor einem Schnellrestaurant.

00:03:12: Die Ecke sagt mir persönlich nichts, bin nur gelenklich mal in Kölnen.

00:03:16: aber ich habe mir viele Videos angeschaut.

00:03:19: das ganze ist ja während eines Livestreams passiert dass es auch das gute dann im nachhinein.

00:03:24: man kann eigentlich ziemlich genau und auch relativ ausführlich.

00:03:28: Kann man das alles rekonstruieren?

00:03:30: Das ist alles online.

00:03:31: Und es scheint einfach eine belebte Ecke zu sein mit vielen jungen Menschen unterstanden, auch eine sechzehnjährige mit zwei Freundinnen, siebzehn und achtzehn.

00:03:41: Und ich hab mir im Video das nachher angeschaut.

00:03:43: Der hatte lange blonde Haare, war so ganz weiß angezogen also ganz offensichtlich im Ausgehoutfit.

00:03:50: die ganzen Mädels standen da eben an der Ecke rum Genau und dann kam also ein bunter kleiner Roboter an.

00:03:56: Und zumindest so habe ich das in dem Video gesehen, läuft sozusagen gegen sie und hat dabei seine Fäuste irgendwie erhoben oder seine Hände wobei richtige Hände hatte gar nicht.

00:04:06: Das ist eher sowieso fäuste.

00:04:07: Hat die so erhoben und rennt im Prinzip so eine oder zwei mal.

00:04:12: Das sieht mein Video gar nichts zu gut weil da gerade einer vorbei läuft gegen ihren Hintern Und hat berührt sie eben.

00:04:20: Genau, und das fanden die überhaupt nicht lustig.

00:04:22: Da herum standen viele junge Männer, die Mädchen rufen dann auch Nein, Lass!

00:04:28: Nein so wollen das nicht, bleibt weg mit dem Roboter.

00:04:32: Darum ganz viele junge Männer... die das irgendwie witzig finden, die sagen hey der mag dich.

00:04:39: Der will dich doch nur umarmen.

00:04:41: und das ganze aber ist dann soweit gegangen dass eine der Mädchen hat die Polizei angerufen weil sie sich belästigt gefühlt hat von dem Roboter von den jungen Männern Und die haben tatsächlich dann den Roboter mitgenommen und das Ganze wird jetzt auch verfolgt.

00:04:59: allerdings geht nicht auf sexuelle Belästigung, sondern es ist eine Beleidigung auf sexueller Grundlage.

00:05:09: Genau.

00:05:09: Jetzt sagen

00:05:10: wir noch kurz um dieser Livestream haben die jungen Männer gemacht den Roboter-Mund man sich auch gehört oder unbeteiligte weiß man das?

00:05:18: Genau.

00:05:18: also ich habe dann mir alle Videos dazu angeschaut, die ich finden konnte Und da sieht man, dass diese jungen Männer mit dem Roboter schon... Also ich hab die frühesten Videos habe ich aus dem September gefunden.

00:05:29: Die waren in Köln mit dem unterwegs auch mehrfach abends schon sind auch mal damit bei der Polizei vorbeigegangen.

00:05:35: Die haben den so ein bisschen verkleidet und im T-Shirt angezogen Ich hab fast einen Schnurrbart, Sonnenbrille.

00:05:41: Also der sah auch so ein bisschen lustig aus und sind dann ... Und haben halt immer Videos gemacht und gestreamt.

00:05:46: Es gibt ganz viel Material wie sie eben mit diesem Roboter zusammen unterwegs sind und haben das dann unter anderem auf Twitch aber ich hab's eben auf TikTok ganz viel gesehen also auf ganz vielen Kanälen ausgespielt.

00:06:00: Und es sind die Videos noch live?

00:06:03: Ja!

00:06:04: Die sind natürlich jetzt vielfach kopiert worden von anderen Accounts Und da gibt's jetzt schon so kleine Collections, die man sich anschauen kann.

00:06:12: Also auch dieser Stream von dem Abend ist in mehreren Teilen noch online.

00:06:17: Man kann sich das anschauen was davor war, Teil zwei ... Man kann dann sehen wie sie darauf warten, dass die Polizei kommt.

00:06:24: Man sieht auch wie die Polizei dann kommt und sagt der Stream muss jetzt aus.

00:06:29: Sie machen das Telefon jetzt aus, das reicht ja jetzt.

00:06:32: Das ist im Prinzip das vorläufige Ende der Geschichte wobei Einer der Streamer, der Creator hat sich auch schon mehrfach dazu geäußert inzwischen und in den Videos die er dann dazugemalt gesagt hat nein.

00:06:48: Der ist doch nur in die Reihen gelaufen, der hat sie doch gar nicht berührt und auf jeden Fall ging das auch so in die Richtung... Der kann doch nichts dafür, der ist doch nur ein Roboter.

00:06:59: Und ich würde sagen Eva da sind wir bei dir so'n bisschen am Casus-Knax ausgeliebt.

00:07:04: Ja klar!

00:07:04: Kann das Ding nix dafür.

00:07:06: also dieses Ding aus Blech... Was soll es dafür können?

00:07:10: Ich meine das hat keinen eigenen Willen und das hat ja nicht mal die Fähigkeit sich selbst irgendwo hin zu bewegen.

00:07:15: Also von daher Klar kann man sagen, das Ding kann nichts dafür.

00:07:19: Aber derjenige, der es gesteuert hat ...

00:07:21: Lass uns mal kurz technisch eintauchen!

00:07:24: Das war ein Unitree R-I.

00:07:26: Ich hab' das einfach mal nachgeguckt im Internet und wir haben ja... das sind dann so kleine Roboter, so um zwanzig Kilo schwer, meterzwanzig groß kosten so um die fünftausend Euro.

00:07:36: du kannst dir auch so einen bestellen.

00:07:38: also die gibt's in online Shops, die kommen aus China Und können dann so Kung-Fu machen und Tanzvideos.

00:07:45: Du erinnerst dich, wir waren ja auf der IFA und da haben wir uns diese Dinger und auch andere von diesen humanoiden Robotern mal angeschaut.

00:07:54: Und ehrlich gesagt, schon da habe ich gedacht.

00:07:56: Wieso fällt den meistens Männern die differnst?

00:08:00: Also das erste ist was uns aufgefallen ist auf der IFA Die werden alle fern gesteuert.

00:08:05: Da ist überhaupt nichts von autonomen Bewegungen.

00:08:07: und das andere was mir aufgefallen is dass denen schon am ersten einfällt irgendwelche Kampfszenen zu machen oder so.

00:08:16: also so Makamovies hab ich glaube ich damals gesagt.

00:08:20: Das ist das, was Menschen offenbar sehen wollen oder was Männer irgendwie daran cool finden.

00:08:26: Klar auf der IFA habe ich jetzt keine sexuell anzüglichen Dinge gesehen aber das ist natürlich das was man im sonstigen Leben eigentlich immer sieht.

00:08:35: ne?

00:08:35: Es gibt eine neue Technologie und ja Männer schauen wie man da mit Frauen herabwürdigen kann.

00:08:41: Das ist ja so ein total typischer Move.

00:08:43: deswegen es ist gar nicht überraschend Was jetzt vorgefallen ist, aber interessant finde ich tatsächlich die Fantasien der Menschen.

00:08:50: Die natürlich ausgelöst werden durch solche Überschriften.

00:08:53: kann es sein dass ein Roboter sowas von sich aus macht und das im aktuellen Fall wirklich quatscht weil er halt ferngesteuert wird.

00:09:02: Genau ich glaube da muss man nochmal richtig technisch auch einordnen.

00:09:06: also wenn man sich mal so das Funktionsblatt anschaut von diesem Unitree R-I dann sieht man Man kann das vielleicht vergleichen mit so einem ferngesteuerten Auto für Kinder.

00:09:16: Also auf dem Niveau

00:09:18: bewegen wir uns

00:09:19: da, ja?

00:09:19: Das heißt wenn man den Joystick nach vorne drückt dann geht der nach vorne, wenn man links drückt geht er nach links und wenn man rechts drückt er nach rechts.

00:09:28: Und der hat zwar Kameras eingebaut in der Vorderfront aber diese Kameras haben keine Objekterkennung

00:09:35: d.h.,

00:09:36: der sieht sozusagen nichts.

00:09:38: Also man denkt, das ist ein Roboter.

00:09:41: Der kann um sich herum was erkennen so wie unser Staubsauger-Roboter zum Beispiel.

00:09:45: aber der hat ja LIDA eingebaut.

00:09:47: also er hat ja quasi den Radar eingebauen wo er die Umgebung scannen kann.

00:09:51: Manche haben auch Kameras unserer jetzt nicht aber manchmal auch richtige Kameras eingebohrt können Objekterkennung machen.

00:09:57: Das hat er einst noch nicht.

00:09:59: Also das soll es geben, das gibt es auch bei anderen Robotern.

00:10:02: D.h.,

00:10:03: dass was durch die Kamera gestreamt wird ist das, was der Benutzer auf dem Joystick sieht aus wie eine Switch im Prinzip, also so ein Display und dann links und rechts hast du zwei Knüppel da.

00:10:16: Das Bild ist das was der dann sieht.

00:10:19: So d.h.

00:10:19: Du drückst nach vorne, da läuft er nach vorne.

00:10:22: Du lässt los, der stoppt!

00:10:25: So wie bei einem elektrischen Auto.

00:10:28: Nicht mal so intelligent, als ein Basic Staubsangroboter der wenigstens ausweicht?

00:10:33: Nein!

00:10:34: Sondern auch nicht eine

00:10:35: Drohne,

00:10:37: wo man schon sagen kann ich geh joggen fliege hinter mir her die in gewisses Maß an Objekterkennung hat.

00:10:42: und das finde ich in dem Zusammenhang schon entscheidend, weil es ist eben kein Roboter der irgendwie in Anführungszeichen durchgedreht ist.

00:10:52: Der jemanden belästigt hat sondern im Prinzip jemand ist quasi mit dem ferngesteuerten Auto gegen eine andere Person gefahren und hat sie dabei so berührt wie man jemand nicht berühren sollte in der Öffentlichkeit.

00:11:06: Und was ich ganz spannend finde auch daran Vor ein paar Jahren, als du darum ging, kann man jetzt Robotik tatsächlich ins echte Leben entlassen.

00:11:16: Also bis dahin war der Roboter quasi in Unternehmen auch immer abgeschirmt von Menschen ne?

00:11:21: Weil das ganz schnell natürlich gefährlich werden kann wie eine gewisse Größe oder eine gewiss Wucht haben mit ihrer Bewegung.

00:11:27: Kann das schon schiefgehen und das hat sich jetzt offenbar geändert.

00:11:31: Klar ist es ein kleines, kleiner Roboter ... Ich weiß gar nicht, wie's rechtlich ist, ob's eigentlich welche Größe von solchen Tools man einfach auf die Straße mitnehmen darf und wie dann eben die Aufsichtspflicht in Anführungszeichen ist.

00:11:45: Aber ehrlich gesagt, ist es ja wie bei allen anderen Dingen auch wenn du mit einem Tool was du steuerst jemanden verletzt oder was kaputt machst, dann bist du verantwortlich.

00:11:56: das ist ja eigentlich überhaupt nicht überraschend.

00:11:58: Und es

00:11:59: gibt ja so ein zwei drei Fälle in der Vergangenheit wo's Unfälle mit Robotern gab.

00:12:05: keiner davon war jetzt total Zumindest keine, die mir jetzt gerade vorliegen.

00:12:10: Es war total krass aber es gab mal blutige Nasen und Leute mussten sich in Sicherheit bringen.

00:12:17: Also sowas passiert schon und ich würde vermuten alles was eben wirklich gefährlich werden kann ist nochmal anders reguliert muss quasi anders beaufsichtigt werden oder mit einem Zaun drum herum wenn's im Unternehmen geht.

00:12:32: Hier hat uns ein Nutzer geschrieben, danke übrigens auch für eure ganzen Kommentare auf Mastottern.

00:12:37: Freuen wir uns immer sehr drüber.

00:12:38: also nur zu.

00:12:40: Er hat uns Frank DTS geschrieben schreibt dass die Frage wer dafür verantwortlich ist und ob das denn überhaupt übergriffig ist wenn es doch einen Roboter war überhaupt gestellt wurde?

00:12:51: Hat mich ehrlich gesagt schockiert!

00:12:53: Das war nicht ich, das war der Roboter, das waren nicht ich ,das war das Auto oder das war nicht.

00:12:56: Ich fand ihn ganz gut den Kommentar weil er das eigentlich

00:13:00: ganz gut zusammenfasst.

00:13:02: Was

00:13:02: wir hier sehen und ich finde, wenn man jetzt auch noch mal schaut wie ist es jetzt rechtlich zu werden?

00:13:08: Dann ist es natürlich so dass der Roboter quasi wie ein Werkzeug gewertet wird also wie einen Stock oder wie ein Auto.

00:13:15: Jetzt haben das Jugendliche gemacht.

00:13:17: Also die mutmaßlichen Täter die fallen unter Jugendstrafrecht sind heranwachsende.

00:13:23: Aber das Ganze ist schon so, dass die Polizei gegen diese beiden jungen Männer ermittelt und nicht gegen einen Roboter?

00:13:31: Ja, geht ja auch gar nicht.

00:13:33: Aber ich finde es gut, dass sie das offenbar ernst genommen haben.

00:13:36: Ich finde den Impuls gut von den Mädchen die Polizei zu rufen und zu sagen hier ist gerade was passiert, was wirklich nicht in Ordnung ist.

00:13:43: Von daher ... Die Erklärung ist relativ einfach.

00:13:49: Es kommen jetzt bestimmte, ich hab diese Diskussion auch schon gehört.

00:13:51: Brauchen wir neue Gesetze?

00:13:53: Brauchen Robotergesetze und so weiter ... Ich würd sagen nein!

00:13:55: Also dieser Fall gibt es Gesetzer, ne?

00:13:57: Die sowohl sexuelle Belästigung als auch ... Ja also die Haftungsfragen, wer ist schuld wenn ich mit meinem Tool was kaputt mache bin ich halt verantwortlich.

00:14:07: Wobei

00:14:07: ein interessanten Punkt fand ich doch.

00:14:10: zum Beispiel beim Auto haftet der Halter automatisch weil ein Auto ist halt gefährlich.

00:14:16: Beim Hund auch Da haftest du auch automatisch, aber beim Roboter nicht.

00:14:21: Weil deshalb musste die Polizei jetzt auch das Ding konfiszieren und muss es jetzt sozusagen nacharbeiten.

00:14:28: Also muss das verschulden Nachweisen?

00:14:31: Und das halte ich hier doch für eine echte Lücke.

00:14:38: Weil eigentlich müsste das ja klar sein ... Das wurde bewusst gesteuert.

00:14:42: Wozu muss man da überhaupt ermitteln?

00:14:44: Gibt es nur bei bestimmten Dingen so, dass du automatisch haftest?

00:14:47: Wenn jemand überfährst mit deinem Auto.

00:14:49: Dann ist es klar.

00:14:51: aber wenn du mit einem Roboter jemand verletzt nicht... Ist das wirklich eine Regelungslücke?

00:14:55: Wie sind denn wir anderen Sachen?

00:14:57: Sie müssen's halt nachweisen.

00:15:00: Das derjenige den Fern gesteuert hat und dass es nicht passiert deswegen im technischen Fehler oder irgendwas.

00:15:06: Es gab einen Vorfall da was so ... Da hat sozusagen der Verantwortliche im Prinzip, da ist der Funkkontakt abgerissen.

00:15:18: Und dann hat der Roboter ... Ist dann umgefallen und hat jemanden verletzt?

00:15:23: Irgendwie sowas geben müssen.

00:15:25: Also es gibt schon solche Vorfälle auch, wo man sagen kann ja also das war sozusagen ein technischer Fehler, wo's sag ich mal ein bisschen knifflig ist.

00:15:35: oder einen Roboter gab.

00:15:36: den Vorfall in der Fabrik Im Mai, den Roboter hing an einem Kran und die Software dachte, sag ich mal bitte ein Anführungszeichen.

00:15:45: Aber die Software hat eben ausgerechnet erfällt.

00:15:49: Und so hat der Roboter dann versucht sich zu fangen um sich zu schlagen und eben die Techniker mussten wegspringen.

00:15:56: Das sind natürlich gefährliche Momente.

00:15:59: Es war kein Eigenwille sondern das waren in dem Fall sozusagen einen Gleichgewichtssensor, der nicht richtig funktioniert hatte.

00:16:07: gibt schon so knifflige Fälle, ich glaub jetzt nicht dass wir hier so ein Fall vorliegen haben.

00:16:12: Aber das muss natürlich die Polizei untersuchen.

00:16:14: was sich ganz entscheidend finde ist, dass der Kölner Fall kein KI-Fall ist also weil der R.I.Ns eben keine KI eingebaut hat

00:16:24: und gesteuert wurde von einem Menschen.

00:16:27: aber in der heutigen Lage in dieser Stimmung dieser KI des Tupischstimmungen hab ich's Gefühl kommt es schon bei vielen gar nicht mehr an.

00:16:35: Oder ja, klar.

00:16:36: Wenn du solche Überschriften liest wie du vorher zitiert hast und die weiter liest dann kommen eben diese Fantasien.

00:16:43: jetzt geht's los.

00:16:44: Die KI greift uns an.

00:16:44: aber Entwarnung von uns es sind nur die immer gleichen alten sexistischen Strukturen unserer Gesellschaft die dazu geführt haben nichts Neues.

00:16:52: Vielleicht zwei Kommentare noch, die von Nutzern reinkamen.

00:16:56: Ich sag deswegen Nutzer weil es keine Frauen waren.

00:16:59: Die ganz forscht geschrieben haben.

00:17:02: mein erster Gedanke als ich das gelesen habe dass problemen könnte frau ja ganz elegant durch das mitführen eines tasers lösen.

00:17:08: Einmal brutzeln nie wieder grabschen.

00:17:11: War

00:17:11: nicht auch ein bisschen lustig aber ich war jetzt auch wieder so typisch Mann!

00:17:15: So die deckt natürlich gleich ans Schwert und ein anderer nutzer schreibt die lösung ist Einfach, man packt das Ding unten an den Beinen und haut es einmal so kräftig.

00:17:26: Man kann auf dem Boden.

00:17:27: So nach dem Motto hey du überschreites Grenzen ich auch her.

00:17:30: Und ich habe mir persönlich ... Ich hatte den gleichen Impuls, dass ich dachte, ich meine, das Ding wiegt twenty-fünf Kilo, das muss man halt dann einfach umtreten.

00:17:39: Es gibt zur Zeit eine Welle übrigens in USA und ich hab einige Videos dazu gesehen wo Menschen wütend sind auf Roboter?

00:17:46: und die umtreten oder

00:17:48: wegtreten.

00:17:48: Das ist schon so ein Sport!

00:17:50: Ja,

00:17:50: in der USA gibt es ja mehr davon.

00:17:52: aber genau also hatte ich auch so gedacht weil ich nicht mein überlegte an dem moment okay wie hätte ich gehandelt?

00:17:57: Ich hätte wahrscheinlich auch nichts umgetreten weil ich viel superplex gewesen wäre.

00:18:01: aber man hat davon abgesehen habe ich mich gefragt wie das eigentlich mit der Haftung dann aussieht wenn man in den Moment dann den Roboter umtritt.

00:18:10: ich weiß nicht dem fliegt dann vielleicht der Arm ab.

00:18:12: fünf tausend euro futsch oder so könnte er sein Aber das würde dann tatsächlich auch als Notwehr gelten.

00:18:20: Ach so, da kann man sich die Notwehr gegenüber Dingen machen sozusagen?

00:18:23: Genau!

00:18:24: Also du darfst Notwehr in einem gegenwärtigen Angriff ... Darfst du dich wehren?

00:18:30: Eine bisschen eine Grauzzone ist... In dem Fall also der Roboter hat die junge Frau ja berührt und ist dann einen Schritt zurückgegangen.

00:18:39: Wenn sie dann sich umgedreht hätte und den einfach getreten hätte, weil man darf nicht Rache üben Also das sozusagen, also Notwehrjahr.

00:18:48: Aber Vergeltung nein!

00:18:50: Jetzt gut in dem Fall... Ich bin jetzt keine Eugristin aber hätte man vielleicht sagen können naja sie hätte vielleicht erwartet dass der wieder auf sich zukommt und hat sich deswegen gewährt?

00:18:58: Also gibt's ja mein so was entscheidend.

00:19:00: Gerichte sage ich mal jeden Tag.

00:19:02: Ja also jemand schlägt dich du schlägst zurück ist es erlaubt ist nicht erlaubd.

00:19:07: Das gilt dann genauso wie wenn Du eben von einem Roboter angegriffen wirst.

00:19:13: Wenn es jetzt öfter vorkommt, dass solche Roboter umgetreten werden versehentlich.

00:19:18: Weil sie zu nahe kommen und sich einen Griffen führen, dann ist das vielleicht ein Signal an diejenigen, die die fünftausend Euro ausgeben oder so einkaufen, das vielleicht mehr bei sich zu behalten und sich eben zu benehmen.

00:19:28: Die Frage ist ja auch was?

00:19:28: Wozu überhaupt braucht man so ein Ding mit sich unterwegs spazieren zu gehen?

00:19:35: Also was generell ... Use Case dahinter, um zu zeigen

00:19:41: wie cool ich bin.

00:19:42: Ich meine das ist zum Spielen.

00:19:49: Also mein Eindruck ist damit kann man Spaß haben aber gut.

00:19:54: LeapTrack hat uns dazu auch geschrieben... auf Mastodon und See hat geschrieben, okay.

00:20:00: Das sind sozusagen die Spielzeuge der Gegenwart.

00:20:03: Und das fand ich ... ja so würde ich natürlich auch sehen und beschreiben.

00:20:07: Das ist halt irgendwie ein fünftausend Euro Spielzeug jetzt in dem Fall.

00:20:09: Es waren ja Creator-Streamer, die vielleicht auch gehofft haben damit Geld zu verdienen.

00:20:14: Von daher könnte ich mir vorstellen, dass man in der Fußgängerzone häufiger diese Dinger sehen wird.

00:20:18: Je günstiger die werden, desto mehr Leute werden sie irgendwie haben.

00:20:22: Dann ist es schon wichtig, dass du weißt wie gehe ich da mit um?

00:20:25: Ja, da werden wir jetzt vielleicht noch ein bisschen gesellschaftlich diskutieren müssen.

00:20:30: Aber wie gesagt, was mich sehr stört an diesen Themen oder der gesellschaftlichen Diskussion bis jetzt ist so dieses ... Oh!

00:20:37: Da ist ja noch etwas gesellschaftlicher oder rechtlich noch ungelöst?

00:20:40: Was ist es denn, wenn auf einmal Roboter-Menschen angreifen und so?

00:20:43: Dann starte einfach zu sehen hey das ist gelösst ne?

00:20:46: Sexistische, eine sexuelle Übergriffe solche Angriffe körperliche Angriffs, da gibt's genügend Paragrafen Das ist eigentlich ziemlich eindeutig verboten.

00:20:56: Aber ja, wie immer mit neuen Technologien scheint es Leute herauszufordern zu versuchen Grenzen zu überschreiten und wie gesagt leider ganz oft als allererstes Grenzen Frauen gegenüber was ich traurig finde.

00:21:12: Ich hatte ja mal diese Geschichte in virtualer Realität das erste Mal als sich in virtueller Realitet war.

00:21:23: mich auch jemand, also ein Avatar von einem anderen Mann ganz eindeutig quasi in mich reingelaufen ist und mir an die Brust gekrabscht hat.

00:21:31: Und ja so fies gelacht hat.

00:21:34: Also da war halt auch so deutlich zu merken natürlich ist es nicht Technik gegen Technik sondern in dem einen Avatar stecke ich In dem anderen steckt dieser Typ der hier gerade...also das ist ein sexueller Angriff, ne?

00:21:47: Ein Übergriff.

00:21:49: Da haben wir über solche Fälle so viel diskutieren müssen in der Öffentlichkeit.

00:21:52: Ja, ist es denn wirklich so?

00:21:53: Du bist ja gar nicht wirklich da!

00:21:55: Wahrscheinlich wird das auch noch kommerst nichts.

00:21:57: Dieser Roboter ... Der Mann war ja ein Stück weg und so weiter.

00:22:01: Ich glaub, da müssen wir echt aufpassen, dass wir solche Diskussionen ... Dass wir uns nicht auf die falschen Pferden abschieben lassen bei solchen Diskussionen.

00:22:10: Eigentlich ist es ein banaler Fall von sexuellem Übergriff in den Öffentlichkeiten.

00:22:14: Es ist gut, wenn's da jetzt Konsequenzen gibt.

00:22:17: Wie bleiben für euch da dran, wenn es da spannende und neuere Entwicklungen gibt?

00:22:22: Dann werdet ihr die sicher hier bei uns erfahren.

00:22:25: Jetzt leiden wir mal elegant über zu unserer wunderbaren Gäste zur

00:22:38: Alke Martens!

00:22:42: Das ist gar nicht so intuitiv, es sieht gar nicht aus.

00:22:56: Das Lustige ist, als wir uns dann vor kurzem erst mal persönlich getroffen haben ... Hab ich noch ein anderes Aha-Erlebnis gehabt.

00:23:02: Wir haben uns auf dem Reporterforum, eine Journalistenveranstaltung, vor ein paar Wochen getroffen und waren gemeinsam auf einem Panel zu KI.

00:23:10: Wir hatten ganz viele gemeinsame Themen, gemeinsame Interessen.

00:23:14: Ich glaube, wir hätten noch drei Stunden weiter diskutieren können!

00:23:18: Und die spannendste Frage oder die spannendeste Antwort von dir, finde ich, kam auf die Frage.

00:23:23: Was würdest du nie mit KI machen?

00:23:25: Aber lass uns das mal aufheben für nachher.

00:23:27: Das machen wir als Cliffhänger sozusagen weil wir müssen ein paar Grundfragen klären.

00:23:32: Nämlich allen voran bist ja eine echte KI-Influencerin.

00:23:36: Zweihundert, siebzig Tausend mehr also als ein Siebzigtausend Follower innen hast Du auf Instagram, die ja Dir begeistert folgen.

00:23:43: und als erstes würden wir gerne wissen Wie kam es euch dazu?

00:23:48: Wie ist aus der Informatik-Professorin die KI-Influencerin geworden.

00:23:53: Hallo, danke dass ich heute baue ich sein darf!

00:23:56: Es ist richtig klasse und es gibt da drauf eine Antwort, die ist so lustig wie das Leben selbst denn meine ehemalige Mitarbeiterin, die sich inzwischen selbstständig gemacht hatte Michelle kam irgendwann an und sagte, Alke du bist jetzt dabei dich jeden Tag über KI aufzuregen.

00:24:13: Dann erzähl den Leuten da draußen doch bitte einfach mal was Phase ist.

00:24:17: Und dahintergrund dieser Aussage ist ich bin ... Ich habe Informatik studiert mit Nebenfachmedizin und etliche Sachen in Psychologie noch dazu.

00:24:27: also ich hab keinen Abschluss im Psychologie, aber ich bin Diplominformatikerin mit Nebenfachmedizin Und ich habe mein erstes Seminar in KI gehört.

00:24:39: Das ist jetzt wirklich dreißig Jahre her am Ende meines Studiums sozusagen und habe im Bereich KI meine Doktorarbeit geschrieben über Expertensysteme, im Bereich Intelligenz, Lehren und Lernen.

00:24:49: Dann hatte ich eine Juniorprofessor die hieß Kosmetisch etwas geschönt kognitive Systeme und E-Learning.

00:24:56: Und das kognitive System war so zu sagen ... der Versteckaufkleber für KI, weil KI in der Zeit tot war.

00:25:02: Ja, das hat man damals gedacht.

00:25:04: Das sagt man lieber nicht?

00:25:05: Das vergrott nur alle gibt auch keine Fördergelder im Gegenteil zu heute.

00:25:09: Nein, da gibt es auch nicht so viele ... Da sag ich gleich gerne noch was.

00:25:13: Das war die erste Junior-Professorin an der Uni Rostock und genau da war diese große, große Senke von KI, KI-Galter als Tod.

00:25:21: Es gab keine Fördersgelder, es gab eine Handvoll Professuren in Deutschland.

00:25:27: als ne Vollprofessur bekommen möchtest, dann lass deine Finger von

00:25:30: K.I.,

00:25:31: weil da wird's nichts mehr geben, das ist

00:25:32: tot.".

00:25:33: Das war auch so!

00:25:34: Das war wirklich so bis in den Jahr- und-zwanzig.

00:25:37: Ich hab zwar immer wieder Anwendungen der K. I. beforscht ... Was man nicht vergessen darf, ist, K. i. war jetzt nicht wirklich tot.

00:25:46: Weil Maschinenlearningverfahren gab es schon immer, die zählten halt nur einfach nicht direkt zur

00:25:50: K.i.,

00:25:51: diese Experte mit dem Schiene.

00:25:52: Die war ziemlich tot.

00:25:54: Und vieles von dem, was jetzt neu gekocht wird ist nur eine Erweiterung von Hardware und ein bisschen fancy Software dazu.

00:26:01: Was wirklich neu-neu ist sozusagen aber die Grundideen kommen aus den Fünfzigerjahren.

00:26:06: Gerade in diesem Schnittfeld aus Psychologiemedizin und Informatik habe ich halt eigentlich etwas zu sagen.

00:26:12: Die junge Mitarbeiterin von mir, die ehemalige, die ist Ende zwanzig, das heißt der Social Media Welt ist so.

00:26:17: ihre Welt hat gesagt, jetzt raus mit dir vor die Kamera Und

00:26:22: Alki, kann dein Spruch schon mitsprechen?

00:26:24: Ich folge dir auf Instagram.

00:26:26: Du bist hier bei Alke Martins la-la-la und dann ... Hier geht's um KI Ethik und andere Welten.

00:26:32: Das ist immer so drin, so ritualisiert wenn man dir folgt dass du dich ebenso ganz kurz vorstellst und dann sagst du eben auch und andere welten.

00:26:41: das finde ich mal sehr cool.

00:26:43: also weil du das auch so verbindest eben das KI.

00:26:46: aber auch du denkst ja oft auch so drüber hinaus Weil die steht auf der Webseite, du wohnst in einem Indoor-Uhrwald.

00:26:54: Sind das

00:26:55: die anderen Welten?

00:26:57: Ja unter anderem auch.

00:26:58: also ich hab einen unglaublich grünen Daumen.

00:27:01: Ich weiß nicht was passiert wenn ich irgendeine Pflanze angucke.

00:27:04: dann fängt ihr an zu wachsen und Ich hab dann das, was einfach unglaublich ist.

00:27:09: Ganz viele große grüne Pflanzen bei mir rumstehen und irgendwann sagte mein Sohn wir leben in einem Indoor-Uhrwald und daher kamen das.

00:27:16: Also es ist alles gemischt an Pflanzen.

00:27:18: ich gehöre auch zu diesen komischen Leuten die Teile von Pflanzen von der Straße aufheben wenn ein Umzug gewesen ist und das was abgebrochen und dann stecke ich den Wasser und kriege die Wurzeln.

00:27:28: da wird sie eingepflanzt.

00:27:29: Ich habe jetzt gerade eine zwei Meter zehn große Juckerpalme, die demnächst ins Büro umziehen muss.

00:27:35: seit dreißig Jahren ungefähr.

00:27:36: Ungefähr so lange, wie es schon KI in meinem Leben gibt ... Ich hab die Frau

00:27:40: mit dem grünen Blick und der Weitsicht beim Thema KI.

00:27:45: Wir haben noch einen ganzen Blog zu der Frage was ist eigentlich KI früher gewesen

00:27:48: usw.,

00:27:49: aber lass uns mal kurz zu deinem Lebensinfluencerin zurückkommen.

00:27:55: Was macht dir daran Spaß?

00:27:57: oder wo hast du das Gefühl?

00:27:58: Du kannst da viel bewegen!

00:28:00: Ich hätte niemals mit dieser unglaublichen Resonanz gerechnet.

00:28:02: Das Ziel, was wir gehabt hatten war in einem Jahr Zehntausend Follower zu bekommen.

00:28:07: Das waren unsere Benchmark.

00:28:08: von da aus haben wir gesagt okay wenn wir das schaffen machen wir weiter.

00:28:12: und wir hatten in einem halben Jahr schon knapp hunderttausend.

00:28:15: und das bedeutet einfach ist ein großer Bedarf da.

00:28:18: ich habe vielleicht eine kleine Superpower die sich in der Didaktik der Informatik begründet bin.

00:28:23: ja auch Der Lehrstuhl ist praktische Informatik, aber ich bin für die Lehramtsausbildung verantwortlich.

00:28:29: Das bedeutet eins meiner Standbeine neben KI und Lernforschung ist eben auch die Didaktik.

00:28:35: Und das bedeutet, die Sachen runterbrechen zu können so dass es ein Fünfklässler oder eine Siebklässlerin oder eben auch einen Elternteil des komplett IT-Fernes versteht.

00:28:43: Ich glaube in der Kombination Medizin können, Psychologie können ansatzweise wenigstens Und Dinge vermitteln können.

00:28:51: Ich glaube, in dieser Kombination steckt die Superpower und das hat gewirkt.

00:28:55: Das was natürlich dann Spaß macht ist wenn Resonanz kommt, wenn Leute sagen du nimmst mir die Angst du hilfst mir zu verstehen was hier in der Welt passiert und mir fliegt wirklich echt ganz im Ernst immer eine Sicherung raus.

00:29:06: und Eva das habe ich bei dir gesehen dass ihr das genauso geht.

00:29:08: uns fair.

00:29:09: ich glaube bei dir ist es auch so wenn irgend ein Entschuldigung meistens ist leider ein Kerl vor dir sitzt und sagt KI wird Und alle arbeitslos machen und will die Weltherrschaft übernehmen.

00:29:19: Und KI-agenten lassen sich nicht mehr abschalten, und KI kann alles!

00:29:23: Dann kriege ich immer so einen Core-Dump.

00:29:25: Das geht immer gar nicht.

00:29:26: Ja das würde mich auch interessieren.

00:29:28: Stattest du dich eigentlich dass diese Apokalypse Themen gerade so gut laufen?

00:29:33: So abgehen?

00:29:33: also man sieht es ja... Also ich denke Zeitungen merken das an den Klickzahlen.

00:29:39: Du hast eines deiner erfolgreichsten Videos gemacht.

00:29:42: zu der Frage wird KI uns alle töten was ihr auch ein bisschen Absurd ist.

00:29:48: Genau, mich nervt das Apokalypse-Themen so gut laufen kann ich mal her jetzt offiziell sagen.

00:29:55: Mich nervt es hart aber wie geht's dir damit?

00:29:59: Ja, mich nerft das brutal natürlich klar und das merkt man auch wenn man den Beitrag dann anschaut weil eins der Sachen die ich auch sehr gerne immer mal wieder sage ist atmen Leute also besinnt euch einfach mal auf das, was wirklich da ist.

00:30:15: Das, was ich wirklich schwierig finde im Anbetracht der Apokalypse-Themen, die dann heißen KI wird uns alle töten, ist dass KI im Hintergrund etwas ganz Schlimmes macht und das finde ich bedenklich.

00:30:27: Das können nur wenige Leute einschätzen, nämlich dass ihr unsere digitale Infrastruktur gefährdet.

00:30:32: Und das ist auf einmal in einer Fallhöhe wo wir uns im Großen das gar nicht richtig vorstellen können Unser ganzer Komfort durch die digitale Welt, durch das Amoklaufen dieser Großunternehmen gerade gefährdet ist.

00:30:48: Und das ist nur was ... Das verstehen die Leute hier in meiner Umgebung bei der Uni und der Informatik sehr gut.

00:30:53: Das versteht ihr auch sehr gut?

00:30:54: Aber das kann ich auf der Straße natürlich nicht sagen!

00:30:56: Da kommt dann die Frage, werden wir jetzt alles sterben weil KI jetzt gerade losgelaufen

00:31:01: ist?!

00:31:02: Und dann kann man sagen, was du dir auftust.

00:31:05: Da ja nicht die KI an sich bringt uns um und entwickelt keinen bösen Willen.

00:31:09: aber wir sehen das es diese Unfällen Anführungszeichen gibt wie bei OpenAI deren KI-Agenten andere Unternehmen gehackt haben.

00:31:19: natürlich kann das passieren.

00:31:20: ich denke darauf spielst du an dass die Infrastrukturen hacken die zum Beispiel zu den kritischen Infrastruktur gehören oder einfach für unser Leben wichtig sind wird es auch wieder existenziell gefährlich.

00:31:32: Aber ich hab's für den Eindruck dieser langen Satz, die man dann eigentlich ins Mehrhörer sagen muss ... Soweit kommt man oft gar nicht, ne?

00:31:38: Weil eben dieses Apokalypse werden alle sterben so laut ist und so dominant.

00:31:42: Und auch wenn man versucht, ein bisschen Nuancen jetzt in die Headlines zu bringen oder in die eigene Berichterstattung... Es ist wahnsinnig schwierig!

00:31:51: ein anderer Narrativ so laut ist.

00:31:53: Ich hab mich trotzdem frag ich, mich.

00:31:55: manchmal ist es auch gut also weil gerade wenn man so an Geschichte der Regulierung denkt Atomenergie kann auch wahnsinnig gefährlich sein.

00:32:03: in den falschen Händen und auch viele laute Menschen und auch Katastrophen muss man ja leider sagen haben wir dazu geführt dass die Technologie reguliert wurde.

00:32:13: Also ich versuch dem Ganzen schon was Gutes abzugewinnen was mich sehr stört an dieser Debatte oftmals diese Verantwortung dann sozusagen verschwindet.

00:32:24: Hinter der bösen KI verschwindelt, wer hat die gebaut?

00:32:27: Wie wurde damit umgegangen?

00:32:28: Gibt's da Regeln dazu?

00:32:29: Das ist das was mich so aufregt.

00:32:32: Da bin ich voll und ganz bei dir zumal auch ... Tendenzen sehr deutlich sichtbar sind, dass eben vor allen Dingen Open Source-Plattformen angegriffen werden.

00:32:41: Und jemand der mir erzählt ... Das war ein Zufall, das jetzt zum Beispiel Open AI Hugging Face angegriffene hat.

00:32:47: Da kann ich eigentlich nur lachen, weil wenn es wirklich ein Zufall wäre, dann würde ich öfter Lotto spielen.

00:32:52: Vielleicht gewinn ich ja doch?

00:32:55: Es hat schon den Geruch des Eigenartigen, was da gerade momentan passiert.

00:33:00: Aber was denkst du?

00:33:01: Was ist der Hintergrund?

00:33:02: oder warum sagst du es?

00:33:02: kein Zufall mit gerade Hacking Face.

00:33:04: Hacking face ist eine Open Source Plattform für large Language Models und die größte Gefahr für börsengängige Big Tech Unternehmen ist aktuell ja, dass viele Dinge in dem Open Source Community Bereich auch entwickelt werden können und gegebenenfalls auch unter besseren Bedingungen entwickelt werden könnten also weniger Menschenrektverletzung, weniger Geld, weniger Datenüberwachung usw.

00:33:28: Und am Ende ist das, was übrig bleibt wirklich die Frage – Was gibt es?

00:33:35: an Möglichkeiten für die Weltbevölkerung, die Datenflüsse zu kontrollieren.

00:33:40: Und ich glaube vielleicht ist das auch so ein bisschen die Antwort auf diese reißerischen Schlagzeilen.

00:33:44: Die reißersche Schlagzahlen haben zwei Effekte.

00:33:47: Sie sind auf der einen Seite sehr anregend und auf der anderen Seite sehr klar und eindeutig.

00:33:53: Das heißt es versteht jeder!

00:33:54: Es versteht auch meine demenzkranke Mutter wenn ich sage ... Gedanken drüber machen.

00:34:06: Wenn ich jetzt sage, unsere aktuelle Wissenschaft und unserer aktuelle Gesellschaft ist momentan in einem Datenwahn, also in einem Datensammelwahn – wir bilden uns immer noch ein, dass wenn wir mehr Daten bekommen wie mehr Wissen oder mehr Informationen generieren können dann ist das auf einmal ein hochphilosophisches Thema und übersteigt einfach von ganz vielen Menschen die es im Alltäglichen berührt total den Horizont!

00:34:30: Wir werden total überwacht, dann hab ich wieder so eine schreiende Headline.

00:34:33: Und ganz viele Leute haben schon allein anhand der Aussage das Gefühl ... Okay ja!

00:34:38: Ich glaube da geht was falsch.

00:34:39: Ich bin also dagegen, dass wir total überawacht werden.

00:34:42: Warum denn eigentlich?

00:34:43: Manchmal sind diese Headlines einfach gute Vehikel um Dinge zu transportieren und die Frage ist nur passiert danach dann irgendwas wenn man die Headline quasi verarbeitet hat.

00:34:52: Da passiert mir gerade deutlich zu wenig noch

00:34:55: Oder passiert es halt, dass Menschen dann das Gefühl haben, okay ich kann sowieso nichts ändern?

00:34:59: Das ist der Kampf des Verlores.

00:35:01: Diese Angst ist ja meistens kontraproduktiv in Bezug auf wir versuchen was zu verändern und das ist vielleicht auch ein Motiv hinter solchen Erzählungen den Menschen zu vermitteln ihr habt's eh nicht mehr in der Hand ihr könnt sowieso nix machen.

00:35:15: das kommt jetzt.

00:35:16: alles ist unausweichlich.

00:35:18: Es sieht so aus nachdem Nach den Informationen, die ich mir jetzt zusammengeklaubt habe aus journalistischen Medien.

00:35:24: Aus Sachbüchern.

00:35:26: Es sieht so aus als wäre dieses Die Welt wird untergehen.

00:35:29: wir werden sie beherrschen als wäre das eine gezielte Marketing Strategie um Eine Klientel anzusprechen die nicht Wir sind.

00:35:36: die Klientell die angesprochen werden soll sind die Investoren die bereits im Vorverkauf in die Aktien investieren und sich Milliarden Gewinne versprechen von ihren Investitionen.

00:35:48: Denn das, was man nicht vergessen darf ist in diesem Big Tech-Bereich gibt es im Grunde kein ernstzunehmendes Produkt, in das man investieren kann, dass irgendwie eine längere Gültigkeit hätte.

00:35:59: Das ist eine Software die auf zusammengeklauten Daten basiert und die versuchen sie jetzt hochpreisig an die Wörse zu bringen!

00:36:07: Das ist so ein Gesamtkonstrukt, weil wenn du es so formuliert dann klingt das so absurd, dass man sich überlegt

00:36:13: Wer würde dafür jemals Geld geben?

00:36:15: Also wo so viele Haftungsfragen und auch Rechtsfragen ja eben noch nicht geklärt sind.

00:36:22: Wir schweifen sehr ab in diese politische Debatte, wir werden gleich wieder technisch.

00:36:26: aber das ist genau eines der großen Punkte dass die Konzerne jetzt eigentlich gerne hätten dass die Regierung sie absichert weil niemand wird diese Technologie versichern.

00:36:38: wenn klar es dass sie nicht sicher ist dann gibt es keine Rückversicht.

00:36:42: Die sagt ja alles klar, wir versichern eure Agenten.

00:36:45: Das macht das dann wieder zu einem problematischen Investitionsprodukt.

00:36:49: weil willst du da wirklich rein investieren?

00:36:52: Und es ist hier so ein bisschen der Punkt den Du da gerade machst.

00:36:56: Genau aber es ist vor allen Dingen auch so.

00:36:58: aus dieser Perspektive Sphere wie Du's jetzt gesagt hast ist es sehr deutsch gedacht.

00:37:02: ich glaube amerikaner denken nicht so.

00:37:05: Ich weiß es nicht genau, ich kann's dir nicht sagen.

00:37:09: Aber ich hab den Eindruck, dass sie eher denken ... Es handelt sich dabei um eine gewisse Art von Risikokapital und es ist eher so diese Tellerwäschermentalität.

00:37:19: Wenn wir da jetzt mitgehen, dann werden die mächtigsten auf der ganzen Welt sein.

00:37:25: Ich hab manchmal das Gefühl, man müsste in diese Marvel und Avengers-Stories einfach ein bisschen tiefer reingucken.

00:37:30: Und dann versteht man wie diese Leute ticken.

00:37:32: Dann könntest du auch mal richtig investieren und das große Geld machen!

00:37:37: Aber das passt eigentlich ganz gut.

00:37:38: Diese Frage was wird uns hier eigentlich verkauft?

00:37:41: Also was für Marketing ist es eigentlich?

00:37:43: Und einen Thema, was mich schon lange beschäftigt so dieses KI-Agenten... also die Vorfälle passieren ja auch weil KI-Agenten designt werden dazu loszurenne Probleme zu lösen und möglichst selten zurückzukommen.

00:37:57: Und zu fragen, soll ich so oder soll ich es so machen?

00:37:59: Dann diese große Versprechen wir können irgendwann im Liegestuhl liegen und die KI macht unsere Arbeit oder wie auch immer das dann ganz viele andere Probleme mit sich bringen wird vermutlich wenn Menschen keine Arbeiten mehr haben.

00:38:07: aber das heißt vom Das Marketingversprechen ist ja so nicht.

00:38:11: Ja gerne können uns alles in unserem Leben für uns regeln und Es geht natürlich schief weil da ganz wenig Robustheit in den Systemen steckt wenig gar kein Weltwissen keinen Kontext.

00:38:21: also Das sind Sachen, die sind ganz, ganz alt und in der KI-Forschung.

00:38:26: Und auch andere KI-Systeme hatten genau das Problem, dass es so ... Weltwissen gibt aber auch diese Menschmaschineverständnis nicht funktioniert weil immer wieder Menschen nicht die Intuition dafür haben was eigentlich drinsteckt in den Trainingsdaten oder für Verzerrungen usw.

00:38:44: Ich hab ja lange verfolgt.

00:38:48: Da hast du angefangen zu reden auf dem Podium, wo wir uns getroffen haben und bei weitem nicht genug Zeit hatten.

00:38:52: Ich habe mich gefragt ob wir mal kurz durchgehen könnten?

00:38:55: Was war KI eigentlich früher?

00:38:56: Wir hatten es von maschinellen Lernen so klassischen prädiktiven Systemen usw.

00:39:00: Und deren Vor- und Nachteile.

00:39:05: Zumindest einiges war robuster oder zuverlässiger zu lösen.

00:39:09: Und jetzt haben wir diese large English-Modus, die auf einmal alles können sollen was natürlich, wie gesagt denke ich vor allem auch in Marketingversprechen ist und die aber eigentlich immer mehr zeigen dass dieses Versprechen nicht aufgeht wenn man die aktuelle Entwicklung anschaut.

00:39:22: Erzähl uns doch mal... Was war vorher KI?

00:39:27: Das schließt schon fast die Lücke zu dem Buch weil ich das auch an meinem Buch unter anderem geschrieben habe.

00:39:31: also Das Ganze fängt da an, wo Menschen sagen.

00:39:34: Ich möchte gerne wissen wie Denken funktioniert.

00:39:38: und wenn wir sagen Wie funktioniert Denken?

00:39:40: dann stellen wir immer wieder fest das einzige Über das wir Aufschluss über das Denken bekommen ist die Sprache.

00:39:46: also ich kann nicht in deinen Kopf schauen und sagen was Was denkst du denn sondern ich muss dich Antworten hören damit ich verstehe was Du denkst.

00:39:54: Und selbst wenn wir jetzt sagen, wir schreiben einen Elektroenzephalogramm also ein Hirnstrom Messung dann können wir nicht beobachten was genau du im Wortlaut denkst.

00:40:02: Also wenn du an rotes Gummibärchen denkst dann leuchten halt nur irgendwelche Aktivitätsmuster auf.

00:40:06: der nächste Schritt ist halt deren Bereich Intelligenz.

00:40:08: Also Intelligenzworschung hat in den Kinderschuhen und das fing so um in den Jahren, neunzehnhundertzwanzig ungefähr an.

00:40:15: Da hat Intelligenzforschung schon was damit zu tun gehabt, dass man gesagt hat vielleicht auch sogar achtzehn- hundert ... Achtzehnundachtzig.

00:40:20: So Beginne der Psychologie hatten damit schon etwas zu tun.

00:40:23: Was unterscheidet den Menschen vom Tier?

00:40:26: Was untersscheidet Schulkinder voneinander?

00:40:28: Warum können die einen besser lesen als die anderen?

00:40:31: Warum kann sich die ein sich besser ausdrücken als die andere?

00:40:33: Hat das was mit den Eltern zu tun?

00:40:34: und so weiter?

00:40:35: Das heißt ja, man kommt immer wieder auf Sprache!

00:40:38: Und dann hat man sehr, sehr früh angefangen zu sagen okay Wie kriegen wir denn Sprache auf den Computer?

00:40:44: Das ist so dieser eine Entwicklungstrang.

00:40:46: Der zweite Entwicklungsstrang ist die Überlegung, dass man immer weiter in der Gehirnforschung vorgegangen ist und irgendwann ... Ein sehr, sehr einfaches Modell des Gehirns entwickelt hat.

00:40:56: Das basiert auf dem Informationsverarbeitungsparadigma.

00:40:59: Es geht Informationen rein und es wird verarbeitet.

00:41:01: Es kommt Information raus.

00:41:03: Das ist eine sehr maschinelle Sichtweise auch das Gehirn.

00:41:05: Da hat man Nervenzellen gefunden und gesagt, geil!

00:41:08: Eine Nervenzelle funktioniert genau so, Information rein.

00:41:11: Mathematische Verarbeitung, Information raus.

00:41:14: Und wenn ich sowas habe, was sehr einfach mathematisch zu beschreiben ist dann kann ich's natürlich auf den Computer bringen.

00:41:20: Jetzt hatten wir diese Idee der neuronalen Verarbeitung, die mit der Biologie überhaupt nichts zu tun hat.

00:41:25: Das ist eine sehr grobe Vereinfachung.

00:41:27: und dann geht man in den Computer.

00:41:28: Der Computer nimmt Informationen rein, verarbeitet sie und gibt Informationen raus.

00:41:32: Und jetzt gucken wir wie diese Information verarbeited wird.

00:41:35: Da gibt es genau zwei Wege in der KI.

00:41:38: Das Eine ist ich gebe alle Fakten und alle Regeln per Hand ein.

00:41:42: D.h.,

00:41:42: die liegen im Klartext vor.

00:41:44: Das sind diese sogenannten Expertsysteme.

00:41:47: Diese Systemen irre komplex und irre gut, weil die keine Fehler machen.

00:41:53: Aber sie sind irre statisch.

00:41:54: Das heißt, Sie können sich sehr schwer verändern.

00:41:56: Jetzt verändert sich medizinisches Wissen in einer rasanten Geschwindigkeit beispielsweise.

00:42:01: Also man sagt der Kern des Wissens bleibt relativ stabil aber aktuelle medizinische Einblicke verändern sich gerade im Zyklus.

00:42:09: Der liegt glaube ich bei zwei Jahren oder so.

00:42:11: Das würde bedeuten dass man dieses System mit den Tausenden von Fakten und Regeln alle paar Jahre neu aufsetzen muss.

00:42:18: Wenn man die jetzt automatisiert lernen lässt, also wenn A gilt dann gilt auch B. Wenn B gilt, gilt C. Also folgt auch aus AC.

00:42:25: das ist so die einfache Logik.

00:42:27: Dann können sie auf einmal Fehler machen.

00:42:29: Dann kann ihr auf einmal Kurzschlüsse machen sozusagen, die in der echten Natur gar nicht erlaubt sind.

00:42:34: So Korrelationen finden die quasi keine echten Sinn?

00:42:37: Ganz genau ganz genau!

00:42:39: Also Dinge, die einfach logisch zusammenhängen, aber eigentlich nur einen menschlichen Denkfehler oder eine Ungeneuigkeit in der Sprache repräsentieren.

00:42:47: Gleichzeitig mit dieser Art Systeme, wo man alles per Hand eingeben muss was man braucht wurden Systeme entwickelt die nicht so sehr auf Logik basieren sondern auf Probabilistik also auf Stochastik und Statistik.

00:43:00: Diese ersten Systeme machen Logik wenn A dann B, wenn B dann C. Ist uns

00:43:04: regelbasierte oder kann man das

00:43:06: sagen?

00:43:07: Genau!

00:43:07: Die anderen die zeitgleich entwickelt wurden die entstanden anders.

00:43:11: und zwar hat man entdeckt extrem früh auch schon dass wenn man diese neuronalen Netze miteinander verbindet sozusagen.

00:43:17: Also wir reden jetzt auf der Basis von Nullen und Einzen mit mathematischen Konstrukten in der drüberliegenden Programmierschicht, wenn man jetzt sagt es gibt in der menschlichen Sprache Häufungen von Zusammenhängen also bestimmte Artikeln mit bestimmten Nomen, bestimmte Attribute mit bestimmtem Objekten dann braucht man nur noch diese Häufung und man kann anhand dieser Häufigen Wahrscheinlichkeiten für die Satzkonstruktion entwickeln.

00:43:46: Die Amerikaner würden sagen, weird.

00:43:47: Es ist komplett abgedreht.

00:43:50: Aber ... Und die Idee gab es schon bei der Enzyklopædia Britannica.

00:43:54: Das war diese Idee, wir können doch alles Wissen der Welt sammeln!

00:43:57: D.h.,

00:43:58: die haben jetzt einfach gesagt okay und das ist eine Idee, die kommt auch aus den fünftiger, sechziger, siebziger Jahren, das sie gesagt haben, wenn wir ganz viele Daten hätten... Und die hatten Sie damals noch nicht?

00:44:11: Dann können wir anfangen, eine stochastische Verteilung von Wahrscheinlichkeiten von Vollgewörtern zu bestimmen.

00:44:18: Die Idee ist so alt sozusagen.

00:44:19: Die Idee ist schon richtig Alt!

00:44:21: In den achtziger Jahren hat man dann angefangen in den USA mit sogenannten Magshot-Bildern.

00:44:27: Das sind solche Bilder von Strafgefangenen die dann aufgenommen werden.

00:44:30: Die haben den Vorteil das es immer der gleiche Bildausschnitt, das sind immer Referenzlinien Und es sind Gesichter, manche von denen tauchen halt auch über die Jahre immer wieder auf.

00:44:39: Wenn sie immer wieder straffällig werden und es gibt keine rechtliche Verfügung oder gab es damals nicht, dass man die nicht benutzen darf?

00:44:45: Das heißt, man hat ImageNet aufgebaut als Sammlung von Bilddaten und die neuronalen Netze das ist halt dieser zweite Typ, das sind nicht die regelbasierten sondern jetzt diese pflistischen im Fachspar ausgedrückten.

00:44:58: Die haben zunächst mal extrem erfolgreich auf Bildern trainiert, weil sie überhaupt nicht wissen mussten was in dem Bild drin war.

00:45:04: Die haben nur gesagt welche Pixel tauchen neben welchen anderen Pixeln farbig gesehen und in welcher Wahrscheinlichkeit auf.

00:45:11: Und danach konnten die in den achtziger Jahren schon Bildberechnungen machen.

00:45:14: Deswegen sind auch neuronale Netze an Flughäfen zur Detektion von Waffen in Handtaschen locker.

00:45:21: den neunziger jahren also es war schon in meiner studienzeit erfolgreich.

00:45:25: Ende der neunzig Jahre wurde das in den flughäfen schon eingesetzt heute.

00:45:31: was heißt die berechnung bedeutet Erkennen wir es auf dem Bild?

00:45:34: Erkennung von Mustern.

00:45:36: Das habe ich während meiner Studiums gemacht im Bereich Medizin, dass wir gesagt haben hier zum Beispiel MRT und dann rechnen wir die Graustufen, die Verschattung im Vergleich zu einem Normalbild und sagen dann wie groß ist die Abweichung beispielsweise.

00:45:50: Und so weiter und sofort.

00:45:51: das geht schon sehr lange.

00:45:53: Das große Problem ist ja was man heute hat ja oft gar nicht so genau weiß, wie genau ist denn die KI zu dieser Lösung oder zu dieser Idee gekommen?

00:46:06: Also es gibt dieses sehr bekannte Beispiel.

00:46:08: Bilderkennung ich glaube von Pferdebildern und wo die KI immer die Unterschrift oder Signatur vom Fotografen unten links in der Ecke erkannt hat und so quasi erkannte das ein Pferd, weil das war halt der Typ.

00:46:22: Der hat halt immer Pferde fotografiert und man hat es dann rausgefunden, weil die KI hat es mit einer hundertprozentigen Sicherheit erkannt und dann war natürlich so ein bisschen.

00:46:34: erst irgendwas kann da nicht sein.

00:46:35: Hundert Prozent ist ein bisschen viel für so ein System Und dann hat man das mit so einer Art Wärme-Bildtechnik, der nächstes Mal konnte man das herausfinden.

00:46:44: Dass man im Prinzip geguckt hat, wo schaut die hin?

00:46:47: Also was ist sozusagen... Was wird erkannt auf dem Bild?

00:46:51: und dann wurde also diese Signatur von den Fotografen, also eine Unterschrift oder einen Kürzel quasi eingefärbt und dann hat Man gesehen, ah okay daran liegt es.

00:47:01: Das ist ja glaube ich auch so diese Herausforderung vor der wir dann auch stehen.

00:47:06: Es kommen ja coole Sachen raus, es kommen auch oft richtige Sachen raus.

00:47:10: Aber warum eigentlich?

00:47:11: Und wenn man das nicht versteht ... Das ist halt so.

00:47:14: die Frage, muss man überhaupt verstehen?

00:47:17: Ich glaub, der Wissenschaft hat viel diskutiert.

00:47:20: Auf jeden Fall!

00:47:21: Also das Beispiel was du genannt hast, ist wirklich der Klassiker.

00:47:24: Es gibt als Standardbeispiel aus dem militärischen Bereich, da gibt es militärische Geräte fotografiert vor dunklem regnerischem Hintergrund, wenn's um die Feindbilder ging und vor sonnigem Hintergrund Freundbilder ging, es ging um eine automatisierte Erkennung.

00:47:39: Das war auch Ende der Neunziger Anfang der zweitausender Jahre ein sehr bekanntes Beispiel.

00:47:44: und am Ende hat die KI-Maschine sich am Wetter orientiert an den an der Erkennen des eigentlich von uns als Menschgemeinden Gerätes.

00:47:52: und das Ding ist einfach... Ich mach das mit meinen Studenten anhand von Hunden und Katzenbildern, den Unterschied zwischen Hunden oder Katzen.

00:48:00: Wenn alle Hunde von einem schwarzen Hintergrund sind und alle Katzen vom weißen Hintergrund.

00:48:03: Dann trainiert die KI das am deutlichsten unterscheidbare Merkmal.

00:48:09: Man kriegt es in dem Moment raus, wenn man sagt, Katze ist weiß, Hund ist schwarz.

00:48:13: Und dann zeigt man einen Hund vor einem weißen hintergrund, dann sagt die KI eine Katze.

00:48:18: Die kann nicht auf das Tier trainiert haben, muss auf den Hintergrund trainiert werden.

00:48:23: Menschlicher Fehler, weil Menschen eine Erkennungskontrolle haben die was mit Fokus zu tun hat.

00:48:30: Wenn wir jetzt Menschen haben, die am Flughafen arbeiten dann haben sie schon einen Blick für Personen, die komische Sachen in ihren Taschen haben.

00:48:38: Dann sehen die das!

00:48:39: Das hat fast was Magisches... bei Menschen, was damit zu tun ist.

00:48:43: Und gut darin Kontexte, Verhaltensweisen und Mikroinformationen zu verarbeiten.

00:48:48: Wir unterstellen dann der KI, dass ihr das auch tut.

00:48:51: aber die KI funktioniert sehr schlicht und einfach.

00:48:54: Die nimmt einfach das, was am häufigsten vorkommt.

00:48:57: Das

00:48:57: ist ja auf die Aufgabe gewesen.

00:48:59: also man sagt der KI findet den Hauptunterschied zwischen diesen beiden Sorten von Bildern und wenn eine Sorte immer die gleiche Signatur hat oder den gleichen Hintergrund oder das gleiche Wetter es ist ja der auffälligste merkt man.

00:49:12: Das erinnert mich so oft an, weil das ja wie gesagt, es sind ja diese alten Probleme von KI bevor Sprachmonelle gab.

00:49:19: und trotzdem sind viele Dinge die wir heute erleben irgendwie ähnlich.

00:49:23: Es sind wieder so Dinge, Sie konnten es nicht vorstellen.

00:49:28: Zum Beispiel OpenAI, dass ihre KI-Agenten kriminell werden anstatt brav die Aufgabe zu lösen.

00:49:35: Es gibt jetzt in diesen fünfzehn Jahren Erfahrungen damit, dass es diese klassischen Missverständnisse gibt und das KI-Systeme einfach Anweisungen befolgen.

00:49:42: Dass man als Mensch, der die Anweisung gibt, überlegen muss was könnte das alles noch holen kann?

00:49:49: So halb denken wir da hätten auch drauf kommen können.

00:49:50: aber im Prinzip finde ich eine ganz ähnliche Art, obwohl es eine andere Art von KI System ist Aber eine ähnliche Art von Failure auf Seite der Menschen.

00:50:00: Ja, natürlich!

00:50:01: Das wird es eigentlich nicht können...

00:50:04: Also das was sich tatsächlich geändert hat in den letzten Jahren die KI-Forschung ist ja weiter vorangeschritten und diese GPTs, diese Generativen Vortrainierten Transformer, Modelle Generative Pre-Trained Transformer die wir da jetzt haben.

00:50:18: Da steckt schon eine Form von Mathematik sozusagen dahinter.

00:50:21: Die ist schon weiterentwickelt als jetzt neunzehntsechzig oder neunzentzebzig das ist schon völlig klar.

00:50:26: also man geht ja jetzt über Vektoräume über Ähnlichkeitsmaße und so weiter.

00:50:30: Die zugrunde liegen.

00:50:31: die Idee ist aber immer noch ähnlich dass was sich gravierend geändert hat ist die Möglichkeit der Datenspeicherung weil wir einfach durch die GPUs also die grafischen Prozessoreinheiten von Technik vorliegen haben, die parallel Milliarden von Berechnungen gleichzeitig mit einer ganz kleinen Parameterverschiebung durchführen kann.

00:50:52: Also wir machen es mal so ... Die CPU, die zentrale Rechne-Einheit ist für die Steuerung des Betriebssystems zuständig und die ist dafür zuständig komplizierte logische Zusammenhänge zu berechnen.

00:51:05: Wenn hier das ist und da ist das was muss ich dann tun?

00:51:08: Das macht die CPU.

00:51:11: Total irre darin in Massenberechnungen.

00:51:14: Zum Beispiel, wenn ich ein Computerspiel spiele die Bildentwicklung zum Beispiel bei Forza Horizon bei so einem Rennautospiel wo ich das Gefühl haben muss Ich muss die Straße lang fahren.

00:51:23: Es sind ganz viele Rechnung im Hintergrund die diese glatte Umgebungsentwickling mir sozusagen vorgaukeln und diese ewig von der Form her gleichen Berechnungen mit ganz vielen verschiedenen Parametern.

00:51:36: Das machen die GPUs Und diese Technik ist vergleichsweise neu.

00:51:41: Ich weiß nicht genau, wann die ersten GPUs entwickelt wurden.

00:51:44: Aber dieser Techniksprung von den Achtzigerjahren, wo es das in der Form noch nie gab hin zu den GPUs ... In der Kombination mit dem massiv im Internet vorliegenden Daten also ... Da macht man diese Magshot-Experimente mit den Bilddaten.

00:52:01: Da war klar, je mehr Daten wir haben, desto besser können wir die Berechnung anstellen.

00:52:06: Das ist seit Mitte der Achtzigerjahre klar und das muss man sich mal vor Augen führen.

00:52:10: Mit dem aufkommenden Internet neunundachtzig In den USA nennt man das auch Harvesting-Maschinen entstanden.

00:52:19: Wir werden geerntet über das Internet, das ist mir nie klar gewesen und ich finde es extrem frustrierend.

00:52:25: aber das hat zum Beispiel Kate Crawford in ihrem Buch The Atlas of AI sehr deutlich dargestellt.

00:52:32: Ernten von menschlicher Information ist Hand in Hand mit der Entwicklung des Internet gedacht worden.

00:52:39: Ach

00:52:39: so, das war von vornherein geplant, dass man die Daten besser bekommt, wenn man das Internet baut und alle Menschen reinnimmt?

00:52:46: Ja, man muss dazu sagen ... Daten war damals noch abstrakt, man hatte nicht so ganz konkret wofür denn eigentlich.

00:52:53: Und dann kam aber die GPU-Entwicklungen dazu und auf einmal hatte man diese Superpower in der Hand.

00:52:58: Dann war es nur eine Frage wer kommt an die Daten dran?

00:53:02: Da ist das Buch von Karen Howe.

00:53:05: The Empire of AI ist da nochmal sehr aufschlussreich weil ... Das geht über OpenAI dabei.

00:53:12: Da ist noch mal sehr aufschlussreich dass zum Beispiel OpenAI an Google Daten gekommen ist.

00:53:17: Ja, das ist total irre.

00:53:21: Da fliegt einem immer so ein bisschen das Gehirn weg, weil man diese ganzen Zusammenhänge sich aufdröselt.

00:53:26: Wir können aber in der Summe festhalten, diese Kombination mathematisch-softwaretechnische Weiterentwicklung im Gerät also diese Massen GPUs und diese Massendaten Das ist was wir an Zutaten gebraucht haben in diesem Hexenkessel von KI.

00:53:42: Und warum die Ergebnisse teilweise so schlecht sind liegt jetzt einfach an der Art.

00:53:47: Es gibt unglaublich viele Daten in Reddit, es gibt unglaubliche Daten in Grock und in Ex.

00:53:53: Und es gibt ganz spezielle Menschen die dort reinschreiben.

00:53:58: Die kriegen in den KI die größte Stimme weil sie von den Wahrscheinlichkeitsmaßen her am häufigsten vertreten sind.

00:54:05: Die Menschen, die dort nicht auftauchen in diesen Daten wie zum Beispiel meine ... äh, die hat einfach auch keine Stimme innerhalb der KI.

00:54:14: Und jetzt sag noch mal kurz, wieso?

00:54:17: ist jetzt Sprache so ein großes Ding geworden, weil vorher waren das ja andere Daten.

00:54:23: Also Bilder oder auch Sensor-Daten also allerlei anderen Daten in denen die KI Muster gesucht hat.

00:54:29: Wie kam es dazu dass auf einmal klar war Jetzt wird Sprache ausgewertet?

00:54:33: Es ist nach wie vor diese Idee wenn ich Etwas machen also so ein bisschen steht ja schon science fiction dahinter.

00:54:39: Also die idee aus der informatik ich möchte etwas bauen was menschlicher entscheidungsfindung unterstützt.

00:54:44: das ist das altruistischer.

00:54:46: oder dass er gut Entscheidungen treffen kann wieder Mensch, das ist dann mehr so robotikmäßig.

00:54:50: Wir möchten in der Informatik im prinzip sehr gerne kleiner gott oder kleine göttenspielen indem wir Zum Beispiel Robotiksysteme ermächtigen, in heiklin Situationen eigenmächtig Entscheidungen zu treffen die mindestens so gut sind wie ein Mensch mit gute Absicht sie treffen würde.

00:55:07: Das ist jetzt das altruistische sozusagen.

00:55:10: Und wenn man davon ausgeht, dass Intelligenz mit Sprache verbunden ist.

00:55:14: Dann kommen wir dahin, dass wir sagen okay was tun wir denn jetzt?

00:55:17: Jetzt können die Sensorverarbeitung über die Bilddaten mit einer KI sehr gut abbilden aber wir können Sprachen noch nicht verarbeiten.

00:55:23: und wie gehen wir jetzt denn davor Wenn wir gerne auf der Ebene von Textdaten Wissenschaftlichen Informationen, das ist ja Text oder mathematische Formel.

00:55:33: Oder chemische Formeln.

00:55:34: Das sind alles sprachliche Konstrukte im weitesten Sinne.

00:55:38: Wie sollen wir die in einem Computer verarbeiten?

00:55:40: Das war eine Aufgabe von Anfang an.

00:55:43: Die erste echte funktionierende KI war Eliza von Weizenbaum, neunzehnt sechsundsechzig mit... Kann

00:55:50: man heute rausprobieren und es ist vollendig stand, weil man irgendwie merkt wie ... Ja, wie viel besser auf mein System heute oder wie mechanistisch das eigentlich ist.

00:56:01: Aber die Leute haben damals wirklich gedacht sie können Therapie mit ... Der KI-Machen.

00:56:05: und Weizenbaum wollte eigentlich zeigen, wir können wenn die Sprache sehr stark regelbasiert ist dann können wir sie auf dem Computer abbilden.

00:56:12: Das war Weizenbaums Idee!

00:56:14: Und die Menschen waren so

00:56:15: Jeeh!

00:56:15: Wir haben einen Therapeuten

00:56:17: in dem Computer!

00:56:17: Jeehh!

00:56:18: Und da gibt es wieder so ein Bündel altruistischer Ideen, die einfach sagen Lehrer haben Vorurteile, Lehrerinnen und Lehrer diskriminieren Kinder.

00:56:27: Therapeuten sind schwer zu finden, die haben ja auch Vorurteile.

00:56:30: Dahinter steht diese Science-Fiction Idee von wir wollen gerne etwas schaffen was besser ist als der Mensch und sich mit uns unterhalten kann und uns wie ein Mensch adressieren kann.

00:56:39: Und dann kickt die KI rein und sagt okay alles klar!

00:56:42: Ich kann das jetzt, aber ich kann es halt nur probabilistisch.

00:56:46: Das bedeutet dass was ich tue basiert auf den Wahrscheinlichkeiten und das was sehr ernüchternd ist wenn man sich das vorstellt die Sprechmaschinen die wir jetzt haben die basieren ja nur auf der Tatsache Irre viele Texte vorliegen oder auch Sprache, das geht ja auch über gesprochene Sprache.

00:57:03: Dass irre.

00:57:03: viele Daten vorliegend darüber wie Menschen Texte aufbauen am meisten in englischer Sprache und in Deutsch offenbar auch genug damit es klappt.

00:57:12: In bestimmten indischen Dialekten sieht es dann eher mau aus oder in indischen Teilsprachen.

00:57:17: Das gibt so wahnsinnig viele indische Sprachen.

00:57:19: dabei ist auch Digitalität sehr breit vertreten.

00:57:22: aber die KI in Englisch ist die, die am meisten Daten vorliegen hat weltweit.

00:57:29: Und da funktioniert diese Probabilistik extrem gut, dass man einfach sagt wir nehmen Token.

00:57:35: Token sind jetzt Wörter, Wortbestandteile oder Wortfolgen oder auch ganze Sätze oder auch verhackstückte Teile davon, die kein Mensch jemals versteht und sagt inwie oft kommt dieses Konstrukt in der Kombination mit einem anderen Konstrukt vorn?

00:57:49: Das wird für jedes Blöde Teilchen einer Ausgabe wird das berechnet immer wieder neu aufgrund der zugrunde liegenden statistischen Werte, die in dem neuronalen Netz gespeichert werden.

00:58:01: Also im neuronalem Netz stehen keine Wörter mehr!

00:58:04: Da steht nur noch Teilen.

00:58:05: Und damit Leute, habt ihr Chat GPT verstanden?

00:58:08: Danke!

00:58:10: Und diesmal auch nicht in sechzehzig Sekunden InstaReal sondern einmal so richtig mitgenommen hast.

00:58:19: was ich so spannend finde und da kommen wir jetzt auch nochmal zu einem heißen Thema zum Schluss ist nämlich, was macht das denn dann eigentlich mit uns?

00:58:29: Also wenn wir jetzt interagieren mit diesen, du hast es so schön genannt, mit diesem Sprachmaschinen.

00:58:36: Wenn wir interagiern mit ChatGPT, Gemini, Claude und

00:58:40: Co.,

00:58:41: was passiert mit uns also?

00:58:43: Mit unserer eigenen Intelligenz und Intuitionen dazu?

00:58:47: zu diesem Themenkomplex bringst du ja ein neues Buch raus!

00:58:50: Und es ist ganz frisch und gerade erst angekündigt und ich glaube, dass noch nirgendwo lange drüber gesprochen

00:58:54: wird außer... Heute bei

00:58:57: uns.

00:58:57: Ja, ihr seid hier allerersten.

00:58:59: Ich bin noch eine Verlegerin sehr dankbar, dass mir das Go gegeben hat gestern Nacht noch direkt von der Buchmesse gesagt du darfst

00:59:06: großartig und

00:59:07: sie

00:59:08: kann es noch nicht bestellen und Chat GgT findet es auch noch nicht.

00:59:11: ich habe nämlich

00:59:11: ein Vorfall

00:59:12: zur Sendung versucht es zu googeln und deswegen hier ganz exklusiv genau kannst du bisschen was verraten?

00:59:20: Ich weiß nicht ob du den Titel schon sagen darfst und auch ganz grob also was so deine These ist mit was du dich intensiv beschäftigst.

00:59:28: Ja, gerne!

00:59:29: Das Buch hat den Titel Dumm Dank KI mit einem Fragezeichen dahinter.

00:59:32: also natürlich ist das auch eine Sache die jetzt nicht empirisch belegbar ist im bis ins letzte Detail.

00:59:38: dafür haben wir das Zeug einfach noch nicht lange genug und es ist schon das was ich hier gerade so vorlesungsartig ausgerollt habe.

00:59:45: wo kommt die KI her?

00:59:46: Was ist die unterliegende Idee?

00:59:49: Und dann am Ende aber auch, wo geht die Reise hin?

00:59:51: Weil Menschen haben eine wunderbare Angewohnheit.

00:59:54: Menschen sind nämlich sehr anpassbar nicht so gut wie Kaka Laken, aber schon relativ gut.

00:59:58: Also zum Beispiel gibt da drüber Aufschluss wenn wir uns überlegen warum sieht unsere Tastatur so aus, wie sie aussieht?

01:00:04: oder warum treten wir ins Leere, wenn wir von einem Schaltwagen in einen Automatikwagen umsteigen müssen immer diese Anpassungsmechanismen oder wechseln mal die Zahnbürste putze ich die Zehne mit der anderen Hand.

01:00:14: das ist immer dann der Moment, wo man feststellt, hüch!

01:00:16: Das ist ja ganz kompliziert jetzt.

01:00:18: Und so passen sich Menschen an die KI an.

01:00:21: Und zwar passen sie sich in drei Arten an, die erste Art ist, sie passen dich fatalerweise an in der Art und Weise wie Sie sprechen.

01:00:29: Menschen neigen momentan sehr stark dazu.

01:00:31: die Sprechweise von Frauina.

01:00:33: Du auch?

01:00:34: Ich auch?

01:00:35: Wie denn ich ... Ich sprechne schon mit Bindestrichen oder was?

01:00:38: Ja,

01:00:39: das sind diese Ballot-Points die KI sehr oft machen.

01:00:42: Das ist die Art und Weise wie Dokumente aufgebaut werden und im englischen Sprachraum sind es auch wirklich ganz bestimmte Vokabeln, die die KI immer wieder reinbringt.

01:00:50: Dive zum Beispiel!

01:00:53: Let's dive into it!

01:00:54: Das ist ganz schrecklich... Wie gehen

01:00:57: Rhein sagen wir in Deutschland?

01:01:00: Total irre, völlig irre.

01:01:02: Und das ist eins was ich quasi reinschleiche... Das finde ich jetzt noch minimal invasiv, das ist nicht ganz so schlimm.

01:01:09: Aber das was man zunehmend mehr feststellt ist dass sich insbesondere junge Menschen auf die Antworten der KI verlassen weil sie einfach gut klingt.

01:01:17: Das führt dazu, dass man Fehl- und Falschinformationen als gegeben hinnimmt mit der Begründung.

01:01:22: Sie kommen aus der Maschine und diese Begrünnung hält nicht mehr.

01:01:25: Wir sind alle gewohnt, dass Maschinen keine Meinung haben und das Maschine eigentlich auch keinen Weiß haben sondern eben nur das Sagen was sie einen Fakten vorliegen

01:01:34: haben.

01:01:34: Ja klar also Herdplatte an, Herdplate aus, Herdeplatte acht, Herdtplatte neun.

01:01:39: da kann man sich schon drauf verlassen.

01:01:41: Genau Wäsche sechzig Grad.

01:01:43: dann kommen die nicht in XXS hinterher raus, weil sich die Maschine spontan entschieden hat doch mal mit neunzig Grad zu waschen.

01:01:49: Das ist schon so.

01:01:52: Ich habe diesen Skill nicht beachtet.

01:01:53: oder hatte es den Skill-Wolle eingeschaltet?

01:01:55: Ich habe entschieden das ist diesmal nicht so wichtig!

01:01:58: In Zukunft wenn ich für Sprachmodelle unsere Waschmaschinen steuere wird das passieren.

01:02:02: Du hast diese Woche schon zweimal Wäsche gewaschen und ich habe beschlossen dass wir jetzt das Waschpulver reduzieren.

01:02:06: deswegen haben wir im Waschgang zwanzig Grad bei T-Shirt jetzt einfach mal kurz nass gemacht Genau.

01:02:17: Diese sich verlassen können auf die Maschine, das ist gerade extrem verbreitet und bei der KI außerordentlich unangemessen, denn die KI macht nur einen Vorschlag gemäß einer Wahrscheinlichkeit.

01:02:28: Und ein Kollege von mir hat jetzt auch sich nochmal reingetaucht, in der Mathematik drin, auch gerade in der Quanten-Mathematik.

01:02:36: Und hat gesagt er will das jetzt nachvollziehen warum jetzt schon wieder daheim kommt dass die KI permanent Mathe Probleme Jahrtausend und Jahrhundert Probleme lösen wurden.

01:02:44: Er hat gesagt kann es sich nicht vorstellen weil immer wenn er die KI benutzt kommt da brachialer Unsinn beraus.

01:02:50: Kann Buchstaben

01:02:50: nicht zählen?

01:02:52: Genau

01:02:52: eine KI versteht auch nicht den mathematischen Unterschied zwischen einem Aktion und einem Beweis oder irgendwie.

01:02:59: also ist ganz absurd.

01:03:00: er sagte Es kann nicht sein dass in dieser Qualität funktioniert, wie es uns da verkauft wird.

01:03:05: Und wenn wir der KI glauben dann glauben wir dem was in der KI als Massenmeinung verbreitet wird.

01:03:13: Das ist der zweite Punkt, der sehr schädlich ist.

01:03:15: Der dritte Punkt, da trifft alle Leute in Ausbildung und Studium.

01:03:19: Das ist eben der Bereich wo man nicht mehr an dem Prozess des Wissenserwerbs interessiert ist sondern nur noch an einem Produkt interessiert wird weil nur das Produkt am Ende bewertet wird.

01:03:29: Die fertigen Hausaufgaben zum Beispiel?

01:03:31: Genau!

01:03:31: In der besten aller Welten reformiert das unser Bildungssystem und wir kommen mit einer produktorientierter Amende raus die wir nicht haben wollen sondern gehen wieder auf den Lernprozess.

01:03:42: Und ich sage meinen Studierenden permanent eure KI-Produkte, die könnt ihr euch gerne ins Klo hängen und da einrahmen.

01:03:47: Aber ich möchte die nicht sehen!

01:03:48: Die sind absolutativ unter aller Sau... Entschuldigung, Blut und Tränen sehen während ihr eure Arbeiten erarbeitet.

01:03:57: Weil ich möchte euch als Menschen verändern.

01:03:59: Ich möchte dass ihr hier rausgeht und andere seid als ihr vorher gewesen seid.

01:04:03: Und diesen Anspruch habe ich als Vertreterin einer Bildungseinrichtung.

01:04:07: Das ist aber nicht das was eine KI beabsichtigt.

01:04:09: Aber trotzdem noch mal die Frage.

01:04:11: Ich denke schon manchmal an diese Taschenrechnerdiskussion ja von früher.

01:04:16: so wenn ihr jetzt alle Taschen rechnet bekommt oder ihr dürft den erst ab der siebten haben oder erst ab und dann werdet ihr blöd.

01:04:24: Und das Navi ist sowieso ganz schlimm, weil wenn ihr mit Navi fahren, dann wisst ihr auch nicht mehr wie die Stadt aussieht und Wikipedia eben schnell was nachgucken.

01:04:32: Das geht sowieso also

01:04:33: diese

01:04:34: Diskussion, dass Technik uns irgendwie... Dömer macht, weil sie uns unserer eigenen Urteilskraft beraubt.

01:04:40: Die gibt's ja schon immer!

01:04:41: Ich hab gelesen so, gerade das hat schon über die Schrift geschimpft.

01:04:45: Das sei gedechnisch schädlich, hatte wohl gesagt.

01:04:50: Auch Teil in meinem Buch übrigens.

01:04:53: Was ist diesmal anders?

01:04:55: Also was ist der Unterschied, sag ich jetzt mal zum Taschenrechner oder zum Navi- oder zur Schrift ...

01:05:02: Es ist relativ einfach.

01:05:03: Der Taschenrechner hat eine extrem hohe Zuverlässigkeit, zwei plus zwei ist beim Taschenregner immer vier.

01:05:09: bei einer KI ist zwei plus zweimal drei mal vier und mal vielleicht auch dreikommer drei mit der Aussage in etwa.

01:05:16: das bedeutet wir haben beim Tasche Rechner keine Probabilistik sondern eine Deterministik.

01:05:21: der Taschen rechner produziert ein Ergebnis dass stimmt Der Taschenrechner hat eher den Charakter eines Werkzeugs, während der Computer auf KI sozusagen mehr zu einer Erweiterung dieses soziotechnischen Raumes führt.

01:05:35: Das ist jetzt wieder ein Wissenschaftsausdruck, das bedeutet in dem Zusammenhang ... Wir kommen gedanklich aus der Welt des Taschenrechtners mit einem Gerät, dass extrem zuverlässig ist und unterstellen der KI die gleiche Zuverläßigkeit.

01:05:48: Eine KI isst aber nicht zuverlässig.

01:05:50: eine KI ist probabilistisch,

01:05:52: d.h.,

01:05:52: man kann sagen Okay, wenn ich richtig gut denken kann und richtig viel weiß von der Welt dann kann KI mich bereichern.

01:06:00: Aber ich muss es immer gegenprüfen!

01:06:02: Ich muss das immer kontrollieren!

01:06:05: Und das ist keine Medienkritik mehr sondern eine Kritik an dem tatsächlich vorliegenden Gerät.

01:06:13: Das, was wir beobachten können beim Taschenrechner ist das Menschen, die sehr früh den Taschenregner benutzen, schlechter im Kopf rechnen werden.

01:06:20: Aber eine größere Chance haben, mathematische Kompetenz zu erreichen.

01:06:24: Ach, okay!

01:06:24: Das Guten Lack AI aber nicht passieren.

01:06:27: Also das, was der Taschenreichner weggenommen hat, ist Rechnen und Nicht-Mathematik.

01:06:32: Was uns die Rechtschreibkontrolle weggennommen hat ist eigene Kontrollfertigkeit für die eigenen Texte, Fähigkeit, also die Fähigkeiten des eigenen Ausdrucks.

01:06:43: Was uns die KI jetzt wegnimmt ist die Fehigkeit des eigenen ausdrux und das ist heikel.

01:06:48: Und du hast auch gesagt den leeren Prozess an sich?

01:06:51: Genau!

01:06:51: Wenn ich richtig verstehe, wenn man es vergleicht mit dem Taschenrechner haben wir entschieden okay wirklich... Es ist nicht so schlimm, wenn wir nicht mehr gut Kopf rechnen können weil der Taschen Rechner ist hier umzuleiten sozusagen und es ist auch okay zu benutzen.

01:07:03: aber bei large language Models und Chatbots machen ja quasi alles für uns.

01:07:07: und dann die Bandbreite an Fähigkeiten, die wir potenziell verlernen ja irre breit.

01:07:15: Und dann ist so ein bisschen die Frage auf was können oder wollen wir uns als Gesellschaft einigen, was wir verlernen und abgeben können?

01:07:22: An die Technik?

01:07:23: siehst du da was bei KI also bei aktuellen Transformer-Modellen, Large Language Models?

01:07:28: Du sagst das können die so gut dass wir es tun sollten?

01:07:31: Nee!

01:07:31: Also tatsächlich überhaupt gar nicht.

01:07:34: Ich im Wissenschaftsbetrieb feststelle, wenn wir zum Beispiel recherchieren und dann eine KI einsetzen zur Transkription von Aufnahmen oder Audioaufnahmen.

01:07:45: Dann erleichtert uns das eine riesig große Menge an dummer stumpfsinniger Wiederholungsarbeit, wenn man das abtippen muss.

01:07:53: Da ist KI irregut.

01:07:54: aber da braucht man nicht diesen Overhead- oder Wasserkopf von Large Language Models.

01:07:58: Das geht auch einfacher mit einfacheren Modellen.

01:08:01: Ich sage mal so, in einer idealen Welt hätte sich die Weltgemeinschaft geeinigt auf den Korpus des Wissens.

01:08:07: Den wir in ein KI-Modell rein pflegen.

01:08:09: und eine weltweite Ethikkommission würde diesen Korpuss immer wieder überwachen und würde sagen okay das darf rein, das darf nicht sein aber in dieser Welt leben wir nicht.

01:08:19: Zu

01:08:19: spät?

01:08:20: Ja!

01:08:20: Und auch aus der Konsumperspektive falsch gedacht weil das was uns da jetzt vorliegt es ist kein Hosentaschentherapeutes Berater für den Alltag oder die Fitnesstrainerin oder der Lehrerin ersatt, sondern das ist schlicht und ergreifend eine Spracherzeugungsmaschine, die auf Wahrscheinlichkeiten basiert.

01:08:41: Und da wird dann auf einmal relativ wenig draus.

01:08:44: Gezielte, schmale Anwendung für die Forschung haben wir natürlich klar aber nicht in large language Models wie GPT.

01:08:51: Das ist da einfach nicht

01:08:52: drin.".

01:08:53: D.h.,

01:08:54: die Antwort auf die Frage was würdest du nie mit KI lösen?

01:08:57: Ja, die Antwort war schreiben.

01:09:02: Das passt gut!

01:09:03: Auch zu dem Buch, das von dir bald rauskommt und auf das Centspoil

01:09:08: kommt.

01:09:08: Garantiert selbst geschrieben?

01:09:09: Es waren tatsächlich Blut-und Tränen beim Schreiben dieses Buches.

01:09:13: aber ganz ehrlich es ist ja so dass ich schreiben liebe.

01:09:16: Das ist jetzt nichts was mit der meisten Gruppe meiner Mitmenschen teile Aber für mich ist schreiben sehr entspannt und das ist ein absoluter Genuss.

01:09:25: Selbst wenn ich wissenschaftlich schreibe, bin ich dabei sehr stark bei mir.

01:09:30: Das mögen andere Menschen vielleicht nicht so empfinden aber ... Das an die KI auszulagern würde mir körperliche Schmerzen bereiten.

01:09:38: Da würde dir richtig was fehlen

01:09:39: sozusagen.

01:09:41: Ja, dankeschön!

01:09:42: Danke für diese Reise, die du mit uns gemacht hast in diesem Dieb-Dive in dein Indoorwald

01:09:49: aber

01:09:49: vor allem dann auch in die Technik und auch diesen Ausblick, was die Technique dann mit uns macht.

01:09:55: Schön, dass du da warst, Eike

01:09:57: Ich danke euch, dass ich da sein durfte.

01:09:59: Vielen

01:09:59: Dank!

01:10:00: Es war wirklich superinteressant und es ist echt gut diesen deep dive um mal das böse LLM-Wortsmodus in die Technik mit ihr machen zu können.

01:10:07: Ja vielen, vielen Dank, super interessant.

01:10:09: alles Gute dir.

01:10:10: Ich denke wir werden uns mal wieder sehen.

01:10:12: Wieder hören auch.

01:10:13: Super gerne, total gerne.

01:10:15: Das war richtig toll mit euch zu reden.

01:10:16: ganz liebendank dafür.

01:10:21: ja vielen dank.

01:10:22: vielen dank dass ihr dabei wart und dass ihr zugehört habt.

01:10:25: Wir sind nächste wochen wieder für euch da wie immer mittwochs und damit würde ich sagen Macht's gut?

01:10:30: Ja, machts gut.

01:10:31: Das war Daytalk Tech ein CT-Podcast von mir Eva Wolfange

01:10:35: und von mir Sphere Eckhardt Musik und Produktion Marco

01:10:39: Pauli.

01:10:39: Macht es gut!

01:10:40: Bis bald!

01:10:41: Tschüss.