Gift und Heilmittel: Was Chatbots mit uns machen mit Philosophin Dorothea Winter

00:00:02:

00:00:16: Hallo und herzlich willkommen zu The Talk Tech

00:00:19: Ein

00:00:20: City Podcast.

00:00:22: Ich bin Svea Elkhart, Tech Journalistin

00:00:24: Und ich bin Eva Wolfange ebenfalls Tech-Journalistin!

00:00:27: Unser Abwechslung haben wir noch jemand anders hier...

00:00:30: Genau.

00:00:31: Ich hab's ja in der letzten Folge schon gesagt, dass ich fand das auf der Republikar die heimlichen Stars, die Philosophen waren dieses Jahr und ich habe mich auch gefragt, woran dieses Gefühl lag zumindestens bei mir?

00:00:45: Ich finde, dass die ganze KI-Debatte sehr geprägt ist von Benchmarks, von Technologie, von Modellupdates... Und dass ich zumindestens mir so eine Stimme wünsche oder gewünscht habe, die nicht nur fragt was KI kann sondern was die mit uns macht und was sie auch mit uns als Gesellschaft macht.

00:01:04: Dafür ist unsere heutige Gästin

00:01:06: perfekt!

00:01:07: Ja, bei uns ist Dorothea Winter, Philosophin.

00:01:10: Die forscht an der Humboldt-Universität zu Berlin zur Intentionalität und künstliche Intelligenz.

00:01:17: Sie arbeitet an der humanistischen Hochschule Berlin im Bereich angewandte Ethik und hat in dem Jahr ein Buch zum KI und Kunst veröffentlicht, publiziert unter anderem in der FAZ und in der Welt.

00:01:27: Im September erscheint dein neues Buch Demokratie & KI – bei Reklamm!

00:01:32: Herzlich willkommen, DorotheA!

00:01:34: Hi, ich freu mich sehr, dass ich hier sein darf...

00:01:39: Philosophien und KI-Vorschritten, das klickt erst mal ungewöhnlich oder nach einer ungewönlichen Kombination.

00:01:44: Weil man mit Philosophie natürlich große Denker viel Geschichte verbindet, Staub auf Büchern vielleicht?

00:01:50: Und KI, ah!

00:01:51: Das klingt nach Maschinen und nach Technologie.

00:01:54: Wie bist du dazu gekommen?

00:01:57: Eigentlich über die Kunst.

00:01:58: also in der Philosophies beschäftigt man sich ja auch mit Fragen, die jetzt nicht ganz so viele Alltagsbezug haben Und auf einmal kamen dann vor einem Jahrzehnten, sind so die ersten großen KI-Systeme auch in der öffentlichen Debatte angekommen.

00:02:12: Ich habe mich dann vor allem erstmal der Frage gewidmet ist das was KI da so schafft?

00:02:17: Ist es Kunst im Bereich generativer KI Systeme?

00:02:22: und bin dann immer weiter tiefer noch in andere Bereiche vorgedrungen, also auch in Fragen der Ethik aber auch der Erkenntnistheorie.

00:02:29: Also Fragen wie zum Beispiel können KI-Systeme selbst Wurstzeit entwickeln?

00:02:34: oder was ist denn ein ethisch wünschenswerter Einsatz von KI für unsere Gesellschaft?

00:02:41: Oh Gott, ich will alles dazu wissen.

00:02:42: Das ist ja alles so sehr interessant!

00:02:44: Also angefangen... vielleicht können wir bei der Frage mit der Kunst anfangen?

00:02:48: Ich hatte vergangenen Woche so eine Diskussion mit einem Künstler und einem kunstinteressierten Publikum zu genau unter anderem dieser Frage.

00:02:54: Der Künstl hat andere Dinge gemacht mit KI und ich hatte immer so meine sehr skeptische kritische Brille auf und habe immer gesagt Ja klar, Kunst mit KI glaube ich ist Kunst.

00:03:03: aber er hatte auch oder glaubt man... ich glaube man kann mit KI Kunst machen wenn Menschen involviert sind.

00:03:10: Der hatte aber so einen KI-Kunskritiker entwickelt.

00:03:12: Ich glaube, inzwischen war das eine Provokation.

00:03:13: Er wollte nur testen, ob Leute sagen, klar, KI kann auch Kunst kritisieren und kann auch Stipendien vergeben oder so.

00:03:20: Aber da habe ich immer wieder gesagt, ich glaube nicht dass KI selbst Kunst schaffen kann.

00:03:24: In dem Publikum gab es ja durchaus kontroverse Reaktionen.

00:03:27: Hast du rausgefunden?

00:03:28: Was ist deine Antwort?

00:03:30: Ich glaube mit dem gleichen Künstler diskutiert auch neulich genau über dieses Thema.

00:03:35: Sehr lustig!

00:03:35: Gleiches Schicksal für uns beide.

00:03:37: Claire Bötchie war aus der gleiche.

00:03:38: Exakt, das war er.

00:03:40: Sehr lustig!

00:03:40: Und er vertritt genau die entgegengesetzte Position zu mir und zwar sagt ihm dass das was KI da macht genauso gut ist wie menschliche Kunst.

00:03:49: und er vertritte auch eine sehr starke These dahingehend dass er sagt KI macht Kunst alleine und da muss ich ganz vehement widersprechen und sage eben nur Mithilfe vom KI-System Kunst geschaffen werden kann und das sowohl auf der Perspektive des Kunstschaffens, also der Künstlerin aber auch rezipierenden Seite.

00:04:09: Also es gibt ganz spannende Studien dass Menschen Kunstwerke schlechter bewerten, also dass sie weniger ästhetisch sind, dass die weniger Aussagekraft haben und Ausdruck wenn Sie davon ausgehen dass die Werke KI generiert sind was ja sehr spannend ist Und das ist sowohl im bildgebenden Bereich, gibt es diese Studien als auch in der Musik.

00:04:28: Das heißt also Kunst ist einer der Bereiche wo wir Menschen wollen dass das ein Mensch gemacht hat und das ihnen nicht kalt generiert ist.

00:04:35: Er sagte halt und ich habe wie gesagt, ich finde es ein bisschen lustig weil ich dachte das muss eine Provokation sein.

00:04:39: Es kann ja niemand ernst meinen aber vielleicht ja doch.

00:04:42: er sagt ihr dann eben naja aber die Menschen müssen sie ja nicht wissen.

00:04:44: und wenn man's nicht weiß und dann nicht merkt dass ist nicht von menschen gemachtes woran.

00:04:47: also warum soll es denn keine Kunst sein?

00:04:49: Und ich hab den gleichen Eindruck.

00:04:50: Ich möchte eigentlich sowohl Kunst als auch Literatur Ja, auch Kunst.

00:04:55: Eigentlich nicht lesen, wenn ich weiß, sie ist von einer Maschine erzeugt oder nicht konsumieren und nicht anschauen, nicht genießen ... Wenn ich weiß es von einem Maschinenerzeugt.

00:05:05: Irgendwas macht dieses Werk.

00:05:07: besonders weil ich weiß da hat sich ein Mensch versucht einen Menschen was auszudrücken Und ich habe dann ganz schnell gemerkt Ich komme in so eine ... Also ich hatte ein bisschen Sorgen.

00:05:15: In so eine philistische Richtung?

00:05:16: Nee, so ein bisschen spirituell auch wirkt.

00:05:18: Da kommen ja ganz schnell so Wörtern wie Eine Seele.

00:05:22: oder hat jemand, also oft wird er gesagt und ich glaube, ich würde behaupten als was dran.

00:05:27: Kreativität ist mit Leid verbunden.

00:05:29: ja du musst Leid empfinden und dann wie auch immer kommt dieses Werk aus dir raus.

00:05:35: oder damit in dieser Verarbeitung von Leid und von den Problemen physischer Existenz kannst du Kunst erschaffen.

00:05:42: irgendwie habe ich gemerkt Bin überzeugt, das ist so.

00:05:46: Dass wir gerne wollen, dass wir diese menschliche Erfahrung vor uns haben, die da drinsteckt in so einem Kunstwerk und ich kann aber gleichzeitig selbst große Reden schwingen, dass Wir selbst ja nicht mal wissen ob Menschen überhaupt also nicht messen können um Menschen Bewusstsein zu haben und allso ein Sachs- und Zeug.

00:05:59: Ich bin so froh, dass du da bist weil Du hast natürlich viel bessere Argumente und viel mehr Wissen um diese Argumentation schlüssig zu Ende zu bringen.

00:06:08: Wie ist es denn wenn wir ja nicht einmal wissen, ob Menschen bewusst sein haben?

00:06:12: Und diese ganze Sache warum ist uns und diese Seele oder was in den Menschen ist dann das, was wir wichtig als wichtig empfinden.

00:06:20: Als Menschen und was wir gerne als Grundlage von Kunst hätten?

00:06:26: Ich glaube es liegt vor allem an Intensualität.

00:06:28: damit steht und fällt alles.

00:06:29: also ich würde nicht mehr sagen dass besonders viel Leid Besonders viel Erfahrung zum Kunstschaffen erforderlich ist, sondern ich würde sagen es braucht auf jeden Fall einen Menschen der irgendwas damit aussagen möchte.

00:06:42: Weil wenn wir einfach nur irgendwelche Gegenstände haben die vielleicht auch ästhetisch irgendwie ansprechen sind oder sowas, dann ist das noch lange kein Kunstwerk.

00:06:50: Dann ist es ein Sonnenuntergang, finden wir auch schön.

00:06:54: Oder in Stuhl kann ich auch sehr ästhetisch finden aber das ist noch lange keinen Kunstwerk.

00:06:58: Sondern zum Kunstwerk braucht es ja diese Form von Metaebene.

00:07:03: mich interessiert auch, in welchem Kontext ist das Werk entstanden.

00:07:06: Wer hat das gemacht?

00:07:08: Mit welche Absicht?

00:07:09: und ich glaube es ist ja ein sehr komplexer Prozess und deswegen ist es nicht so einfach zu sagen... Was jetzt ein Kunstwerk ist oder was nicht, deswegen streiten wir auch die ganze Zeit darüber.

00:07:19: Aber wenn wir die eben komplett wegkürzen und sagen, wir können einfach nur alles, was irgendwie technisch möglich ist umsetzen und das auf die gleiche Ebene stellen mit Kunst- und Kunstwerken dann wird es halt beliebig.

00:07:30: also warum sollten wir überhaupt danach Kunst konsumieren?

00:07:32: Wenn es eigentlich egal ist wer das mit welcher Außerkraft gemacht hat und auch bei der Bienale zum Beispiel sehen wir auch wieder oder bei allen anderen großen Kunstausstellungen Kunst ist ja auch politisch und hat eine Außerkraft.

00:07:47: Und deswegen ist es ja auch die ganze Zeit zu kontrovers diskutiert, weil wir uns damit auseinandersetzen wollen und nicht weil wir

00:07:53: müssen.".

00:07:54: Und das heißt am Ende wenn man sagt KI kann auch Kunst generieren er hat's auch ne politische Komponente und das ist natürlich was was auch nach hinten losgehen kann.

00:08:04: also wenn man bedenkt was steckt denn jetzt in den Systemen Kursintelligenz an Annahmen drin oder an Biasis drinnen, worauf beruhen die eigentlich?

00:08:15: Dann denke ich wird auch so ein bisschen klar, dass es nicht nur Geschmackssache ist.

00:08:20: Sondern auch gefährlich werden kann.

00:08:22: Wir können dann ja manipuliert werden.

00:08:23: Oder wie siehst du das?

00:08:25: Das auf jeden Fall und dass diese Narrative oft nicht ohne Grund in der Welt sind.

00:08:30: Also daß Kaise-Systeme selbstbewusstsein haben zum Beispiel KI-Werke genauso gut wie menschliche Werke sind.

00:08:37: Und das hat erst mal ... ist es urmenschlich, dass wir in Dinge beseelenden Anfangszeichen die jetzt keine Seele haben?

00:08:44: Das machen Menschen schon exakt Autos geredet.

00:08:47: Serie Alexa

00:08:49: alles!

00:08:51: die Kaffeemaschine bockt, wir sprechen die ganze Zeit sehr animistisch überhöhlt über Dinge und wissen aber ja eigentlich in den meisten Fällen.

00:08:59: Dass da jetzt niemand ist und kein Gegenüber bei KI-System wird schwierig weil sie dann auf einmal zum Beispiel auch so wirken als ob.

00:09:06: Aber wir verkennen auch die ganzen Komponente dessen dass das ja alles so bewusst gebaut ist.

00:09:11: Das heißt Unternehmen und UnternehmerInnen bauen diese Systeme Mit der Absicht, dass sie so wirken als ob.

00:09:19: Also das Tätivität die ganze Zeit sich verhält, als wäre es ein Mensch und dann gesagt und Fragen stellt und sagt ich verstehe dich ist keine Naturgesetze nicht beim Himmel gefallen sondern da saßen sehr kluge, gewitzte Menschen die gesagt haben wir bauen diese Systeme genau so, dass hierso wirken also ob und dass eben Menschen auch Beziehungen dazu aufbauen

00:09:39: Weil natürlich die auch möchten oder deren Business Case am Ende ist, je länger wir Zeit mit denen verbringen umso besser für deren Geldbeutel noch nicht.

00:09:47: Weil sie noch nicht so viel Geld verlangen wie Sie verlangen müssten.

00:09:49: aber erst mal geht es ja darum uns auf eine gewisse Art und Weise abhängig zu machen.

00:09:54: Jetzt finde ich das ganz spannend weil es gab jetzt noch gar nicht so lange her ne Studie dass jeder achte Amerikaner zwischen zwölf und einundzwanzig hat schon mal einen Chatbot um psychische Hilfe gebeten.

00:10:08: das auch hilfreich.

00:10:10: Dieses, was du sagst, dass wir gerne mit KI in so eine Interaktion treten wie mit einem Menschen könnte man ja doch jetzt sagen ist doch wunderbar.

00:10:23: also im Fall von Psychotherapie es ist total schwierig einen Platz dazu bekommen oder manche Menschen haben vielleicht auch Angst sich gegenüber anderen Menschen zu öffnen.

00:10:33: mit einer KI fällt's ihnen vielleicht leichter und ich finde In so einem Zwiespalt zwischen ist das gut oder schlecht?

00:10:40: Weil ich immer selber sagen würde, ja.

00:10:41: Das kommt darauf an wahrscheinlich.

00:10:44: Ich glaube, dass es die juristische Antwort, die wir da auf jeden Fall geben können und auch aushalten müssen, dass wir sagen müssen, es kommt auf den Fall an!

00:10:51: Also wenn wir sagen, wir brauchen nie wieder eigentlich Arten von Therapeutenen- und psychologischen Fachpersonal, weil wir haben jetzt Chatbots wo Personen einfach ... alle Fragen und alle Gedanken, die sie haben teilen können.

00:11:02: Dann ist es natürlich absoluter Blödsinn weil dann würden wir ja den ganzen Berufsstand überhaupt irgendwie abwerten oder gar nicht die Notwendigkeit sehen können.

00:11:11: Und es gibt ja auch schon Studien und das ist eben das Problematische daran.

00:11:16: Die zeigen, dass Menschen die viel mit Jetbots vor allem sehr junge Menschen, die noch nicht so ausgebildet sind oder entwickelt sind in ihrer Reife der Persönlichkeit, dass wenn sie sehr viel mit Jettbots interagieren, dass sie quasi den menschlichen Kontakt verlieren.

00:11:32: Also wenn ich ein menschliches Gegenüber habe nur als Beispiel dann ist das ja mit Erwartungen auch der anderen Person mir gegenüber verbunden.

00:11:39: Das heißt also vielleicht können die Personen widersprechen, im besten Fall und mir nicht nur zustimmen.

00:11:44: Ich muss überlegen was ich in welchem Kontext sage und was nicht und es ist eben auch noch diese also viel mehr als einfach nur die Sachebene wie menschliche Interaktion und Kommunikation stattfindet und warum sie auch so hilfreich und wichtig ist.

00:11:57: Und wenn man das alles zusammenstampft und sagt Es ist genau das gleiche.

00:12:01: Wenn ich mich einfach nur vor Claude oder Tegibiti oder sonst Engern Chatbots setze dann hat das vor allem mit sehr viel Unwissenheit, meine Ansichten.

00:12:10: Es hängt zusammen und man muss aber auch aushalten, dass natürlich es hilfreich ist erst mal für Personen die zum Beispiel eben keinen Therapieplatz haben, dass sie lieber mit einem Chatbot dann interagieren bevor Sie gar niemanden haben.

00:12:24: Aber die Gefahr, die ich sehe, ist, dass wir sozialpolitische Themen und Unzulänglichkeiten versuchen technisch zu lösen.

00:12:32: Und das sind Grundprobleme was wir in der Gesellschaft aktuell haben.

00:12:35: Und dann mit dem Argument, naja jetzt gibt es ja Chatbots und Leute fühlen sich gut damit.

00:12:38: Dann müssen wir keine Therapieplätze aufbauen oder können die sogar abbauen?

00:12:44: Das ist ein großes Problem.

00:12:45: Ja, bzw.

00:12:46: gesellschaftlich gesehen finde ich das hier auch so wichtig mal Widerspruch aushalten zu können, Grenzen aushalten zu können... auch unbequeme Beziehungen aushalten zu können.

00:13:00: Also ich kann das nur aus meinem familiären Umfeld sagen, dass es manchmal anstrengend mit meiner Mutter zu telefonieren, weil die oft nicht meine Meinung ist!

00:13:11: Und die hat halt eine andere Weitung.

00:13:14: Also trotzdem ist es wunderbar, ne?

00:13:16: Und Eva und Du und ich ... Wir sind ja auch nicht immer in der

00:13:18: Weitung!

00:13:20: Und widersprechen uns oder tanzen um uns rum sozusagen in unseren Gesprächen.

00:13:26: Und trotzdem ist das wunderbar.

00:13:27: Das ist absolut was, was eben Chatbots mit Chlorida- oder Chat-Gyppithie nicht machen.

00:13:34: Die haben dann eben andere Qualitäten aber das gehört ihnen etwas nicht dazu.

00:13:38: Ja

00:13:39: Siehst du denn die Gefahr, dass Menschen sich das abgewöhnen?

00:13:42: Das hab ich jetzt ein paar Mal gehört zu dieser Sorge.

00:13:45: Dass wenn Menschen immer mehr mit Chatbots sich austauschen anstatt mit Menschen, dass sie es natürlich auch angenehm finden.

00:13:53: Ich krieg immer ... Mir wird immer zugestimmt und gesagt wie was für schlaue Gedanken ich habe.

00:13:57: Man hat ja diese Probleme nicht, dass die wirklich widersprechen oder unbequem sind oder auch mal beleidigt oder so.

00:14:05: Die reagieren gar nicht.

00:14:07: Ja, also nur auf diese scheinbar positive Art und Weise.

00:14:11: Und ich hab Leute gehört die sagen sie fürchten das Menschen das dann verlernen und dass es das echte mit echtem Menschen zu tun haben so unangenehm ist im Vergleich zur Chatbots, dass immer weniger wird.

00:14:21: Das wäre ja furchtbar!

00:14:22: Also wo führt das hin?

00:14:24: Aber so ist es ja.

00:14:25: Ich mein wir Menschen sind ja Gewohnheitstiere und der Großteil unserer Normen und Werte im menschlichen Miteinander in der Gesellschaft sind ja erlernt.

00:14:34: Die sind ja eben nicht nur irgendwie natürlich, wir haben natürlich eine Grundregel nachdem wir uns irgendwie verhalten.

00:14:40: Aber in fast allen Kulturen gibt es dann doch sehr ähnliche Regeln und Miteinander Zusammenhänge.

00:14:48: Und das ist vor allem hängt damit zusammen dass man halt die Sachen erlernt hat als Gemeinschaft und wenn man die nicht weiter übt, dann lernt man sie also das ist ganz klar!

00:14:57: Deswegen ist es auch so wichtig, dass wir zum Beispiel diese Fragen zu Chatbot-Umgang nicht nur eindimensional irgendwie technisch beleuchten, sondern vor allem uns da versuchen eben auch Wissenschaftlerinnen verschiedener Disziplinen an den Tisch zu holen und schauen was ist das bildungspolitisch.

00:15:15: Wie kann man aber auch Chatbots so einsetzen?

00:15:17: Dass zum Beispiel Personen die vielleicht sonst weniger Zugang haben zu gewissen Inhalten oder Informationen dass sie mitgenommen werden.

00:15:25: Auch Inklusionsaspekte sind ja eigentlich erst mal eine Chance, dass Personen die zB sehen eingeschränkt sind, die höher geschädigt sind.

00:15:32: Sonst irgendwas mit Hilfe von KI-Tools und zum Beispiel auch Chatbots, die öffentlich zugänglich sind und erstmal kostenlos sind dass sie quasi mehr partizipieren können.

00:15:42: also es ist jetzt nicht das man sagt alles verbieten, alles weg.

00:15:46: Nur dass man sich halt wirklich ganz spezifisch schaut für welche Gruppe von Menschen welches Tool eingesetzt werden kann und das wirklich zu ihrem Wohl und nicht zum Wohl ein paar privatwirtschaftlicher Akteuren.

00:16:00: Wobei man schon sagen muss für solche Use-Cases wie jetzt Leute die nicht sehen können oder was andere Einschränkungen haben, Texte vorlesen lassen und alles so ein Zeug braucht man keine generative KI.

00:16:14: Wenn wir erst draufkommen ist es vielleicht besser später als nie dass man da mehr investieren müsste oder solchen Menschen auch mehr und einfacher Retour zu film stellen müsste.

00:16:22: aber das ist an sich kein Argument für generative KI, oder?

00:16:25: Ich frag nur, weil wir nämlich vor einer ganzen Zeit schon mal eine Folge dazu hatten.

00:16:29: Nur so die Frage war was ist eigentlich ein echter sinnvoller Use Case für diese Art von künstlicher Intelligenz?

00:16:36: und wir kamen so ein bisschen drauf dass es eigentlich ganz ganz schmaller wie sagt man Pfad von möglichen use cases ist die so sinnvoll sind das man dafür auch bereit wäre sehr viel mehr zu bezahlen weil das ja auch klar ist dass das irgendwann kommen wird.

00:16:49: Vor allem also ich hab jetzt keine neue Qualität aber neu Quantität dahingehend, dass wir auf einmal zum Beispiel an so viele Informationen kommen wie sonst es einfach nicht so einfach gewesen wäre.

00:17:00: Natürlich war die ganze Information und die wir jetzt sehr schnell kommen immer in der Welt aber natürlich war's einfach viel aufwendiger hat viel mehr Zeit in Anspruch genommen und sonst irgendwas Und das man kann in der Form, die uns ohnehin schon sehr nahe ist also dass man eben chatten kann ist ja erstmal sehr praktisch und gut auf jeden Fall ein Use Case, der nicht abzustreiten ist.

00:17:37: Er meinte damit eigentlich Gift und Heilmittel zugleich.

00:17:46: Und er meinte damals den Prozess des Schreibens, also es tut mir das Schreiben gut oder schadet es mir eher?

00:17:54: Dann wurde später noch mal aufgegriffen auf einen anderen Philosophen und nochmal ausgeweitet.

00:17:59: Inzwischen wir kennen das so aus der Pharmazie, dass es eben auf diesen Kontext drauf ankommt.

00:18:05: Wer nimmt das?

00:18:05: in welchem Kontext wird das genommen?

00:18:08: Ich hab mich gefragt ob sich ... diese, ich würd ja wirklich sagen uralten Konzepte.

00:18:13: Die ist ja schon lange gehabt bevor es Chatbots gab und generative KI, ob sich das auch auf zum Beispiel so was wie auf einen Chatbot anwenden lässt.

00:18:23: Also der Menschen wirklich echte Lebenshilfe bieten kann sie vielleicht in einer Situation einfach beruhigen kann, sie spiegeln kann um sie reflektieren kann Und auf der anderen Seite aber, die auch wie ein Gift wirken kann.

00:18:38: Wenn sich Leute ... Also da gibt es ja auch Beispiele dafür tatsächlich bis hin zum Suizid.

00:18:44: also wenn Leute angestachelt werden in eine falsche Richtung?

00:18:49: Ja das war's Platon!

00:18:51: Damals quasi eigentlich schon vorweg gesehen hab, ist auch ein bisschen die Debatte um D-Skilling.

00:18:56: Wie man das jetzt ja schön nicht mehr ganz platonisch deutdeutsch bezeichnet also quasi welche Fähigkeiten man verlernt und welchen man verlehren darf und welche nicht?

00:19:08: Und dass es gerade... eine sehr spannende Debatte, wie ich finde im Zusammenhang mit generativer KI.

00:19:14: Dass man sich ganz bewusst die Frage stellen muss welche Fertigkeiten müssen wir als Gesellschaft denn noch lernen und welche können wir adakter legen weil wir sie auch nicht mehr brauchen und weil Sie auch nicht langfristig übers Gute sind?

00:19:26: ein Beispiel in skandinavischen Ländern ist vor ein paar Jahren als man eben gemerkt hat oh wir schreiben alle gar nicht mal mit der Hand als Erwachsene sind Bildungsforschen auf die Idee kommen, dann müssen doch Kinder das auch nicht mehr lernen.

00:19:39: Es ist super anstrengend und zeitaufwendig, dass denen beizubringen und sie werden es nie wieder brauchen, weil wir alle nur noch tippen und vielleicht in ein paar Jahren nur noch diktieren oder denken oder sonst irgendwie kondizieren

00:19:48: werden.".

00:19:49: Dann hat man den Kindern das nicht mehr beigebracht und hat nach ein paar jahren gemerkt, irgendwie selbst wenn Sie später nicht mehr bewusst noch einsetzen, dass Sie mit der Hand irgendwas schreiben, ist es für den Lernprozess sinnvoll, dass sie Handschriftliches analogisch schreiben noch lernen, weil sie sich Sachen besser merken können und einfach mehr Informationen aufnehmen können.

00:20:10: Und das ist zum Beispiel ein Beispiel davon, dass man gemerkt hat, obwohl wir später diesen Skill diese Fertigkeit des Schreien nicht können muss man es trotzdem lernen bei sonst was langfristig verloren geht.

00:20:20: Und ich glaube, das kann man jetzt auf ganz viele verschiedene Bereiche auch anwenden.

00:20:24: Also auch in der Hochschule bei den Studierenden kommt natürlich die ganze Zeit die Debatte müssen wir überhaupt noch eigentlich Essays und Hausarbeiten schreiben lernen weil wir das ja alles einfach generieren lassen können.

00:20:33: Auch da sehe ich einfach dass es leider nicht der Fall ist, auf einmal Promnten können und Texte generieren lassen können, dass deswegen bessere Essays oder Hausarbeiten rauskommt.

00:20:43: Also ich finde zum Beispiel auch diese These das wir in ein paar Jahren alle keine Texte mehr schreiben können müssen weil wir generative KI haben entbehrt jeder Wahrheit.

00:20:52: also ich sehe diese Gefahr gar nicht sondern sehen noch viel mehr dass es darauf ankommt dass Personen z.B.

00:20:58: einen guten Text selbst verfassen können müssen Weil wir ja sehen überall dort wo wir mit Text geflutet werden nicht ganz so gut und sinnvoll und gewinnbringend sind.

00:21:11: Wie werden sich da wirklich jemanden, der das kann hinsetzt?

00:21:14: Vor allem bleibt es ja auch nicht in unserem Kopf.

00:21:16: Das finde ich interessant.

00:21:17: Ich habe oft einen Reflex, wenn solche Argumente kommen wie Schreibschrift ist ... Ich hab viele Lehrerfreundinnen, die die Schreib- schrift verteidigen.

00:21:25: Die haben das Gefühl Ja eher gut aber man kann ja ein bisschen offen sein.

00:21:29: Man hat oft diesen Reflex alles was neu ist erst mal blöd zu finden oder so.

00:21:33: Aber bevor ich dieses Argument mit dem von Hand schreiben das erste Mal gehört habe, hab ich so ein echtes Schlüsselerlebnis gehabt.

00:21:39: Weil ich auf einer Konferenz war und ich hatte das erste mal, es war kurz nach der Pandemie glaube ich ... Und davor hatte ich immer, wenn ich auf Konferenzen war, bin von Hand mitgeschrieben in mein Notizblock.

00:21:48: Während der Pandemie hat man ja ständig Interviews quasi per Zoom geführt, da waren wir viel weniger vor Ort.

00:21:52: Da ist klar, wenn du im Rechen sitzt, dann schreibst du natürlich den Tippstum mit.

00:21:55: Dann hab ich, wenn der Pandemie gemerkt, Tippen geht für mich wirklich viel einfacher.

00:21:59: Ich weiß auch nicht, meine schöne Beweglich.

00:22:03: Meine Schrift wurde richtig schlecht während der Pandemie tatsächlich und ich war langsamer beim Schreiben als vorher.

00:22:07: also habe ich gedacht okay nehme mich jetzt mein Laptop mit und schreibe tippe einfach mit bei der Konferenz.

00:22:11: und dann war so ein Pendel und da sind wir danach in die Pause und eine Kollegin meinte wünsch das was der und er gerade gesagt hat.

00:22:15: es war ja total interessant und ich so hell.

00:22:17: Dann hätt ihr doch gar nicht gesagt, ich hab alles aufgeschrieben und sie ... Doch, der hat doch das gesagt.

00:22:21: Nein!

00:22:21: Das hätte ich doch gehört.

00:22:22: Ich war dabei voll aufmerksam.

00:22:25: Dann schau ich mal in den Notizen und ich hab's aufgeschrien.

00:22:27: Also, ich habe es aufgeschrieben ohne es in meinem Kopf zu verarbeiten.

00:22:30: Und ich hab mich nie dran erinnern können.

00:22:32: Da ist mir klar geworden, wow da is was dran.

00:22:35: durch dieses Schreiben auch von Handmitschreiben wird was in meinem Gehirn offenbar anders verarbeitet.

00:22:40: Es ist sogar möglich an meinem Gehör vorbei Dinge zu notieren.

00:22:45: Ohne Sie wirklich so... Bemerken überhaupt.

00:22:48: Und das finde ich wirklich interessant und das haben wir jetzt ein paar Forscherinnen und Forscher schon gesagt, diese Frage wenn man selbst schreibt also natürlich Philosophien dann sagen das auch gerne ne?

00:22:56: Sie sagen mit beim Schreiben Das denke ich auch.

00:22:59: Und das geht mir aber auch so, habe ich jetzt gemerkt also beim Schreiben.

00:23:02: So sehr dass manchmal anstrengend ist gerade wenn man viel Material hat aus einer Recherche oder es irgendwie eine gute Form zu bringen.

00:23:07: Beim Schreiben wird mir oft erst klar wie das wirklich zusammenhängt und was eigentlich die Essenz aus dem Ganzen ist und diesen Schritt zu überspringen.

00:23:13: Ich glaube auch das kann nicht funktionieren.

00:23:15: Aber können wir das regeln als Gesellschaft?

00:23:17: Weil du hast eben gesagt ja wir müssen uns das als Gesellschaft überlegen weil da müssen wir viele Sachen überlegen.

00:23:24: Also wir müssen ja viel überlegen um welche Fähigkeiten geht's hier denn überhaupt?

00:23:28: Und ist es am Ende nicht einfach auch so wie jetzt das Beispiel aus Schweden, also das Gesellschaften was einführen und dann halt wieder zurückholen?

00:23:37: Also Trial and Error.

00:23:39: Ich glaube bei vielen Sachen geht das und ich glaube dass machen wir ja auch die ganze Zeit in allen unterschiedlichen Bereichen, dass wir Sachen ausprobieren merken klappt nicht und dann im besten Fall auch wieder zurückruhlen können.

00:23:49: aber natürlich sollte man sich gerade wenn es zu jungen Menschen betrifft Und deren Zukunft vielleicht bewusst überlegen, was man da einführt und was man nicht einführt.

00:23:59: Und von daher ist es, glaube ich ... Da müssen wir die Debatte darüber führen, welche Fähigkeiten, welche nicht.

00:24:06: Weil man jetzt auch nicht im gesinnvolle Skulptur pessimistisch erst mal grundlegend alles, was irgendwie neu ist abzulehnen und so ja auch Fortschritt funktioniert.

00:24:14: Also, ich glaub, da gibt's keine einfache allgemein gehörende Antwort.

00:24:18: Um was gehts dann noch bei dem?

00:24:21: Also bei den Fähigkeiten, die man verlernt durch KI.

00:24:26: Schreiben hast du genannt?

00:24:28: Genau.

00:24:28: also das ist natürlich so das typische Beispiel was die meisten vor Augen haben.

00:24:31: aber auch in der Kreativitätsforschung gibt es schon die ersten Studien die genau in dem Bereich eigentlich in die gleiche Kerbe schlagen.

00:24:38: Und zwar das Selbstkreativität, was man ja erst mal immer so gemeinhin als den Kuss der Muse sich irgendwie da so vorstellt, dass es einfach übereinfällt und dann hat man den Klungen-Einfall Alle wenigsten fällen so, sondern

00:24:52: z.B.,

00:24:52: kreative Leistungen sind mit einem ganz hohem Maße einfach Übung.

00:24:56: Dass man den Raum dafür schafft, dass man die Zeit dafür hat aber auch einfach quasi wie ein Muskel, dem er trainiert hat, dass es gewohnt ist, Kreative Leistung zu erbringen und wenn man da zum Beispiel sehr viel outsourced ... Ist halt auch die Gefahr, dass dann nicht mehr selbst zur kreativen Leistung möglich ist.

00:25:14: Spannend, ja mir hilft immer eine Deadline!

00:25:16: Ich nenn's immer Work and Cry.

00:25:18: Lange passiert

00:25:19: nichts.

00:25:20: Dann kommt Work and Cry, das ist total krass.

00:25:22: Da bin ich immer am kreativsten Ärger mich dann, dass ich nur noch so wenig Zeit habe aber irgendwie brauche ich das.

00:25:27: Aber da gibt es wahrscheinlich auch unterschiedliche Typen.

00:25:30: Ja?

00:25:31: Das heulen halt vielleicht dazu?

00:25:32: Genau!

00:25:34: Auf

00:25:34: jeden

00:25:34: Fall auch hilft...

00:25:37: Ist vor allem der die den Raum haben.

00:25:39: also dass man zum Beispiel ein bestimmtes Ziel erreichen will, das vor allem bei Kindern projektbezogene Arbeiten in der ganzen Montessori leere basiert darauf, dass man sagt es gibt ein Ergebnis das erreicht werden soll.

00:25:52: Aber wir geben nicht vor wie man dahin kommt und das ist zum Beispiel auch eine Möglichkeit wie man eben in der Kreativforschung versuchen kann, dass Leute nicht immer das Schema F abspielen und den Nullachtfünfzehn Weg gehen sondern dass man sagte zu überlegt hat mal wie du da zu dem jeweiligen Ergebnis kommen kannst ohne dass ich dir sag Wie genau du dahin kommst.

00:26:11: Ich habe vor einer Zeit mal Katharina Scheiter interviewt, eine Bildungsforscherin und die treff ich übrigens im Rahmen von Day Talk Tag Live im Sommer auf dem University Future Festival.

00:26:20: Das schicken wir euch auch noch oder vielleicht können wir das verlinken?

00:26:23: Und die hat mir gesagt sie beobachtet eben dass wir natürlich wir Menschen versuchen immer Abkürzungen zu nehmen unser Gehirn so funktioniert ist.

00:26:29: wir versuchen alles immer möglichst einfach zu haben und Sie sieht wie du sagst auch in der Lehre.

00:26:33: halt was Studierende so machen und sie sagt dieses Zusammen fassen lassen von Texten und erklärs mir einfach und soweite so bequem.

00:26:40: Wir nehmen uns die Chance, was zu lernen.

00:26:42: Weil sie sagt Lernen bedeutet dass man auch an seinen Grenzen kommt.

00:26:45: Dass man so ein bisschen dieses Gefühl.

00:26:47: ich bin leicht überfallt Ich muss wirklich mich zusammenreißen und versuchen es zu verstehen.

00:26:51: Es ist Mühe!

00:26:52: Und sie sagt nur dann wenn's wirklich anstrengend ist dann lernen wir wirklich etwas.

00:26:56: Diese Versuche Texte zusammenzufassen niemals.

00:26:58: erstens die Gefahr das einfach die KI vielleicht Dinge weglässt die wichtig wären.

00:27:03: Zweitens kann man davon ausgehen, dass AutorInnen die Texte schreiben und tatsächlich sich überlegt haben was sie alles reinschreiben.

00:27:07: Und das ist ein Grund, warum wir so lang sind.

00:27:09: aber drittens vor allem nehmen uns halt die Chance wirklich etwas zu lernen wenn wir uns nicht mehr selbst anstrengen komplizierte Inhalte zu versuchen zu verstehen.

00:27:16: und es fand ich super interessant und Sie hat gesagt Das ist das riesige Dilemma daran Dass natürlich Chatbots für Alles eingesetzt werden und gerade wenn's um Lernen geht An Unis und Schulen eigentlich halt ganz große Gefahren Bergen nämlich die das Leute wirklich verlernen zu lernen Und dann stehen wir einfach doof da.

00:27:34: Sie sagt, man kann's vergleichen mit ... Man sagt immer, wir brauchen Taschenrechner, Leute können ich mir gut Kopf rechnen oder Navis und Leute könnte sich gut orientieren.

00:27:43: Es ist ein viel breiteres Ding was uns da genommen wird als eben nur so kleine einzelne Dinge wo man sagen kann okay darauf könnt ihr vielleicht wirklich verzichten das können wir wirklich einen Technik abgeben.

00:27:53: aber halt lernen und denken nicht Das fand ich echt interessant.

00:27:57: Ja oder ich würde genau in die gleiche Ich würde genau das gleiche Argument auch bringen, was als auch ein bisschen abstrakter ist aber auch auf viele Bereiche anwendbar ist.

00:28:05: Einen komplexen Sachverhalt einfach erklären zu können und zwar nicht eben mit den gelernten Fachterminie die man dann vielleicht eben auch wenn man sich durch Judgeability beispielsweise einen Kanntechs zusammenfassen lässt.

00:28:18: Dann klappt es in dem jeweiligen Wortlaut wahrscheinlich okay irgendwie dass die Kernessenz die schon oft irgendwo mal zusammengefasst worden ist rauskommt.

00:28:26: Aber so, dass ich jetzt dann eine andere Person erklären kann und sodass ich es verstanden habe ist ja noch mal ganz andere Fähigkeit als einfach nur das Abrufen des Dagewesenen und Neukombinierten.

00:28:36: Und das ist glaube ich erstmal halt sehr schwer greifbar.

00:28:40: aber das ist glaub ich eine Fähigkeit die man sehr schnell verlernt wenn man das eben nicht andauernd übt.

00:28:46: Ich würde gerne noch einmal auf den Aspekt hin, was sollten wir als Gesellschaft tun?

00:28:51: Und du hast einmal gesagt in einem Podcast, den ich gehört habe von dir das Regulierung helfen kann.

00:28:58: Das aber oft auch nicht genug reguliert wird.

00:29:01: Magst du da noch einmal beschreiben, was du damit meinst?

00:29:04: Wir haben auf EU-Ebene den AI Act und ich fass es immer mal hier und danach beschraubt man sich sagen, wir haben viel zu viele Regulierungen wie zu viele Gesetze.

00:29:11: wo siehst du die Defizite?

00:29:14: Also ich bin erst mal pro Regulierung und finde es gut, wenn Sachen reguliert sind rechtlich.

00:29:19: Aber oft Personen, die dann über Regulierungen sprechen, verkennen ja auch das ist nochmal dass wir eigentlich gesellschaftlich so viel mehr Normen- und Werte haben, die nicht gesetzlich festgelegt sind.

00:29:32: Und unsere Gesellschaft basiert in hohem Maße sogar darauf, dass wir uns auf irgendwelche Regeln geeinigt haben, dienierend rechtlich irgendwo festgelegt sind.

00:29:41: Ein Beispiel, dass ich für eine ältere Person im Bus aufstehe... Ich will nicht, dass das ein Gesetz ist!

00:29:48: Allerdings möchte ich und da haben wir uns irgendwie mal drauf geeinigt wollen wir, dass alle Menschen das machen und es auch verinnerlicht haben und bringen des anderen Personen bei und vielleicht auch beäugen, dass kritisch wenn andere Leute sich demnach Gemüse verhalten oder

00:30:02: bitte danke so exakt

00:30:05: genau.

00:30:06: und wir wollen ja nicht, verboten ist oder das man es machen muss.

00:30:10: Aber auch bei KI zerspielt, glaube ich, könnte man's eins zu eins anwenden, dass man sich mal bewusst machen sollte wo die eigene Verantwortung liegt.

00:30:18: Ich will nicht alles nur entweder verboten oder geboten ist rechtlich sondern es gibt halt auch Ethik und das ist dann der Unterschied zu Recht Dass man sich halt auch eben die Frage stellen muss was möchte ich denn?

00:30:30: Und was sind meine Werte den ich mich gemäß verhalte?

00:30:33: Auch da ist natürlich je mehr macht man hat, das zu mehr Verantwortung hat man auch.

00:30:39: Aber auch als Individuum sich immer wieder bewusst machen, dass es halt einen Unterschied macht welche Daten ich wo einspeise, wo ich eben den allzu einfachen schnellen Weg gehe und was es für mich dann auch verfolgen hat ist natürlich eine sehr hohe Hürde.

00:30:54: erstmal aber sich dieser Verantwortung und Bewusstsein ist glaube ich schon mal der erste Schritt.

00:30:58: Ich würde gerne nochmal trotzdem zurück zum Anfang.

00:31:01: Du hast gesagt, Philosophie hat nicht so ein Praxisbezug.

00:31:03: So was sind gemäß das du im Anfang gesagt?

00:31:04: Ich finde die haben sehr praktisch jetzt schon geredet und ich find übrigens sehr viel Praxis Bezüge auch oder wir können wahnsinnig viel durch dieses Nachdenken aus der Philosophia von uns lernen.

00:31:14: Trotzdem ist es nicht total praktisch.

00:31:15: aber trotzdem was ich super interessant finde ist diese Bewusstseinsfrage.

00:31:20: Das gab ja schon mal diesen ... bevor ChatGPT überhaupt öffentlich wurde, gab's den Google-Forscher Blake Lemoine.

00:31:28: Bekannt wurde, weil er gesagt hat sein Chatbot nicht bewusst sein.

00:31:31: Er hat Empfindungsfähigkeit erlangt und hat aus Gewissensgründen gesagt, er kann nicht mehr mit so diese Arbeit machen.

00:31:39: Ich hab mit ihm damals gesprochen mit diversen Philosophen, die sich viel mit tatsächlich waren das glaub ich, das waren echt nur Männer, die mich viel mit Bewusstsein beschäftigt haben unter einem David Chalmers usw.

00:31:49: Und irgendwann habe ich einen Knot in dem Kopf bekommen, weil ich dachte, oah stimmt!

00:31:55: Ich kann eigentlich mit bestem Wissen und Gewissen diesen KI nicht absprechen, Bewusstsein zu haben.

00:32:03: Weil ich es ja euch auch nicht absprechen kann.

00:32:05: Das beliebte Beispiel ist so ihr könntet einfach Bewusstseinsimulieren.

00:32:09: Ich kann nicht in euren Kopf schauen.

00:32:10: Ich muss euch glauben, dass ihr Bewusstsehen habt und das hier nicht nur so tut als ob.

00:32:16: Thomas Metzinger hat mir damals gesagt, wenn das passiert ... Und natürlich ist es so, das haben die fast alle gesagt, mein biologischen Körper gebunden ist oder an das Material aus dem unser Körper ist, sondern dass es auch entstehen könnte auf der Basis von Silicium und Chips usw.

00:32:35: Und dann würden wir wahrscheinlich gar nicht merken, wenn so ein KI-System tatsächlich Bewusstsein erlangt und deren Sorge war, dass wir das einfach nicht merke und dann tatsächlich diese KI verletzten ADRW tun weil wir das Bewusstseil absprechen.

00:32:47: Da ist mir wirklich nichts eingefallen!

00:32:49: Ist das was wo du sagen musst?

00:32:50: Das ist totaler Quatsch.

00:32:52: Das ist eine Debatte, die lenkt voll ab von den eigentlichen Problemen.

00:32:55: oder wie siehst du das?

00:32:57: Also erstmal philosophisch finde ich die Debatte natürlich gar keinen Quatsch.

00:33:00: Weil es war genau die Frage meiner Dissertation wo ich mich jetzt drei Jahre mit beschäftigt habe.

00:33:04: Oh,

00:33:04: oh!

00:33:05: Wie gut dass ich dir zufällig getroffen hab.

00:33:06: Bewusstsein wirklich in

00:33:09: die Hand.

00:33:09: Ja also Ingenzialität aber das ist quasi die bisschen philosophischere Frage nach Bewusstsein.

00:33:15: Und ich hab da, musste auch meinen Kollegen widersprechen, weil ich das genau anders sehe und meine gute Gründe dafür zu haben.

00:33:22: Da guten Gewissens widersprechen zu können.

00:33:24: Also ... Ich mein, ich kann weder bei einem KI-System notwendig sagen dass es kein Bewusstsein hat aufgrund von irgendwelchen empirischen Sachen.

00:33:35: Kann nicht!

00:33:36: Ich kann keine gründliche Gründe anführen, weil wie du schon gesagt hast, ich spreche jetzt erst mal Menschen grundsätzlich zu Quar spätsches quasi nicht menschliches Spezies ab.

00:33:47: Und ich kann es weder bei einem KI-System empirisch begründen, noch beizu Beispiel dem Laptop der vor mir steht, noch bei dem Stuhl, der neben mir im Raum steht.

00:33:57: Ich kann dir nicht sagen ob der morgen nicht auf einmal anfängt um mir zu sprechen.

00:34:02: Kann begründen.

00:34:04: Aber ich meine, es ist ziemlich unwahrscheinlich und es gibt wenig gute Gründe warum ich davon ausgehen sollte dass der Stuhl neben mir im Raum auf einmal morgen anfängt um zu sprechen und nicht in den Bewusstsein irgendwie zuschreiben sollte.

00:34:15: und meiner Meinung nach gibt's wenig gute gründe warum mich überhaupt irgendein KI-System auch keiner generativen KI oder sonstwie gearteten bewusst dann zusprechen sollte weil es einfach alles was da passiert kann empirisch, technisch beschreiben.

00:34:30: Ich brauche keine Theorie des Bewusstseins um zu beschreiben warum sich dieses KI-System so verhält wie es sich

00:34:35: verhält.".

00:34:37: Ja vielen Dank total genau das entspricht voll meinem Gefühl.

00:34:42: Lustigerweise kam ich dann aber im Längere über nachdenken oder auch in der Diskussion mit denen darauf dass natürlich genauso sein kann dass wir Menschen also die einfach keinen Großzeilen haben also dass das vielleicht was ist was wir uns einfach nur Einbilden oder was, Teil dieser großen Simulation.

00:34:55: Und dann kommt natürlich ganz schnell auch zu Matrix und so weiter.

00:34:59: Weil man mit dem gleichen Grund, wie du sagst ich brauche keine Theorie, kann das alles erklären?

00:35:04: Wir können nicht alles erklären bei Menschen also wir können sogar finde ich erstaunlich wenig erklären wenn man über's Gehirn spricht.

00:35:12: aber es könnte mit genauso guten Gründen sagen na es gibt einfach kein Bewusstsein Alles funktioniert auf andere Art und Weise.

00:35:20: Also mir hat wirklich sehr viel Spaß gemacht.

00:35:21: Entschuldige

00:35:23: Genau, ich kann es bei uns Menschen nicht empirisch beschreiben.

00:35:26: Das ist ja so.

00:35:27: die Theorie des Behaviourismus also das ist ja eigentlich in der Philosophie sprich man darüber dass dann KI-Systeme quasi wenn sie sich so verhalten als ob dann muss man ihnen Bewusstsein zuschreiben weil es eben keinen vom Verhalten her eigentlich im Grund gibt, warum nicht.

00:35:42: Und ich finde es relativ unplausibel weil wie du gesagt hast ist ja gerade das spannende dass bei uns Menschen relativ wenig eigentlich erklärt werden kann obwohl wir uns so viel damit auseinandersetzen und in der Philosophie zu spielen mit dieser Frage des Großzeiten seit über zweitausend Jahren.

00:35:57: aber Ich glaube, man muss es ihnen entweder normativ zusprechen also in vorne rein oder absprechen.

00:36:02: Aber auf die Ebene zu gehen ja wie verhält sich ein Mensch?

00:36:05: und ist das jetzt irgendeinen Grund für Bewusstsein?

00:36:07: Oder nicht?

00:36:08: Das wird's irgendwann beliebig!

00:36:11: Und dann hast du jetzt gerade noch natürlich in Zukunft deine Disk gesagt Es geht um Intent.

00:36:18: Also ich hab das richtig verstanden.

00:36:20: Ich meine, das Wort habe ich vor schon mal gut bei Kunst.

00:36:22: Du hast gesagt, weil da jemand einen Mensch quasi eine Intention hatte.

00:36:28: Wie hängt denn Bewusstsein und Intension zusammen?

00:36:32: Also würdest du sagen aus diesen Gründen kann ein KI-System auch kein Intent haben.

00:36:39: Wahrscheinlich nicht ganz richtigen.

00:36:41: Alleinsprach hat es auch was mit einem Plan haben oder Vorhaben in eigenen Willen zu haben oder ein eigenes Ziel zu tun.

00:36:50: Ist das so?

00:36:51: Genau.

00:36:52: Intensualität wird in der Philosophie genau so definiert, dass man sich bewusst auf etwas richten kann.

00:36:57: Das heißt also wenn ich quasi das Bild entwickelt habe, dass mit einer Taschenlampe durch einen dunklen Raum sich gezielt irgendwelche Objekte anleuchten kann und so ist es ein bisschen mit unserer Bewusstsein.

00:37:08: Das haben wir erst mal einfach als Raum da aber dann kann ich mich ja bewusst auf irgendwelchen Sachen beziehen.

00:37:13: Also ich kann ja dann sagen mit der Taschenleichtlampe leucht' ich jetzt auf irgendwie den Stuhl, den ich vorhin schon angesprochen hab, der neben mir steht oder eben top vor mir.

00:37:22: Und KI-Systeme sind quasi wie eine Deckenleuchte, das ist keine Taschenlampe die sich bewusst auf etwas beziehen kann sondern nur eine Deckeneuchte die halt die Information da hat und aber nicht diese Richtung aufweisen kann was wir Menschen

00:37:36: können.

00:37:37: Du hast mal gesagt, dass es zurzeit oder das zusammen mit den KI-Systemen eine sogenannte Verantwortungsdiffusion einhergeht.

00:37:47: Also das heißt – weil wir jetzt gerade darüber sprechen – Bewusstsein, Intentionalität was unterscheidet

00:37:52: uns?

00:37:53: Dass in der Konsequenz ja dann immer die Frage ist okay und wir haben mit KI oder KI hat im Sinne von agentischem System vielleicht sogar selber irgendwas gemacht.

00:38:06: Aber die Frage ist ja, wer trägt da am Ende die Verantwortung?

00:38:09: Und das wird derzeit so was erleben, dass Verantwortung eben nicht mehr ein Mensch trägt oder sondern irgendwie gar niemanden mehr am Ende.

00:38:18: Das ist dir gefällt, ich sehe egal ob jetzt ebenso Leute wie ich jetzt denken, dass KI bewusst sein hat auch nicht.

00:38:23: Aber das ist eine Verantwortungstiffusion, besteht mir sprich der Philosophie auch von dem sogenannten Problem of many hands.

00:38:28: Also das Problem der vielen Hände und damit es gemeint in komplexen Strukturen sind irgendwann die Akteure so schwer zu definieren als einzelne Akteüre dass man gar nicht mehr sagen kann wer füllt ist wenn Fehler geschieht.

00:38:41: Das heißt also und das trifft eben bei KI System eins zu eins zu.

00:38:45: Das heißt also, dass wenn zum Beispiel ein KI-System bei der Bewerberinnenauswahl jemand diskriminiert wird – eine Frau beispielsweise.

00:38:51: Also wie es vor paar Jahren bei Amazon vollkommen ist.

00:38:53: Dann ist es sehr schwer zu sagen... Wer hat jetzt die Verantwortung?

00:38:57: Waren das die Daten oder die Firma, die die Daten generiert hat oder dann weiterverarbeitet.

00:39:03: War es das Unternehmen, dass das KI-System eingesetzt hat?

00:39:06: War da vielleicht die entwickelnde Person und so weiter und sofort?

00:39:08: Und dass es eben eine Diffusion stattfindet und ist nicht neu mit KI- Systemen oder mit dem Einsatz von KI-systemen.

00:39:14: aber es ist eben wieder nur ne andere Quantität, die entsteht

00:39:20: Wenn Technologie immer mehr Bereiche unseres Lebens durchzieht, wir haben vor vielen Jahren angefangen.

00:39:27: Da hat Maas Telefon geklingelt und man hat mir der Schreibmaschine in den Text geschrieben.

00:39:33: Jetzt sind wir einfach ... Dabei, dass Termine gemacht werden.

00:39:37: Fahrpläne.

00:39:38: Also das greift ja immer stärker auch in die physische Welt mit ein und da ist er tatsächlich dann die Frage okay wenn ein Fehler passiert wer trägt am Ende die Verantwortung?

00:39:47: Und ich denke schon und da kann ja Regulierung helfen beziehungsweise Ich sehe vor allem auch das Problem, dass vielleicht Regulierungen da sind aber eben das Vollzugsdefizit.

00:39:57: Das heißt also, dass dann Regulieren einfach nicht genug umgesetzt und durchgesetzt wird

00:40:03: oder dass halt die Sachverhalte so komplex werden, die verarbeitet werden.

00:40:08: Dass wir gar nicht mehr ein informiertes Urteil fällen können, selbst wenn wir wollen und das ist eine Kerndisposition, die ich bei KI System sehen ist quasi, dass sie eine Technologie der Vorauswahl ist, der Selektion.

00:40:21: Das heißt, überall dort wo KI-Systeme eingesetzt werden findet ja immer irgendeine Form von Eingrenzung statt.

00:40:28: Allein dahin gehen welche Daten verarbeitet werden.

00:40:31: Welche Informationen überhaupt als Grundlage verwendet werden?

00:40:34: Welche mir dann warum wie ausgespuckt werden?

00:40:37: das heißt in den meisten Fällen in denen KI Systeme genutzt werden selbst bei Expertinsystemen kann man nicht mehr explizit sagen wie diese Selektion stattfindet und man muss sich irgendwie darauf verlassen dass es wohl richtig ist Nutzerin des Systems.

00:40:53: Und das ist die größte ethische Gefahr, die ich bei den Systemen sehe?

00:40:56: Man kann eben gar nicht nachprüfen.

00:40:58: Dieses Problem der Erklärbarkeit potenziert sich dadurch ja.

00:41:01: Dass du dich entscheiden musst, dich vertraut diesem System und dass natürlich eine riesige Gefahr bei so einem System, wo so viel Blackbox- und so viele Unklarheiten drin sind.

00:41:11: Das einzige was man weiß, was auf jeden Fall drin ist, sind halt viele Verzerrungen in Biasis und Ausgrenzungen

00:41:17: usw.,

00:41:18: also ... dann ist es eigentlich klar, dass das nicht gehen kann.

00:41:22: Ja und deswegen stellen sich bei mir auch als Philosopher, dass ich immer die Nackenhaare auf, wenn wir in Bezug auf KI-Systeme von vertrauenswürdiger KI sprechen oder so wie es oft auch selbst im AI Act teilweise der Fall ist – Das ist einfach ein Kategorienfehler!

00:41:40: Ich kann den Dinger Vertrauen, warum sollte ich auch?

00:41:43: Ich muss halt dem Einsatz oder der Einhegung oder den Menschen die entwickeln oder sonst immer vertrauen.

00:41:48: Aber dem System selbst kann und soll ich auch nicht vertrauen

00:41:51: können.".

00:41:53: Das ist ein schönes Play-Doh-Geh für uns als Menschen, für unser Gehirn auf unsere Fähigkeit Dinge einzuordnen und einzuschätzen.

00:42:02: Und ich würde sagen damit sind wir am Ende angekommen von unserem Deep Dive.

00:42:08: Vielen, vielen Dank.

00:42:09: War

00:42:09: superinteressant.

00:42:10: Jetzt weiß ich wieder mehr, warum ich glaube das Kunst von Menschen gemacht werden muss.

00:42:14: Vielen, viel Dank!

00:42:14: Das war echt ein lustiger Zufall, das mal klären zu können als ich die letzte Woche dieses Schwierverwirrungen hatte und irgendwie dachte, ich spürs ganz deutlich aber ich kann es nicht ganz zu Ende begründen.

00:42:27: da lohnt sich immer ein Gespräch mit einer Philosophin.

00:42:29: Das wäre, habe ich doch schon gesagt.

00:42:32: Vielen

00:42:32: Dank.

00:42:40: Und wenn ihr mitdiskutieren wollt, könnt ihr das immer sehr gerne machen.

00:42:44: auf Mastodon sind wir unterwegs auf LinkedIn und auf Instagram.

00:42:48: ja schreibt uns

00:42:49: gerne

00:42:50: eure Meinung diskutiert mit uns.

00:42:52: Und challenget uns mit dem was ihr zu diesen Themen denkt.

00:42:55: Wir freuen uns drüber!

00:42:56: Ja lasst es euch gut gehen passt euch auf.

00:42:59: schön dass ihr dabei wart und bis nächste Woche.

00:43:02: Das war Baytalk Tech ein CT-Podcast von MirSwehr Eckhardt und Eva Wolfangel Musik und

00:43:09: Produktion

00:43:09: Marco Pauley.