Die erfundene Krankheit, die ChatGPT für echt hielt, und die Menschen hinter der KI mit Julia Kloiber

00:00:02:

00:00:16: Hi und herzlich willkommen zu They Talk Tech, ein City-Podcast.

00:00:20: Ich bin Svea Eckhardt, Tech Journalistin!

00:00:23: Du lachst schon?

00:00:24: Ich bin Eva Wolfangel auch, Tech-Journalistin.

00:00:27: Hallo!

00:00:28: Hallo!

00:00:28: Das sprechen wir jedes Mal neu.

00:00:31: Und nicht KI-generiert, sondern bald.

00:00:33: Stimmt.

00:00:33: Es stinkt doch jedes Mal ein bisschen anders und dann müssen wir mehr drüber lachen.

00:00:37: Auf jeden Fall KI-generiert ist schon ein tolles Stichwort.

00:00:40: Heute ist es fast eine KI-Folge könnte man sagen.

00:00:44: Wir springen am Anfang rein in einen Thema was Eva zurzeit sehr beschäftigt nämlich KI und Copyclaw Geschichten sozusagen also wie KI Inhalte verändert und

00:00:58: übernimmt.

00:01:01: Und dann tiesen wir das nächste Thema so ein bisschen an mit einem sehr spannenden Fall, es geht um einen Erfundenes-Medikament was sich auch mithilfe von KI verbreitet wie so ein Art Computerwurm bloß eben in den LLMs.

00:01:15: Und das leitet dann perfekt über zu unserer Gesprächspartnerin, die wir im zweiten Teil für euch eingeladen haben.

00:01:21: Sehr spannend!

00:01:22: Der wird Julia Kläuber vom Superr-Leb bei uns sein.

00:01:25: ja wirklich?

00:01:27: Ja muss man das echt so ausspringen, es fallen wir nämlich jedes Mal.

00:01:29: Ich habe das bisher nur immer gelesen und fragt, ob man dabei eigentlich immer ein bisschen knurren muss...

00:01:36: Können wir sie nachher fragen?

00:01:38: Es wird mich mit drei R geschrieben.

00:01:40: Julia hat einen sehr engen Draht und kümmert sich um das gesamte Thema Mechanical Turks, das sind Menschen vor allem in Billig-Niedriglohnländern oftmals im Afrika oder im globalen Süden die zum Beispiel für KI die Trainings machen.

00:01:58: Das hat ganz neue Dimensionen angenommen.

00:02:01: Auch

00:02:01: noch mal ein wirklich wichtiger Hintergrund für die ganze Debatte, wie wir KI benutzen sollten.

00:02:10: Rein ins Thema was dich gerade aufregt, KI klaut deine Inhalte?

00:02:14: Ja ich erleb das grade immer wieder und ich hab dazu jetzt auch an meiner Website einen Blogbeitrag geschrieben weil mich das so sehr umtreibt.

00:02:21: also ich sehe es immer wieder dass irgendwelche dubiosen Online-Magazine aber auch Leute auf LinkedIn Beiträge von mir übernehmen und oft sind die.

00:02:32: Und ich sehe es daran, also zum Beispiel hat dieses Magazin IT baldweis und da rede ich wirklich das name und schäme mich wirklich sehr gerne hier weil Das Ding quasi fast nur so funktioniert.

00:02:42: Okay, ich kenn's

00:02:43: nicht!

00:02:44: Also das wäre

00:02:45: jetzt wahrscheinlich

00:02:45: kein redumiertes Magazin vielleicht

00:02:48: am Rande.

00:02:48: Nee aber es ist schon ... da ist es nicht renommiert, aber ich glaube schon dass die Reichweite haben weil die halt dadurch, dass sich von anderen Medien klauen auch interessante Inhalte haben.

00:02:58: und ich hab dann neulich mal eine investigative exklusive Recherche von mir entdeckt.

00:03:02: Ich google manchmal wenn ich meine Geschichten, also wenn ich neue Sachen geschrieben habe um zu schauen ob andere Medien die aufgenommen haben und zitieren.

00:03:07: Das ist ein bisschen ein Geschäft, dass andere Medien sagen Zeit berichtet oder so.

00:03:12: Und dann finde ich auch oft einiges und da habe ich eben jetzt aber vermehrt auch gemerkt, dass ich den Treffer bekomme wo zwar die Ergebnisse drinstehen und alles exklusive Sachen sind kann nicht eindeutig sagen es ist meine Recherche ist weil das noch nirgendwo anders erschienen ist.

00:03:23: Aber ohne dass ein Quellenverweis wieder irgendwas drin steht.

00:03:26: Das heißt diese Magazine und IT Balltwice hat das eben auch gemacht tun so als hätten sie das selbst recherchiert und haben dann die gesamte Geschichte schön umgeschrieben natürlich selbst veröffentlicht und klar in dem Fall mit dieser investigativen oder die Zeit hat denen dann e-mail geschickt, dass es rechtliche Schritte gibt.

00:03:43: Wenn sie nicht den Namen nennen und dann haben die das einfach gelöscht!

00:03:46: Und so habe ich jetzt angefangen mir das ein bisschen genauer anzuschauen und gesehen, dass die halt wirklich systematisch zu arbeiten ist auf anderen Medien Texte übernehmen mit der Hilfe von KI umschreiben und halt hoffen, dass Sie damit durchkommen.

00:03:57: und oft kommen Sie's ja auch weil man natürlich auch sobald es nicht so exklusiv ist oder sobalde eben nicht eins zu eins kopiert ist, das nicht einfach nicht eindeutig nachweisen kann.

00:04:07: Und ist das ein Phänomen, wo du sagst durch KI nimmt das zu oder wird es leichter gemacht?

00:04:14: Ich muss immer an diese legendäre Geschichte denken.

00:04:17: Moses Palham und Kraftwerk.

00:04:20: Das ist ja so einen ongoing Streit.

00:04:23: da geht's

00:04:23: ...

00:04:25: Ganz bekannter Fall.

00:04:26: Da geht es darum, um wenige Takte in der Musik wo es einen sehr langjährigen Streit gibt darüber ob das jetzt gesampelt wurde oder nicht.

00:04:34: Der eine aus dem anderen Song Teile übernommen hat.

00:04:37: Das ging also durch verschiedene Instanzen Und genau, also deswegen denke ich immer das ist doch nichts Neues sozusagen beziehungsweise gibt es überhaupt noch irgendwas Neues weil Kultur ist ja auch Remix.

00:04:50: Also Shakespeare hat plots geklaut die Bibel zitiert sich selbst jeder Songwriter steht auf den Schultern von tausenden Akkord folgen.

00:05:00: Und klar, es gab auch natürlich wie du schon sagst vorher also die Stilform das Medienartikel schreiben in denen sie auf andere Recherchen zurückgreifen und die mehr oder weniger zusammenfassen aber eben auch zitieren.

00:05:12: Das gab's natürlich vorher schon und natürlich ganz viele Dinge die man weiß oder selbst aufschreibt weil ist man aus vielen vielen Recherche von anderen Leuten.

00:05:20: Also ich weiß es sind viele Dinge auch von Wissenschaftlerinnen Aber natürlich heraus anderen ja Selektüre von allen möglichen Materialien.

00:05:26: Natürlich kann man sagen ähnlich was im Kopf vorgeht.

00:05:28: Aber ich beobachte, dass KI natürlich das Ganze ... Also eine große Verlockung hat offensichtlich für Menschen die nicht so seriös arbeiten und denen es ein bisschen egal ist, dass sie damit allen schaden.

00:05:39: Die Verlocking hat dieses Spiel auf die Spitze zu treiben.

00:05:42: Und weil man eben mittels KI auch schön umschreiben kann oder KI macht's dann einfach für einen.

00:05:48: Natürlich ist das viel einfacher.

00:05:50: Am Ende sind es Plagiate, ne?

00:05:52: Das sind Plagiate.

00:05:53: Man plagiert andere Menschen oder andere Medieninhalte.

00:05:57: bessere Chancen damit durchzukommen, weil KI das umschreiben kann.

00:06:00: Und ich hab's jetzt eben in zwei Fällen entdeckt einmal, weil es genau meine Recherche war und einmal ... Weil die KI offenbar daran geschaltet ist, gut umzuschreiben!

00:06:09: Das glaube

00:06:09: ich so ein bisschen der Knackpunkt, ne?

00:06:12: Ich finde ja schon wenn man sich genauer anschaut, es liegt in ihr einziger Spiegelsaal Ja?

00:06:20: Also sozusagen dieselbe Bro-a-Tree, nenn ich's mal.

00:06:25: Jeder kopfert dieselben Hooks, dieselbe Dramaturgie ab und dann denk' ich mir immer okay wenn es so ein superkruger Gedanke war klar wird der irgendwie kopiert ne?

00:06:38: Aber die Frage ist halt Format kopieren versus Wortlaut kopieren.

00:06:41: Ist das was du meinst?

00:06:42: Also,

00:06:42: ich finde beides.

00:06:43: Ich find klar Wortlaut kopieren ist halt ein eindeutiges Plagiat da es dann nicht so schwer das nachzuweisen und dann können die anderen auch nicht eigentlich kaum was anderes als sagen ja stimmt dass es wirklich doof gelaufen das ist offenbar ein Plagiato.

00:06:54: du hast es das war von dir so aber ich finde auch systematisch eben Inhalte klauen.

00:06:58: das was jetzt IT Boardwise macht da ist dann vielleicht Kaum eine Originalformulierung von mir drin, aber der gesamte Inhalt.

00:07:06: Also wenn Medien und Journalistinnen das machen ... Also darin quasi ihr eigenes kleines Geschäftsmodell erkennen, dass sie nur noch anderer Leute Inhalte zusammenfassen?

00:07:15: Ich hab das von Leuten gehört, die so was machen.

00:07:17: KI-Agenten los schicken, die durchsuchen dann das Internet.

00:07:20: Die finden ja auch Themen mit Reichweite.

00:07:22: Das kann man denen sagen, finde mir Themen für Aufregungssorgen aus meinem Themenbereich!

00:07:26: Dann sagt man, jetzt fasse ich mir daraus einen eigenen Artikel zusammen.

00:07:32: Genau, und dann packt man es eben auf seine Website mit Affiliate Links oder auf eine Hälfte, auf der man dann keine Ahnung anderes Zeug verkauft.

00:07:39: Oder einfach für seine eigene Reichweite.

00:07:41: Und so ein Artikel zu schreiben auf der Basis von anderer Leute Arbeit ist ja überhaupt quasi Nullarbeit.

00:07:46: Das machen wir einfach, wenn das die KI macht.

00:07:48: D.h.,

00:07:48: das skaliert total gut!

00:07:50: Wenn man das skrupellos durchzieht sowie jetzt die Ersten machen, blutet man bei den Jeunes wie schon

00:07:56: immer aus... Beziehungsweise, wie es schon eigentlich immer gemacht wurde.

00:07:59: Aber KI ...

00:08:01: Mit KI skaliert das halt?

00:08:02: Also mit KI ist es quasi wirklich null Arbeit mehr!

00:08:07: Du investierst ja deine, weiß ich nicht, zwanzig oder vielleicht solche Leute, die das professionell machen, vielleicht investieren der hundert Euro in so ein KI-Abonnement und dann macht die KI die Arbeit für dich und du musst nur noch auf die Webseite packen.

00:08:17: Das kann man sicher auch automatisieren.

00:08:19: Du hast da quasi null Arbeit damit.

00:08:21: aber natürlich war's die Konsequenz und das müssen wir uns glaube ich wirklich klarmachen sich niemanden mehr seriösen Journalismus leisten können wird, zu tun.

00:08:32: Weil diese Menschen, die so unseriös Dinge kopieren und aus anderer Arbeit zusammenfassen und als ihre eigene Ausgeben natürlich nie was Algenes produzieren.

00:08:42: Das heißt ... Und das kostenlos hergeben?

00:08:45: Man bezahlt mit seinen Daten, mit dem man Affiliate links anklickt

00:08:48: usw.,

00:08:49: d.h.

00:08:50: Unsere hochwertigen Inhalte werden anderswo verschenkt.

00:08:53: und ich höre das auch manchmal von Leuten, die sagen hey wenn da eine spannende Recherche von dir ist in der Zeit.

00:08:57: Und da is ne Paywall dann google ich halt mal und schau ob ich es irgendwo kostenlos finde und es gibt's ja noch dazu auch viel.

00:09:03: Medien die halt an die ganze Geschichte immer in Mitquelle-Nennung aber trotzdem die ganzen Geschichte übernehmen und da muss man glaube ich mit KI wirklich... Ich würde sagen, es ist eine Bedrohung nicht nur für unsere Branche.

00:09:16: Wenn man das dann irgendwann nicht mehr bezahlen kann, weil die Menschen nicht mehr auf die eigene Seite kommen oder nicht bereit sind eben für Journalismus zu zahlen, weil sie das Zeug anderswo geschenkt bekommen, weil's kopiert wird ... Dann werden alle Medien zumachen und gibt gar keine exklusiven Inhalte, wenn da nur noch Dingzeug was voneinander kopiert ist.

00:09:34: Ich bin da bei dir.

00:09:35: Ich glaube nur, dass das Problem noch viel größer ist auf einer ganz anderen Ebene weil du hast jetzt von einzelnen Personen oder Medien gesprochen die eben solche Inhalte kopieren dann ohne Quellenennung als ihre eigene Ausgeben.

00:09:49: aber wir haben ja auch die großen LLMs die eigentlich ja die ganze Zeit crawlen und die ganze zeit die Inhalten ziehen würde ich sagen, so noch mal einen Schritt zurück.

00:10:00: Der ganz große Trend den wir sehen und wo auch dringende Regulierung her muss, dass man im Prinzip im Moment den starken Trend sieht das die Menschen in ihren Chatbots bleiben um sich zu informieren und einfach gar nicht mehr auf die Originalseiten klicken.

00:10:15: Ja, also so das gibt da diesen Begriff Zero-Click Internet.

00:10:19: Also

00:10:20: welche

00:10:20: Schuhe soll ich kaufen?

00:10:21: Welche Matratze soll ich kaufen?

00:10:22: auch wie steht es denn im Ukraine?

00:10:24: Krieg?

00:10:25: Ach was gibt's Neues aus der Netzwelt sag' ich mal nur so beispielhaft.

00:10:29: oder Rezept für Apfelkuchen.

00:10:31: Also ist du quasi für deine Ganztbedürfnisse einfach im Chatbot bleibst und der gut Gebt dir vielleicht sogar noch so kleine Verlinkungen aus, die klickst du aber nicht mehr an.

00:10:42: Und damit ist im Prinzip der Revenue Stream also das die Möglichkeit von Verlagen verlegern Autorinnen und Autoren Geld zu verdienen dann ist er halt tot.

00:10:52: Das ist das Bild, was du zeigst.

00:10:53: Das sind

00:10:54: die beiden Seiten.

00:10:55: Die großen KI-Konzerne machen das und das ist natürlich eine Riesenbedrohung weil auch dann kann sie Journalismus nicht mehr tragen wenn die Leute nicht mehr auf die Seite kommen.

00:11:04: aber wenn jetzt auch noch Journalistinnen und Medien selbst quasi mitmachen und das ausnutzen haben wir die Angriffe von zwei Seiten Bist ja so ein bisschen geneigt, ans gute Menschen zu glauben.

00:11:15: Da hab ich Leute auf Link damit aufgezogen, dass es doch klar war, dass das passieren würde und ich war schon schockiert, dass ist.

00:11:24: auch Journalistinnen jetzt anfangen in großem Stil, indirekt den Weg zu plagiieren.

00:11:29: Und dann die Frage an dich führt es ja auch noch dazu, dass am Ende Falschinformationen verbreitet werden wenn KI's ... Dinge hallucinieren oder wenn eine falsche Information wieder abgeschrieben wird.

00:11:42: Genau, das ist so der nächste Aspekt auf dem man dann kommt.

00:11:46: also wenn man eben über dieses Thema spricht KI greift Informationen auf verpackt die neue formuliert die um und spuckt sie wieder aus da.

00:11:56: das passt ganz gut eigentlich zu einer Geschichte, die mich jetzt gerade umgetrieben hat.

00:12:00: Die ist schon in Anführungszeichen ein bisschen älter aber für mich gab es jetzt einen Grund sich nochmal neu damit zu beschäftigen.

00:12:07: Der Grund ist ein schöner, den habe ich auch noch nie ins Wurf verraten, aber ich mach's jetzt

00:12:10: hier kurz.

00:12:10: Wir wieder exklusiv hier!

00:12:14: Gemeinsam mit einem Kollegen schreibe ich ja im Buch

00:12:17: Ja, ich wusste natürlich schon.

00:12:20: Aber für euch alles ist exklusiv!

00:12:21: Mega cool und das wird richtig spannend.

00:12:24: Es kommt

00:12:27: im Oktober-November raus.

00:12:29: Ich denke, ich werde irgendwann hier auch noch mal ein bisschen mehr darüber verraten und erzählen wenn es sozusagen noch ein bisschen offizieller ist.

00:12:36: aber ich kann auf jeden Fall sagen dass gibt einen Buch und wir arbeiten da an verschiedenen Kapiteln an verschiedenen Teilen.

00:12:41: Es geht natürlich um das ganze Rundum des ganzen Thema Digitalisierung Bedrohung aus dem Netz.

00:12:47: Mehr will ich jetzt nicht verraten, aber aus einem Kapitel will ich als ganz kleines erzählen.

00:12:52: Da beschäftigen wir uns nämlich damit was eben passiert wenn sogenannte predatory publisher unterwegs sind also wenn Studien bei sogenannten Raubverlagen veröffentlicht werden.

00:13:04: Hast du davon gehört, Eva?

00:13:05: Ein Raubverlag.

00:13:06: Ich frage mich gerade was das Wort Raub-Verlag bedeutet.

00:13:09: ich kenne diese Journals die das ausnutzen dass in der Wissenschaft quasi Publikation alles ist und zählt und die dann quasi einfach schlechte Qualitätsjournals machen und Wissenschaftlerinnen bezahlen sogar dafür dass sie veröffentlichen dürfen haben da eine Veröffentlichung.

00:13:24: dadurch entsteht natürlich ein falscher Anreiz.

00:13:27: und ja am Ende wird alles.

00:13:29: übrigens ich krieg täglich E-Mails von solchen Journalls inzwischen Die Veröffentlichung sei ganz billig.

00:13:35: Dadurch entsteht natürlich der ganze Sumpf an Pseudo-Wissenschaft am Ende?

00:13:39: Ja, genau!

00:13:40: Das sind oft Verlage, die sitzen oft in Indien aber auch in anderen ... Ländern.

00:13:46: Und was die machen, ist im Prinzip der Anschein von Wissenschaft.

00:13:49: Also da steht dann Peer Review drauf.

00:13:52: Peer review ist immer wenn eine Studie durch andere Wissenschaftlerinnen begutachtet wurde meistens ein sehr aufwendiger und anstrengender Prozess, habe ich mir gesagt.

00:13:59: Geht eigentlich als gute Siegel genau und muss sehr anstregen... Ja genau.

00:14:03: Vielleicht so ähnlich wie in Texte redigiert werden.

00:14:05: es kann auch sehr an streng sein.

00:14:06: Ich glaube noch

00:14:06: schlimmer.

00:14:07: also ich glaube was ich schon gehört hab teilweise einen halben Jahr oder viel Arbeit und geht hin und geht her usw.. ein bisschen als Güte-Siegel das andere geprüft haben.

00:14:17: Da steht Peer Review drauf, ist aber eben nicht Peer-Reviewed drin.

00:14:22: Das heißt also wie so eine Art falscher Stempel.

00:14:26: und jetzt ist Folgendes passiert.

00:14:30: Also es hat eine Wissenschaftlerin hat einen Test oder Probelstudio veröffentlicht mit einer geheimnisvollen Krankheit namens Big Sonimania.

00:14:44: Okay, Bixsoni-Media.

00:14:47: Hat

00:14:47: was mitzulauten Kopfhörern zu tun, schätze ich mal.

00:14:49: Meine Kopfhüter sagen auch immer mein Handy sagt meine Kopfhürer sein zu laut.

00:14:54: Ja wahrscheinlich ist man dann bikschwerhörig.

00:14:56: Was macht Bix Soni-Mania?

00:14:57: Nein!

00:14:58: Bix Sony Mania ist angeblich eine Krankheit verursacht durch Blaulicht von Bildschirmen mit Symptomen wie Wunderaugen und dunkle Ränder.

00:15:07: Es geht so ein bisschen wie das, was mein Kind erzählt

00:15:10: Wenn

00:15:10: du zu

00:15:11: lange Fernsehkost kriegst, vier eckige Augen.

00:15:14: Aber diese Krankheit ist erfunden von einer Wissenschaftlerin von Almira Tunström von der Universität Göteborg und die hat eben diese vermeintliche Studie ... hochgeladen auf so einen sogenannten Preprint Server.

00:15:32: Das ist kein Raubverlag, also kein Predatory Journal, sondern das ist dann ein Preprint-Server oft.

00:15:38: Der werden Studien gerne hoch geladen wenn sie noch nicht peer reviewed und noch nicht begutachtet sind damit es einfach schneller geht.

00:15:45: Dann hat sie herausgefunden, dass nach einigen Wochen und Monaten Lodge Language Models Chatbots diese Studie mit dieser erfundenen Krankheit sich aus dem Netz gezogen haben.

00:15:57: Das Netz gecrawled haben eigentlich so ein bisschen wie das was wir eben besprochen haben.

00:16:01: Und wenn du dann nach dieser Krankheit gefragt hast, dann haben die die als real echt und ja gibt's so verkauft

00:16:10: Cool.

00:16:11: Das heißt, egal was Leute behaupten auf einen Preprint-Servant, sie müssen nur draufschreiben es ist Wissenschaft und am Ende wird das Teil unseres pseudo-Wissens.

00:16:19: Und das

00:16:20: ist natürlich ein riesiges Problem, ich würde sagen zu so einer Art Verunreinigung der Sprachmodelle, Vermüllung mit der Sprachtmodelle führen kann wenn also solche halizionierten Erfundenen vielleicht.

00:16:33: auch gibt natürlich auch eine Menge vermeintliche wissenschaftliche Paper, die dann irgendwelche Wundermittel verkaufen.

00:16:42: Da wird es natürlich auch ein Zimmiges Geschäft gemacht mit Hoffnung vor allem bei sehr kranken Menschen mit vermeintlichen Wundermitteln.

00:16:50: Wenn du sozusagen den Ergebnissen aus den LLMs wirklich nicht mehr trauen kannst und zwar nicht nur ... Weil die vielleicht was hallucinieren, wo ich denke da werden sie immer besser Da werden die auch drauf trainiert.

00:17:03: Aber wenn das Internet einfach vermüllt, immer mehr falsche Informationen verfügbar sind?

00:17:09: Ja und es wird ja auch ausgenutzt!

00:17:11: Das habe ich schon öfter gehört, dass interessierte Kräfte die falschen Informationen verbreiten wollen, das durchaus auch nutzen und teilweise wohl eben auch diese Dinge aufschreiben überhaupt nicht mit dem Ziel des Menschen sie zunächst lesen oder dann einfach ins Netz stellen... Im

00:17:23: Kontext mit Desinformationen und Propaganda

00:17:26: Genau, also solche Dinge hab ich gehört.

00:17:29: Das müsste man auch noch mal genauer nach recherchieren.

00:17:31: Ich habe es bisher von einer Forscherin auf eine Konferenz gehört die dazu geforscht hat sich halt durchaus für seriös.

00:17:37: Ich hab's nur nicht selbst nachvollzogen dass es das aber schon gibt und ist ja auch total plausibel Ja?

00:17:41: Und was man sieht, das finde ich ganz interessant, dass halt Gesprachmodelle oder KI-Modelle natürlich in Dinge zu denen es wenig Informationen gibt im Netz dann nehmen sie einfach genau das Also wie diese Krankheit, die gibt's nicht.

00:17:53: Wenn jemand danach sucht, weiß eben das LMA, da hab ich davon gelesen und dann kommt das als Information raus.

00:17:58: Es heißt immer bei Dingen wo es wenig andere Quellen gibt was ja total typisch ist auch für so Desinformation Fake News oder für den Anfang zumindest wird genau diese Information genutzt Und man kann das nie wieder einfangen.

00:18:09: also das wird dann ja weiter zitiert.

00:18:12: Dann gibt's wahrscheinlich irgendwelche.

00:18:14: Ja,

00:18:15: also das

00:18:16: ist ... Die schreiben die Krankheit.

00:18:20: Oder schreiben dann über diese Krankheit, die es gar nicht gibt oder über das Wundermittel, was es gar nichts gibt?

00:18:25: Oder über greifen Zahlen auf, die so nicht stimmen.

00:18:29: Das ist ein Problem, wo es schon um dieses große Thema geht Vertrauen.

00:18:36: Auf was können wir uns noch verlassen?

00:18:38: an Informationen vielleicht noch wichtig.

00:18:41: auch noch mal zu ... Big Sony Mania.

00:18:44: Das Paper war eigentlich so gestaltet, dass jede KI den Schwindel eigentlich erkennen könnte.

00:18:51: Also diese Endung Mania, die passt vielleicht in die Psychiatrie aber nicht zu so einem Leiden ...

00:18:57: Nicht zu färken Augen!

00:18:59: Ja dann das Foto vom Hauptautor war KI generiert irgendwie Die Universitäten existierten nicht.

00:19:05: In der Danksagung tauchte irgendeine Professorin auf von der Starfleet Academy, ne?

00:19:12: Also ... war es so verrückt.

00:19:14: Ja, das ist irgendwie auch ungut, ja.

00:19:17: Ungut!

00:19:19: Um's aufzulösen, die haben das Paper dann zurückgezogen.

00:19:22: Es sollte auf jeden Fall den Fall bekannt gemacht und keinen Schaden anzurichten.

00:19:27: Darüber wurde dann auch publiziert.

00:19:29: aber ich fand das ein guter Fall um im Umgang mit KI sich selbst zu sensibilisieren.

00:19:37: also wie sehr vertraue ich eigentlich diesen Ergebnissen?

00:19:41: Ich schwanke, wenn ich so was höre wirklich zwischen Verzweifelung und Hoffnung für den Journalismus.

00:19:45: Weil das ist ja wiederum etwas, wofür wir die Menschheit vielleicht retten können, ne?

00:19:49: Wenn wir sagen, wir sind ... Wir bleiben die Kraft, die seriös recherchiert, die Fakten prüft, die nicht irgendwas irgendwo abschreibt ohne zu checken, was es damit auf sich hat.

00:20:00: Damit können wir uns abheben von solchen schlechten Prakt- die Inhalte aus dem Netz einfach oder von KI erstellen lassen und einfach kopieren.

00:20:10: Wie gesagt, gleichzeitig ist halt die große Sorge, dass die Menschen das zu spät merken, ne?

00:20:14: Dass es auch unseriöse Journalismus gibt und dass eben unsere Inhalter abgezogen werden und wir uns unseren Geschäftsmodell nicht mehr leisten können.

00:20:25: Und es passt ganz gut zudem was wir gleich mit unserer... in nächsten Interviewpartnern besprechen wollen.

00:20:32: Ich hab's erfreut, haben wir sie ja schon angekündigt?

00:20:34: Julia Kleuber vom Superlap, wo wir Sie gleich gern dazu fragen können wie man es richtig ausspricht und da wird das darum gehen dass eben künstliche Intelligenz nicht aus dem Nichts kommt und auch nicht im Nichts kreiert wird.

00:20:49: ganz im Gegenteil.

00:20:50: denn hinter jedem Modell stecken viele Menschen oft schlecht bezahlt im globalen Süden die genau diese Daten sortieren, die auch Fehler solche Art ausmerzen sollen.

00:21:01: Texte labeln und das Schlimmste wegfiltern damit dann diese Maschinen sauber wirken oder sauber bleiben.

00:21:09: Und genau dieses Schicht wollen wir jetzt gleich mit Julia sichtbar machen!

00:21:22: Ja, jetzt ist Julia hier mit Gründerin und Geschäftsführerin des Superlab.

00:21:26: Und genau, was wir ja schon gesagt haben, wir haben uns vorgefragt ob man da eigentlich ein bisschen knurren muss dabei wenn man den Namen sagt?

00:21:31: Und warum eigentlich drei R-Ramen am Ende stehen?

00:21:35: Jetzt darf jeder so aussprechen wie er möchte.

00:21:38: Es stehen drei R's.

00:21:39: in den USA gibt es die Riot Girl Bewegung also in der Punk Musikindustrie wo sehr wenig Frauen repräsentiert waren und dann diese Bewegungen gestartet haben.

00:21:49: oder in der feministischen Außenpolitik, das so ein bisschen die konservativere Erklärung geht es um rechte Repräsentation.

00:21:57: und drittes soll sich immer vergessen.

00:22:01: Also es gibt die drei R's auch ja in der feminismischen Außendpolitik.

00:22:06: Das passt ja wirklich auf allen Ebenen.

00:22:07: wie schön.

00:22:08: also man muss nicht knurren sondern es gibt drei Inhaltliche Gründe für die drei R, wie schön.

00:22:14: Und Julia ein Thema mit dem ihr euch beschäftigt... Also ich kenne dich schon länger also schon paar Jahre und die Zeit aus der wir uns kennen.

00:22:23: da habt ihr sehr viel Arbeit gemacht im Bereich der Content ModeratorInnen und ich weiß dass ihr heute neben auch anderen spannenden Projekten euch auch kümmert um Menschen die KI-Daten labeln.

00:22:37: aber bevor wir da eintauchen stellt doch einmal das Superlab noch mal ein bisschen genauer vor.

00:22:41: Ihr macht ja viele spannende Sachen!

00:22:45: Als Organisation werfen wir einen intersektional feministischen Blick auf neue Entwicklungen im Bereich der Digitalisierung,

00:22:52: d.h.,

00:22:53: wir interessieren uns für Machtstrukturen.

00:22:55: Wer sitzt wo am Hebel?

00:22:56: Wer hat von BMG gemacht aus?

00:22:59: Wo konzentriert sich Macht?

00:23:01: Das zu entpacken und in der ganzen Komplexität zu betrachten, also nicht nur die oberste Schicht irgendwie sich anzugucken sondern wirklich abzutragen.

00:23:10: Das sind die Ursachen von bestimmten Problemen und da kommt man schnell auf eine historische Dimension dass es bestimmte Formen der Ausbeutung schon sehr lange gibt und einfach die fortgeführt werden.

00:23:23: in dem Bereich Und da geht es auch sehr häufig darum, wer ist eigentlich außen vor?

00:23:29: Also auf wem liegt nicht der Fokus wenn wir über Nutzer-Nutzerinnen sprechen oder wenn wir darüber sprechen, wer gestaltet.

00:23:36: Jetzt bin ich im Zusammenhang mit der Vorbereitung auch auf das Gespräch und sozusagen den Menschen im Hintergrund die wir ja eigentlich kaum sehen oder wahrnehmen auf ein spannendes Bild gestoßen.

00:23:48: Das spielt interessanterweise in Wien um siebzehnhundert Und da gab es eine Holzfigur in einem Osmanischen Gewand und die saß an einem Schachtisch.

00:23:59: und hat reihenweise die besten Köpfe des Kontinents im Schach geschlagen.

00:24:04: Angeblich, so die Geschichte soll sogar Napoleon verloren

00:24:08: haben.".

00:24:08: Und die Menschen haben damals sehr gestaunt.

00:24:10: eine Maschine, die denkt ... Also es war eben noch um siebzehnt hundert lange bevor es also irgendwas in die Kompiute oder irgendetwas in die Richtung überhaupt gab.

00:24:18: Nur das war halt keine Maschine.

00:24:20: im Innern, kauerte ein Mensch, man kann sich auf Wikipedia verschiedene sozusagen Holzstiche, also verschiedene Bilder aus der Zeit anschauen wie das wohl gewesen sein soll.

00:24:30: Und da saß eben ein echter Schachmeister gut versteckt zwischen Zahnrädern und ... Das fand ich ein spannendes

00:24:37: Bild,

00:24:38: weil auch dieser Begriff Mechanical Turk, den man so kennt für diese Menschen die im Schatten arbeiten, darauf zurückgeht.

00:24:47: Ich hab mich natürlich gefragt was hat dieses Bild von damals mit heutets tun oder dieser Schwindel von damals?

00:24:55: Hat er mit heute zu tun, Julia?

00:24:57: Wie treffend findest du denn dieses Bild für das was heute passiert?

00:25:01: Vielleicht eine Bemerkung vorweg.

00:25:02: Ich finde es ist schon ziemlich zynisch von Amazon da in dem Jahr zwei Dessen Fünf ihr Tool nach diesen Heute wird's auf der Schachtür gezeichnet zu benennen.

00:25:12: also... Gerade Technologie-Unternehmen lieben historische Referenzen oder Referenz aus der Science Fiction.

00:25:21: Interessant ist, dass man da in dem Jahr war, eigentlich gar nicht wirklich versucht hat zu verbergen.

00:25:25: so wer verrichtet denn die Arbeit?

00:25:26: Ich finde das haben wir jetzt bei den in den Zehnerjahren mit Henrik Hüttlack einen sehr größten Unternehmen für Clickwork, auch ein Begriff der damals geprägt wurde.

00:25:37: Mittlerweile gibt es hunderte von Unternehmen, die das durchführen und die alles tun damit das nicht so offensiv.

00:25:45: Und was sind die Unterschiede?

00:25:48: Damals war es ein Mensch, der in diesem Apparat saß und Intellektualer bespaßt hat.

00:25:55: Von Hof zu Hof wurde dieser Apparat gekart.

00:25:58: Es hat auch ewig gedauert bis man herausgefunden hat aufgedeckt hat dass da wirklich ein Mensch drin sitzt.

00:26:04: also man wollte sich diese Illusion jahrzehntelang hingeben.

00:26:08: Und heute sind es aber Millionen von Menschen die in dem Bereich arbeiten und der Mechanical Turk oder der Mensch Er hat alles alleine verrichtet.

00:26:20: Die ganze Arbeit, die intellektuelle Arbeit auch und jetzt werden Arbeitsschritte in so ganz kleine Mikrotasks runtergebrochen sodass einem die Arbeiterinnen oft gar nicht sagen können an welchen Projekten sie da eigentlich arbeiten.

00:26:33: also das ist auch ganz gezielt so dass man nicht nachvollziehen kann zu welchem System trägt man denn eigentlich gerade bei?

00:26:41: Und damals war es eine gezielte Illusion und heute ist das ein Business-Modell, also dass man diese Arbeit im Verborgenen bleibt.

00:26:47: Ich glaube, das sind so drei Dinge die mir spontan einfallen würden was das damals und heute unterscheidet.

00:26:53: aber ja es gibt schon auch Parallelen und ich finde das Bild eigentlich gar nicht so schlecht, dass man damit aufmacht.

00:27:00: Mein breiter in das Bewusstsein der Öffentlichkeit gekommen würde ich sagen, fast erst da in den Jahr- und zwanzig als diese Time-Recherche, die diese Firma in Kenia besucht hat von Menschen für einen Hungerlohn dran gearbeitet haben.

00:27:15: Den KI Modellen, den Hass auszutreiben und die Gewalt auszudreiben.

00:27:19: Ich habe damals auch drüber geschrieben.

00:27:21: Und bis dahin würde ich behaupten, haben viele Menschen tatsächlich gedacht das was die KI da macht es kommt einfach allein aus der Maschine.

00:27:29: und diese Menschen, die da genau wirklich die Drecksarbeit machen also die haben wir auch berichtet wie sie traumatisiert sind, weil Sie den ganzen Tag damit verbringen.

00:27:36: In der Maschine in einem Computer zu sagen, das ist eine schlimme Gewaltdarstellung oder das ist noch okay?

00:27:42: Die haben die ganzen Tage wirklich schlimmste Traumatisierende Szenen gesehen und das ist den allermeisten Menschen überhaupt nicht bewusst gewesen.

00:27:48: Und ehrlich gesagt bis heute interessanterweise wenn ich davon erzähle ... Ich hab oft in meinen Vorträgen ein zwei Slides dazu, weil ich finde es darf man einfach überhaupt nicht aus dem Auge verlieren.

00:28:00: Es sind Menschen überrascht!

00:28:01: Das geht es euch auch so dass du Du immer wieder denkst, wow.

00:28:04: Das ist so ein altes Thema und trotzdem noch nicht bekannt?

00:28:08: Absolut!

00:28:09: Vor allem die Dimension, dass man mal irgendwie mitbekommen hat, okay da ist auch Teil menschlicher Arbeit jenseits der gut bezahlten sechsstelligen Jobs im Silicon Valley.

00:28:20: aber wenn wir dann mal mit zu zahlen um die Ecke biegt das ist auch schwierig weil natürlich vieles versucht wird über Subunternehmen sehr schwer nachvollziehbar zu halten.

00:28:32: Aber wenn man dann mal erwähnt, okay die Weltbank schätzt es also zwischen hundertfünfzig und vierhundertdreißig Millionen Menschen daran arbeiten, dann fällt vielen... Erst mal die Kinder da darunter und es ist so groß, schweigen.

00:28:44: Wah wirklich diese Dimension des Ganzen!

00:28:47: Und auch die Tatsache dass das ein Bereich ist der nach wie vor sehr stark wächst.

00:28:53: LinkedIn und Deal also die Chat-Plattformen haben Datenannotation unter ihren Topsektoren, die gerade am Wachstum sind in den USA gelistet.

00:29:02: In den USA weil man denkt dann nicht häufig nur der Globales Süden Ausbeutung, die man irgendwie kennt aus der Textil.

00:29:09: Aus der Kaffeeproduktion zum Beispiel.

00:29:12: aber Datenannotationen, Data Labeling passiert auch hier in Europa und Deutschland.

00:29:18: Das ist was das man oft über sieht oder gerne übersehen möchte.

00:29:22: Ich krieg da sogar manchmal Angebote über LinkedIn.

00:29:24: Also genauso was kannst du entweder kurz kleine Texte schreiben für KI oder kannst du Texte beurteilen und sagen, welcher besser ist?

00:29:31: Die haben schon erkannt dass auch der Journalismus langsam oder zumindest teilweise in prekäre Situationen abrutscht und versuchen da auch Leute anzuwerben.

00:29:37: also das ist schon krass wie es um sich greift

00:29:40: ja und was vielleicht auch interessant ist immer ganz unterschiedliche Jobbezeichnungen sind.

00:29:45: Also Leute, die in Essen für einen großen Social Media Konzern große Sprachmodelle optimiert haben, wurden als Language-Experts angestellt und ich finde das auch oft noch nicht so.

00:29:58: im Bewusstsein der Menschen ist dass ganz viele der Arbeiterinnen abgeschlossene Studien haben.

00:30:04: also das sind nicht die umgebildeten Click-Worker die irgendwie darauf warten.

00:30:10: okay ich brauche jetzt irgendwie unbedingt ein Job.

00:30:13: Viele brauchen schon unbedingt einen Job, aber viele davon haben abgeschlossen der Bachelor Master PhDs.

00:30:19: Also das sind nicht die ungebildeten Massen, die ansonsten komplett hoffnungslos verloren werden auf dem Arbeitsmarkt.

00:30:28: Das denke ich, ist noch mal ein ganz wichtiger Punkt.

00:30:30: Ich hab eben im Vorgespräch über so einen Fall gesprochen, wo ... das war ein Beispiel von der Wissenschaftlerin, die damit quasi in Test gemacht hat.

00:30:39: Die hatte eine gefälschte Studie auf dem Preprint-Server veröffentlicht mit einer nicht vorhandenen Krankheit und dann ist diese Krankheit eben in die großen Sprachmodelle eingeflossen.

00:30:49: Und man konnte die Sprachmodele nach dieser Krankheit fragen was natürlich an Skandal ist.

00:30:54: oder war da sowas ungeprüft?

00:30:57: Sprachmodelle in Anflugzeichen verschmutzen können.

00:31:00: Und das ist wahrscheinlich genau der Punkt, wo eigentlich in dieser, ich sage jetzt trotzdem mal noch, Click-Worker dann ins Spiel kommen?

00:31:05: Also diese Menschen die wahrscheinlich eben abgeschlossenes Studium inzwischen haben um sozusagen die Sprachmodelle sauber zu halten

00:31:13: oder... Ja wir sprechen von Datenarbeiterinnen.

00:31:17: es ist so ein Begriff der Content Moderatoren Data Labellers und vieles mehr fast Der Absichtlich sehr breit ist, weil man häufig versucht die unterschiedlichen Bereiche zu segmentieren und dann verhindert es vielleicht auch dass sich Leute unter einem Dach irgendwie zusammenschließen und für ihre Arbeitsrechte eintreten.

00:31:37: Und wenn's jetzt darum geht so was machen die Menschen eigentlich den ganzen Tag?

00:31:40: Wenn sie für Services wie Chat, GPT, Cloud usw.

00:31:44: also große Sprachmodelle arbeiten aber auch andere Tools... Abstufungen.

00:31:48: Es fängt erst mal damit an, dass Daten generiert werden müssen und gescrayt werden müssen.

00:31:55: Bei der Datengenerierung gibt es etwas ganz perfides, was gang und gäbe ist.

00:32:00: Zumindest weiß ich das aus Kenya, dass Leute angeschrieben werden.

00:32:03: Schick uns hundert Bilder von Kindern denen gerade die Windel gewechselt wird oder schick uns Bilder von Menschen, die in Hut tragen oder den Regenschirm öffnen Videos teilweise auch also wo die Datenarbeiterinnen dazu angehalten werden Aufnahmen ihrer Familien aus ihrem engsten Umfeld zu teilen, damit die eben in die Trainingsdaten einfließen können.

00:32:27: Das ist

00:32:27: was Neues!

00:32:27: Ja das ist neuer... also was sagt neu?

00:32:30: Es ist nicht von gestern aber ein neuerer Trend.

00:32:32: Das habe ich auch schon gesehen.

00:32:34: Das waren Anzeigen auf Social Media dass ich so was ausgespielt bekomme.

00:32:39: Das war ein Anzeigen dafür nach dem Motto, wir schicken dir eine Kamera?

00:32:46: So eine Headcam sieht dann aus wie einen Höhlenlicht eigentlich.

00:32:50: Gibt es Unternehmen, die beschicken einem einen Set damit man seinen Alltag aufzeichnet ist?

00:32:55: Geht das in die Richtung Julia?

00:32:57: Also die Kameras werden dann noch nicht verschickt in Chemie, aber man zeichnet das dann quasi mit dem eigenen Smartphone auf.

00:33:03: Es ist ja ohnehin so wenn man als Freelancer selbstständiger findet, Plattform arbeitet muss man den Rechner selber beschaffen und die Internetverbindung, den Arbeitsplatz Die dienen die davon aus, Smartphone hat dann auch jeder damit.

00:33:17: Es geht so genau in die Richtung Bildbasiert den Alltag.

00:33:21: Das, was man früher von den Texten her kannte.

00:33:24: Dass Texte korrigiert werden und geleibelt werden müssen.

00:33:28: Das ist jetzt schon längst den Schritt weiter.

00:33:30: Da geht es um die Physik für physische KI-Roboter, die selbstständig handeln sollen.

00:33:37: Da habe ich vor Kurzem recherchiert dazu, dass es eine Datenlücke gibt.

00:33:42: Banale Alltagshandlungen, von denen gibt's zu wenig Videomaterial im Internet.

00:33:46: Auf YouTube findest du alles möglich.

00:33:47: Aber meistens sind es Dinge, die was Spezielles sind ... Du würdest ja ... Gut, vielleicht gibts auch Videos zum Windeln wechseln so.

00:33:54: Es gibt viele Dinge oder jemand hat mir gesagt, man sieht nicht auf YouTube wie ein Kind lernt aus der Perspektive des Kindes.

00:34:00: und solche Sachen brauchen die Modelle jetzt.

00:34:02: Und das ist natürlich der nächste Schritt für am Ende vermutlich auch äussbeuterische Arbeit von Menschen, Die sind Dinge, die da noch fehlen.

00:34:13: Absolut und man weiß halt auch nicht wozu werden ... Kann nur mutmaßen wozu diese Videos verwendet werden?

00:34:19: Wie lang werden sie verwendete?

00:34:21: Ins Training von welchen Modellen fließen die ein?

00:34:23: Wie schützt sich die Privatsphäre von den Personen, die abgebildet sind?

00:34:27: oder darauf wird überhaupt nicht Bezug genommen.

00:34:29: Ich hab die E-Mails gesehen, die verschickt werden.

00:34:31: Das sind so ganz rudimentäre E-mails, wo drin steht was gemacht werden soll, was dann bezahlt wird.

00:34:39: Was macht denn so eine Arbeit mit den Menschen?

00:34:41: Ich weiß, Julia, dass ihr sehr gute Kontakte habt.

00:34:46: Unter anderem nach Kenya, dass du auch schon vor Ort warst.

00:34:50: Was macht die Arbeit mit dem Menschen?

00:34:52: Finden sie das gut?

00:34:53: Ist es einfach ein Job, wo man sagt, das ist ein guter Job?

00:34:57: oder wie schauen die da drauf?

00:35:00: Joanne Kinnewe von der Data Labels Association, die acht Jahre lang als Data Labelerin gearbeitet hat.

00:35:06: Zwei Jahrzehnte angefangen und meinte damals war das eigentlich ein ziemlich guter Job.

00:35:11: Man hatte gut bezahlt bekommen, hatte ausreichend Arbeit und mit den Jahren wurde die Bezahlung schlechter.

00:35:21: Er hat sich Stunden vor dem Rechner verbracht um Aufträge zu bekommen.

00:35:24: also viel mehr Menschen sind in den Bereich gekommen.

00:35:28: Hat Menschen Ausgebildet, trainiert.

00:35:32: Sie sagt, dass sie gemeinsam mit den Fantaskan Juge, dessen Kollege von ihr innerhalb von sechs Monaten dreißigtausend Menschen ausgebildete hat also auch so Dimensionen weil sie sich mal hingesetzt haben und mal ausgerechnet haben sowie viele Leute haben wir trainiert.

00:35:46: Also der Job wurde über die Jahre immer schlimmer Und die Materialien, die gesichtet werden müssen.

00:35:52: Also man muss sich vorstellen, wenn man das ganze Internet versucht zu scrapen sind da natürlich ganz viel verstörende Inhalte mit drunter und das hinterlässt... Texte-und

00:36:02: Bilder?

00:36:03: Ja, Texte und Bilder also.

00:36:05: China hat mir erzählt sie wurde auch aufgerufen.

00:36:07: so Schreibt uns einen Text darüber, wie man einen Menschen heutet.

00:36:13: Oder wie würdest du eigentlich ein zweijähriges Kind belästigen?

00:36:17: Beschreib mal, wieso anfängst die Kleidung vom Körper zu reißen.

00:36:21: Sie hatte damals selbst ein einjähriges Kind.

00:36:24: Also zutiefst verstörende Aufgaben, wo man sich auch immer fragt, wozu... Es wird einem ja nie nicht dass es eine Antwort helfen würde.

00:36:32: aber auch diese so warum werde ich gefragt ist diese Aufgaben zu erledigen Und ich saß einmal neben Daniel Motong, einer der ersten Whistleblower.

00:36:43: Der damals für Samer gearbeitet hat versucht hat, Content Moderatoren zu organisieren und dann gefeuert wurde.

00:36:48: Er meinte er kann nicht draußen sitzen weil er sieht ständig Flugzeuge vom Himmel fallen.

00:36:53: also der wirklich eine posttraumatische Belastungsstörung hatte oder nach wie vor hat die wahnsinnig einschränkt im Alltag aufgrund

00:37:00: von Bildern die er gesehen hat im Rahmen von Content Moderationen so was wie elfter September

00:37:06: Genau, der Wurst an Bildern.

00:37:09: Es sind ja nicht vereinzelt Bilder, sondern es ist so.

00:37:11: Tag ein, Tag ausguckt man sich was ausschließlich dieser extremen Inhalte an und dann teilweise Äthiopierinnen aus Kenne heraus moderiert während in ihrem langen Bürgerkrieg getobt hat.

00:37:25: Und dann sieht man wirklich diese Bilder aus der Heimat.

00:37:27: und weil man die Sprache spricht ist man selbst die Person, die die anotiert.

00:37:32: oder wenn irgendwo in der Türkei das große Erdbeben bei dem viele Menschen verschüttet wurden und gestorben sind.

00:37:40: Und es waren dann auch Kontenmoderatoren hier in Deutschland mit türkischen Wurzeln, die sich eben diese Bilder aus teilweise wirklich den eigenen Heimatregionen angeguckt haben.

00:37:49: Das macht was mit einem.

00:37:51: Es gibt eine.

00:37:52: Die Studie, die im Dezember im Jahr ist, wurde rausgegeben.

00:37:55: Da wurden Hundertvierzig Facebook-Contentmoderatorinnen untersucht, klinische Untersuchungen und psychologischen Untersuchung am Kenyatta Krankenhaus in Kenia und alle hundert Prozent von denen wiesen posttraumatische Belastungsstörungssymptome auf.

00:38:10: Gibt es Ansätze, die wirklich helfen?

00:38:16: Ich will nicht zynisch klingen, aber so schlimm wie das ist für die, die die Netzwerke nutzen.

00:38:21: Für die auch ... Also was wie Chat, GPT oder Claude nutzen ist es ja ein Segen dass es diese Content Moderator innen gibt.

00:38:29: Weil das sind ja auch Sachen die lassen sich nicht technisch lösen.

00:38:32: ich finde das ist ein Problem.

00:38:33: deswegen sprechen wir heute darüber dass diese Menschen unsichtbar sind.

00:38:36: also das finde ich jetzt generell das strukturelle problem sodass dies wird so als magic und Technik löst alles dargestellt.

00:38:45: aber das finde je das strukturale problem.

00:38:48: Aber was sind denn Ansätze die diesen menschen wirklich helfen?

00:38:52: können.

00:38:54: Ich meine es gibt ja auch andere Berufe in unserer Gesellschaft wie zum Beispiel Polizisten, Polizistinnen die sich kinderpornografisches Material angucken müssen und da gibt's bestimmte Arbeitsschutzmaßnahmen also längere Pausenzeiten besondere Urlaube um das verarbeiten zu können psychologische Betreuung, auch Notfallbetreuung auf die man zugreifen kann.

00:39:18: oder auch bei Soldaten und Soldatinnen gibt es einfach einen Gesundheitsschutz den man etabliert hat der Menschen davor schützt an ihre Arbeit zu erkranken.

00:39:26: Und sowas müsste man einfach mal erproben also mit dem Fall dass man irgendwie in Sekundentakt hundert davon extreme Aufnahmen sieht.

00:39:36: das ist natürlich anders gelagert als jetzt in der Polizei oder im Militär.

00:39:40: Aber da gibt es schon Maßnahmen, also Grenzen dessen was sich Menschen aussetzen müssen zum Beispiel klar zu sagen okay das ist das Limit an dem was man an den Menschen zumuten kann oder auch schon im Recruiting.

00:39:53: Das war auch etwas Daniel Motong immer gefordert hat die Resilienz abzuklopfen.

00:39:57: Also es gibt Menschen Resilienter, was solche extremen Inhalte betrifft als andere und da einfach schon im Vorfeld bevor die ersten Materialien sehen bestimmte Tests einzuführen neben diesen Gesundheitsschutzmaßnahmen.

00:40:13: Aktuell gibt es so Wellbeing Coaching in den Firmen wo einem dann so artene Übungen an die Hand gegeben werden aber... Das ist doch fast

00:40:22: schon zynisch oder?

00:40:24: Also jetzt atme doch mal durch irgendwie.

00:40:26: also ich hab das Gefühl dieses dass diese auf ganz Linien nicht gesehen werden, also weder als überhaupt Teil des Prozesses und auch wie relevant es eigentlich ist.

00:40:35: Noch das Leid gesehen wird und auch antizipiert wird.

00:40:40: Wie du sagst die werden einfach reingeschmissen.

00:40:41: Du bekommst dann halt irgendwie diese Inhalte und musst halt einfach machen ohne Vorwarnung und eben ohne solche Gespräche.

00:40:48: Also dieses Nicht-Gesehenwerden zieht sich so durch irgendwie.

00:40:51: Und ich hab mich jetzt grad gefragt, was ist eigentlich ... Also, was is die Lösung?

00:40:54: Du hast schon gesagt, klar, das Ernst daneben, wie ich höre übrigens viel von deutschen Ermittlerinnen, die sich mit Kinderpornografie beschäftigen müssen und wie schlimm es ist.

00:41:03: Das ist schon ein Ding.

00:41:04: Ich hab mich auch gefragt, ob wir ... Weil das ja noch mal so eine aktuelle Form der Ausbeutung war halt doch ganz viel davon im globalen Süden stattfindet?

00:41:13: Sonst können sich's die KI-Firmen gar nicht leisten wenn sie da realistisch dafür bezahlen müssten.

00:41:18: Die in Kenia glaubt damals einen zwei Dollar am Tag bekommen teilweise.

00:41:23: Sonst gäbs es ja gar nicht!

00:41:24: Also ich frag mich, ob nicht doch ne Vorderung sein müsste.

00:41:27: hey, das kann nicht sein dass das einfach die Ausbeuchtung vorträgt und weiter verschärft.

00:41:31: aber Die Frage ist ja, was dann die Konsequenz daraus ist.

00:41:34: Wie siehst du das denn?

00:41:35: Naja,

00:41:36: ob Sie es sich nicht leisten können.

00:41:37: Das sind die reichsten Unternehmen in unseres Planeten und das sei dahingestellt!

00:41:41: Also ich habe sie wollen, dass

00:41:43: sie mich leisten.

00:41:44: Entschuldigung, da hätte KI vielleicht mal einen realistischen Preis und dann wäre halt die Frage... Was machen wir damit?

00:41:50: Das ist vielleicht auch kein Fehler.

00:41:53: Absolut, absolut.

00:41:54: Und was ich vonseiten der Politik hier zu Lande oft gefragt werde ist so ja okay die Arbeitsbedingungen und die Schäden die das hinterlässt bei den Leuten da vor Ort.

00:42:03: aber jetzt nennen uns doch mal so die Auswirkungen auf die Nutzer-und-Nutzerinnen.

00:42:06: also was so Privatsphäre Einschränkungen Data Leaks usw.

00:42:12: angeht Und ich muss ehrlich sagen, es macht mich schon sprachlos.

00:42:16: Dass man dann so ... Ah ja?

00:42:17: Diese ausbeuterischen ... Dann blickt man so drüber hinweg und eigentlich geht's einem drum, was ist jetzt eigentlich

00:42:23: ... Aber die meine Inhalte an!

00:42:25: Ist das nicht viel schlimmer?

00:42:26: Also dass ja ein drittes Mal nicht gesehen werden, das gibt's ja nicht.

00:42:30: Genau also ich denke, es braucht erst mal wirklichen Umdenken.

00:42:34: Also dass man versteht, Innovation, Fortschritt nicht weiter auf der Ausbeutung von Menschen aufbauen kann.

00:42:43: Auch nicht auf die Ausbeuchtung von ganzen Bevölkerungen in Ländern.

00:42:47: Das sind ja wirklich in Kenia ganz viele junge Menschen mit Studienabschlüssen, die sonst was machen könnten, die dann verbrannt werden und ausgebrannt wird im Sektor.

00:42:55: Also auch ein Umdenken hinzu ist eine Ungerechtigkeit, die so nicht weiter bestehen darf und kann also im Jahrhundert für eine Technologie bei der wir eigentlich ganz selten eine Kosten-Nutzenabwägung treffen.

00:43:09: Also an welchen Stellen bringt uns denn KI wirklich den gesellschaftlichen Mehrwert oder die Mehrwerte, die wir uns davon erhoffen?

00:43:18: Und wie viel ist einfach Nutzung in Bereichen und das bringt kaum jemanden weiter zu stören über gleichzeitig den Planeten und beutet Menschen aus, die dahinter arbeiten.

00:43:30: Und ein Hergehend mit dieser Frage zu, wie betrifft es unsere Nutzer und Nutzerninnern?

00:43:35: Ist auch so eine Verschiebung im politischen Diskurs, dass man weg von.

00:43:39: wir wollen Menschenrechte schützen hinzu.

00:43:41: Wir wollen Innovationen ermöglichen!

00:43:43: Also das sieht man wenn man sich so Lieferketten-Sorgfalsgesetze und die Debatten drum herum anguckt, weil da wurde eigentlich was verhandelt, was ganz gut ist Und es soll jetzt aber abgeschwächt werden, soll durch eine europäische Regulierung ersetzt werden.

00:43:58: Wo dann nur mehr ganz wenige große Unternehmen betroffen wären und man versucht so... die Unternehmen aus der Pflicht zu nehmen sukzessive.

00:44:07: Also wenn wir gefragt werden, so naja wer lässt denn in Deutschland Daten anotieren?

00:44:11: Muss man eigentlich fragen, wer nicht?

00:44:12: also weil eigentlich alle großen Unternehmen, die in autonomen Farmen, Pharmaindustrie und so weiter arbeiten brauchen das alle als Dienstleistung.

00:44:21: Und dann wird aber nie darüber gesprochen wo machen sie das unter welchen Bedingungen und wie können die Bedingung verbessert werden?

00:44:29: Ihr habt in einem Magazinbeitrag auch afrikanische Arbeiterinnen selbst zu Wort kommen lassen, sogar mit Gedichten.

00:44:38: Und es fand ich irgendwie einen spannenden Weg, fand das sehr interessant.

00:44:42: Warum habt ihr das gemacht?

00:44:44: und sag' ich mal nicht was gemacht?

00:44:46: Mit Beikendiagrammen und Kuchendiagramm!

00:44:50: Ich glaube, beides hat seine Berechtigung.

00:44:52: Ich glaube auch die Datenerhebung und zu zeigen ist okay.

00:44:55: wir sind hier große Studien und Daten erhoben aber was wir gesehen haben ist dass viele der Datenarbeiterinnen Anfragen von Journalisten und Journalistinnen bekommen haben die dann wiederum ihre Geschichten erzählen.

00:45:06: etwas wichtiges aber es gab so ein bisschen die Lücke in die Menschen selbst zu Wort kommen, zu lassen im Sinne von sie erzählen ihre eigenen Geschichten und zwar in den Formaten, in denen sie gerne erzählen wollen.

00:45:19: Manche wollten auch interviewt werden aber in einer Form, die eine bestimmte Selbstermächtigung vielleicht auch Verarbeitung des Geschenens zulässt und natürlich auch so ein bisschen Verdienst dann einbringt.

00:45:34: also es sind alles bezahlte Beiträge.

00:45:39: Es ist ganz gut angenommen worden, die Menschen und ihre Geschichten.

00:45:43: gerne erzählt, natürlich ist immer die Frage so wie schafft man dann auch Reichwerte zu generieren.

00:45:48: Uns ging es auch darum Frauen zu baut kommen zu lassen.

00:45:53: Sechzig Prozent der Menschen in dem Bereich arbeiten im Bereich Datenarbeits hin Frauen und da wirklich nochmal herauszuarbeiten.

00:46:02: Kehrarbeit dieser Job, der ein angepriesen wird als du kannst das von Zuhause aus erledigen.

00:46:08: Wie lässt sich das wirklich vereinbaren?

00:46:09: Dann dieses große, dieses große shiny Woman in Tech-Titel, der natürlich auch sehr verlockend ist.

00:46:16: Schanke Neua hat erzählt, ich wollte mir woman in tech werden und ich dachte dass das ein guter Einstieg um da so eine Karriere aufzubauen.

00:46:23: In Wirklichkeit ist es ne Sackgasse und die Geschichten, die Gedichte sind schon sehr eindrücklich aber auch teilweise sehr schwer, die Wiedenschwer auf allem wenn man die mal gelesen und mitbekommen hat

00:46:37: wirklich voll bitter.

00:46:40: Also auch das, was du gerade gesagt hast.

00:46:42: Ich wollte nur woman in Tech werden und dann bleibt man da hängen bei so einem echt richtig, richtig schlimmen Job.

00:46:49: Seht ihr andere Implikationen?

00:46:52: Begleiterscheinungen der aktuellen Innovationen die nicht gesehen werden?

00:46:57: Was sind denn die anderen Themen, die euch beschäftigen?

00:47:00: Naja also der ökologische Fußabdruck ist auf jeden Fall eine Implication, die immer näher auch an unsere Städte an unsere Alltagsrealitäten rückt mit den großen Rechenzentren in Heiberskehlen, die gebaut werden.

00:47:14: Ich war vor zwei Wochen in Amsterdam und da werde ich gerade ein großer Heiberskäler trotz Moratorium des Zw.

00:47:21: Jahrzehnts erlassen wurde wird ein weiterer Heiberkäler gebaut.

00:47:25: Da gibt es noch juristische Schlupflöcher Der, wenn er ans Netz geht, gleich viel Strom verbrauchen wird wie die Stadt Amsterdam.

00:47:30: Die Stadt Amsterdam kann dann einfach Zehntausende Wohnungen an öffentliche Gebäude nicht bauen und eine Freundin Corrine Kers hat das ganz gut auf den Punkt gebracht.

00:47:38: Die Researcherin meinte so it's a everybody problem.

00:47:42: also wo man immer noch dachte es ist soweit weg und ja es betrifft irgendwie andere.

00:47:48: Wenn dann irgendwann die Schule in der Nachbarschaft nicht mehr gebaut werden kann, die neue, weil die Netzkapazitäten das nicht hergeben.

00:47:53: Dann ist es wirklich ein Everybody Problem und dann muss es auch so begriffen und so behandelt werden.

00:47:59: also wenn private Infrastruktur priorisiert wird vor öffentlicher Infrastruktur, dann wird es ein Problem für uns alle und es wird ein schnelleres Problem als vielleicht Die voranschreitende Klimakrise, wobei die bekommen wir ja auch sehr nahe mit dieser Tage, wo es sich gerade in den Großstädten hat.

00:48:19: Aber ich hoffe dass das noch mal zu einem ganz anderen Aufwachen führt um zu einer Diskussion rund um KI, in der wirklich stärker hinterfragt wird.

00:48:29: so was bringt uns diese Technologie und wo müssen wir sie begrenzen und beschränken weil wir ansonsten ganz viele Freiheiten und demokratische Werte aufgeben?

00:48:39: Das wollte ich gerade fragen, wie kann man das schaffen?

00:48:43: Dass diese Diskussion ernster genommen wird.

00:48:45: Wie du sagst, dann kommt es in die Politik und werden Gesetze durfe gemacht.

00:48:48: Dann kommt jemand und schreit ... Wir können keine Innovation mehr machen!

00:48:52: Alles machen der Datenschutz- und DKI-Verordnung.

00:48:55: Und alle machen alles kaputt.

00:48:57: Dann gibt's diesen Omnibus-Unzeuger mit alles relativiert.

00:49:00: Europa verliert

00:49:01: den Anschluss.

00:49:01: Genau.

00:49:01: Also ist ja auch was ein sehr viel zitiertes Argument, dass wir den Anschluß verlieren grade,

00:49:09: Genau.

00:49:09: Und die Frage ist, wie können wir das eigentlich hinbekommen?

00:49:11: Dass es gesehen wird, die Relevanz von diesen Themen...

00:49:16: Ich glaube wirklich immer zu hinterfragen so den Anschlusswochern welches Wettrennen, welche Art von Innovationen also zu gucken was mit uns da eigentlich das ist diese Karotte die uns vor der Nase hängt und die wirklich genauer zu betrachten.

00:49:31: Wollen wir das?

00:49:32: Ist es erschredetenswert, was gehen für Implikationen damit einher.

00:49:36: In den USA hören wir schon vom viel zitierten KI-Backlash.

00:49:39: also dass Leute diese Versprechungen die gemacht wurden von seitens der Politik dass sie nicht ankommen in den Kommunen, in den Törfern wo diese Rechenzentren aus dem Boden gestampft werden.

00:49:51: Dass einige wenige ihren Wohlstand ausbauen und davon profitieren Und das ganz viele aber sagen.

00:49:57: so bei mir kommt da eigentlich nichts an außer dass ich mir Sorgen mache mir meinen Job weggenommen wirklich ersetzt werde und so weiter.

00:50:05: Arbeit kann sinnstiften Zeiten führt aber auch dazu, dass Menschen für ihre Rechte einkreten, dass sie sich organisieren.

00:50:12: Und natürlich haben Multi-Milliardäre kein Interesse daran das es passiert.

00:50:17: die fröhenden dem Kapital.

00:50:19: Die wollen, dass das Kapital im Zentrum steht.

00:50:21: also Da viel stärker reinzugehen, zu hinterfragen und was wir in letzter Zeit machen.

00:50:28: In Bibliotheken, in öffentliche Räume zu gehen mit ganz unterschiedlichen Menschen zu den Themen zu diskutieren die vielleicht nicht jedes Policy Regulierungsproposal das in Berlin oder in Brüssel verfasst wird verfolgen aber sich wirklich anzugucken zu diskutierend.

00:50:46: Wie nimmst du das wahr?

00:50:46: Wovor hast du Angst und wie könnte eine andere Zukunft aussehen.

00:50:50: Wie sehen Alternativen aus, die nicht auf Ausbeutung fußen?

00:50:54: Wie sieht ne Begrenzung aus?

00:50:57: Das ist ja wirklich ein schönes Projekt was ihr gerade macht!

00:50:59: Das können wir auch gerne noch mal in den Show Notes verlinken.

00:51:01: findet aktuell aber nur in Berlin statt?

00:51:03: oder Julian dass er in öffentliche Bibliotheken geht und dort diskutiert?

00:51:08: In Amsterdam, an der OBA in einer der größten Bibliotheken Europas hatten wir jetzt auch eine Veranstaltung.

00:51:13: Wir sind gerade dabei, Fun to Raisen um in andere Städte noch mal kleinere Orte zu gehen.

00:51:20: In Berlin haben wir auch versucht Lichtenberg Spandau Neukölln nicht nur in Berliner Mitte und Kreuzberg und Prenzwerberg zu sein also da auch im Gebiete zu gehen Wo Leute einem sagen, endlich muss man mal nicht nach Mitte fahren für so eine Veranstaltung.

00:51:35: Und ich habe jetzt aber am Wochenende schon mit jemandem gesprochen.

00:51:38: Wir meinten auch in Brandenburg hier die Bibliothek, die hätte da auch großes Interesse dran.

00:51:42: Also wir versuchen das auszuweiten und haben aber erst einfach mal da angefangen wo wir selbst vor Ort sind was auf keinen Fall heißen soll dass es auch in Zukunft unser Fokus wird

00:51:52: Bei allem, was jetzt gerade so düster ist.

00:51:55: Gibt es etwas, was dich optimistisch stimmt?

00:51:57: Siehst du irgendwie Licht im Horizont?

00:52:02: Wir starten jetzt gerade also super, startet jetzt gerade ein Projekt mit der, mit dem Distributed AI Research Network das von Timnit Gebro gestartet wurde und Datenarbeiterinnen die sich lokal organisieren.

00:52:16: Das Projekt nennt sich Reimagining DataWork.

00:52:18: Es geht darum, internationale Solidarität zwischen den einzelnen Movements in einzelne Bewegungen herzustellen die stärker zu vernetzen und zu überlegen in welche Richtung müsste es gehen damit der Sektor ein menschenwürdiger ein fairer ein guter Arbeitsplatz Arbeitgeber wird?

00:52:37: Und da ziehe ich gerade meine Energie draußen mit diesen Arbeiterinnen und Aktivistinnen mich zusammenzusetzen, die zum Beispiel eine globale Gewerkschaft im Bereich Datenarbeit starten wollen.

00:52:49: Also wenn Millionen dieser ArbeiterInnen sich zusammentun – ich glaube das hat eine ganz große Macht und kann viel Druck auf die Unternehmen aus.

00:53:01: üben und kann vielleicht auch einiges zu Fall bringen.

00:53:04: Also daraus ziehe ich gerade meine Energie, und ich habe größten Respekt vor den Menschen die aktivistische Arbeit machen und damit in ihren Ländern wirklich sehr viel riskieren.

00:53:14: Und was wir DARE machen ist zu unterstützen und ganz viel an Geld dann weiterzuleiten – an diese Workalette-Movements, die die Gelder für den Aufbau ihrer lokalen Infrastrukturen brauchen.

00:53:26: Es steckt ja auch voll viel Potenzial eigentlich drin, diese Narrative zu entlarven.

00:53:30: Ich finde das hat mich gerade total beeindruckt.

00:53:32: Du gesagt hast irgendwie gesagt wir werden abgehängt und die Leute sagen wenn mir kommt gar nicht so richtig was an von diesen tollen Innovationen und wo soll es auch herkommen?

00:53:42: Sondern ist wirklich eher da kommen Sorgen und Probleme auf mich zu um das nochmal so klarzumachen dass dieses nicht abgehänkt werden im Zweifel genau das bedeutet.

00:53:52: Was soll die Privatperson ... Denn für große Vorteile davon haben die jetzt, wie gesagt ... ihre Schule sich Sorgen macht oder um ihren Job.

00:54:01: Ja!

00:54:02: Ich bin gerade dabei im Paper zu lesen, so cognitive surrender.

00:54:05: Also wohin führt uns das?

00:54:07: Gehen wir uns zunehmend kognitiv auf oder werden wir einfach schlechter darin bestimmte Dinge zu tun?

00:54:14: und dann am Ende gibt es ein paar Firmen die einem das abnehmen.

00:54:19: aber über diese Verdumungsdebatten gibt's ja auch viele.

00:54:23: ich glaube da noch mal Aufmerksamien zu gucken.

00:54:25: was macht eigentlich Zusammenleben, Alltag aus.

00:54:29: Welche Reibung ist eigentlich eine wünschenswerte Reibungen?

00:54:33: Also die Unternehmen versuchen einem ja Reibungs abzunehmen in dem sie sagen so, ach du musst dich gar nicht mehr mit anderen Menschen unterhalten, muss nicht mehr vor der Tür gehen kein Buch mehr lesen.

00:54:43: Ist das alles Reibun, wie willst du doch nicht in deinem Leben?

00:54:45: und ich muss sagen vielleicht will ich die doch, vielleicht macht genau das mein Mensch sein Aus und da nochmal drüber nach zu denken was wollen und was brauchen wir an Reibunk?

00:54:54: und wieso muss und kann uns das eigentlich nicht alles abgenommen werden.

00:54:58: Wieso ist es gar nicht erstrebenswert?

00:55:00: Ja, vielen Dank Julia für diese klugen Gedankenimpulse und vor allem auch dafür dass du den Vorrang hier aufgezogen hast ins Innern von diesem Mechanical Turk dem wir heute ausschnittsweise reingeguckt haben.

00:55:16: Wir werden einiges zu dir und vor allen zu eurer Arbeit verlinken in unseren Shownotes, wenn ihr euch interessiert.

00:55:22: Auch zum Beispiel für diesen Artikel, den Eva zitiert hat aus dem Time-Magazin wo das so zum ersten Mal ins öffentliche Bewusstsein reingerückt ist.

00:55:31: also werden wir einiges verlinken und hoffen dass wir für euch diese Arbeiterinnen ein Stück weit sichtbarer machen konnten.

00:55:43: Ja vielen Dank!

00:55:44: Vielen Dank für die wichtige Arbeit war wirklich super interessant mit dir.

00:55:49: Ja, wenn ihr Fragen habt, Hinweise, Ideen meldet euch gerne bei uns.

00:55:54: Fragen an Julia, kann man sie auch direkt erreichen oder über uns?

00:55:58: Wir bleiben hier in Diskussion!

00:55:59: Vielen lieben Dank.

00:55:59: Danke

00:56:00: euch

00:56:01: und damit sind wir schon am Ende von unserer Folge von Baytalk Tech ein CT-Podcast immer mit Fores sonst auf Mastodon & LinkedIn hoch aktiv.

00:56:09: also da könnt ihr uns erreichen Und wir freuen uns, wenn ihr wieder

00:56:19: einschaltet.