MixTalk ! Macht KI Social Media kaputt? [Gast: @aliciajoe Tech like Vera] !Thema

KI-Einfluss auf soziale Medien: Auswirkungen und Risiken

ARD
- 03.12.25 - 02:15:21 - 7.492 - Just Chatting

• Zusammenfassung
• Original

Die Analyse untersucht, wie KI-gestützte Systeme Social-Media-Ökosysteme beeinflussen. Schwerpunkte sind algorithmische Entscheidungsprozesse und die automatisierte Erstellung von Inhalten. Diskutiert werden sowohl Effizienzgewinne als auch Risiken wie Desinformation und Nutzerautonomie. Der Fachbeitrag bewertet technologische Entwicklungen und ihre gesellschaftlichen Konsequenzen für digitale Kommunikationsräume.

Just Chatting

00:00:00

Einleitung und Themenstellung

00:09:54

00:09:54 Und damit einen wunderschönen guten Abend hier bei der ARD auf Twitch. Schön, dass ihr wieder mit am Start seid. Ich bin keine KI, ich bin keine künstliche Intelligenz, aber wir sprechen heute über KI und zwar darüber, ob KI Social Media kaputt macht. Darüber sprechen wir. Und ich kann euch sagen, wir haben wirklich extrem spannende Gäste heute mit am Start. Übrigens...

00:10:18 Schreibt mir doch mal in die Kommentare, was euer erstes Wort ist, wenn ihr an KI und Social Media denkt. Ich muss sagen, ich denke da jedes Mal, ich bin genervt und fasziniert zugleich. Also wie viele KI-Videos von den Katzen, die hinterm Tresen stehen und Bedienungen oder Leuten, die was bestellen, ins Gesicht kratzen. Ich weiß nicht, wie viele davon ich schon gesehen habe und ich bin genervt und fasziniert zugleich. Schreibt mir mal euer erstes Wort in den Chat, lieber Chat, was euch einfällt zu KI.

00:10:48 auf Social Media. Würde mich mal interessieren. Buchstaben Salat schreibt Kapitalismus. Team Wolf, Chet Chubiti, mein bester Freund. Vielleicht ein paar mehr Wörter, aber gut. Puh, Oliver, Horrorvorstellung. Echt, ja. Es gibt auch echt viele schlimme Sachen, muss man sagen. Und sand.com, schrecklich. Ja. Sass. Sass, auch gut von unserer ARD-Marie, die auch mit dabei ist. Ja, also nicht so viel positive Sachen, ne?

00:11:16 MxMaster schreibt, hässliche, lieb und lebenslose, lebenslose Bilder. Okay. Finesio schreibt, nicht gut, wenn man auf Details schaut. Das ist ja auch spannend. Sora 2 ist euch vielleicht auch ein Begriff. Also womit ja inzwischen wirklich krasse Videos erstellt werden können. Die sehen so gut aus. Und wir machen übrigens heute im Laufe des Streams da auch ein Experiment zusammen mit euch. Denn...

00:11:42 Wir möchten mit euch ein StarRide 2 Video produzieren und wollen gemeinsam mit euch ein Prompt erstellen. Das machen wir ungefähr in so einer Stunde, gemeinsam mit euch. Das erarbeiten wir mal zusammen. Und, aber Dalilu, Dalilu Kalu. So, schreibt auch noch Fortschritt. Auch spannend, auch mal was Positives. Und Buritan meint noch, mein erstes Wort, ich blende es mal ein, beim Thema KI ist Erdbeere. Erdbeere?

00:12:07 Erdbeere? Weil KI es nicht hinkriegt, die Anzahl der Es zu zählen. Ja, ich schreibe auch nicht. Und Hein Luther schreibt auch noch, KI ist für mich ein, Moment, Brandbeschleuniger.

00:12:20 Bin in der IT-Sicherheit tätig. Oh, das ist auch spannend. Da habe ich auch letztens erst was zu gelesen, dass eigentlich die ganzen Unternehmen, all ihre Mitarbeiter eigentlich darauf einstellen könnten, sollten was eigentlich so KI-generierte Videos anstellen können, auch sicherheitslückentechnisch. Wir haben übrigens auch ein bisschen später noch im Stream noch einen Softwareentwickler zu Gast. Das kann ich schon mal spoilern, der das Ganze auch relativ positiv sieht, das ganze Thema. Also hat auch nicht nur negative Seiten.

00:12:48 Und Kai F. schreibt auch noch, dass mit der Erdbeere war in einem Harald Lesch-Video. Ah, die guten Kollegen vom ZDF. Gut, dass wir hier in der ARD sind. Bin ich überhaupt escht? Ob ich escht bin, hat man, glaube ich, in meinem Dialekt. Das bekommt eine KI nicht hin. Die bekommt man in Rheinland-Fälzer-Dialekt nicht raus. Wishmaster, würde ich sagen. Ich bin auf jeden Fall echt. Leute.

00:13:10 Bevor wir aber nachher gemeinsam ein Sora2-Video-Prompt unterstellen, möchte ich euch in der Stelle noch sagen, dass ihr euch wie immer hier beim Mixtalk dazuschalten könnt per Stream Together. Das heißt, diskutiert mit uns mit. Erzählt mir einfach, was euer verrücktestes KI-Video war, was ihr bisher gesehen habt oder was euch überrascht hat oder wo ihr selbst noch drauf reingefallen seid. Für mich ist es der Typ, der immer zurückreist in so 2000 Jahre und dann irgendwie, naja, Geschichtswissen.

Vorstellung der Expertin Vera

00:13:37

00:13:37 mutmaßliches verbreitet. Also, schaltet euch dazu, auch wenn es ganz kurz ist, für ein, zwei Minuten. Das wollen wir mit euch zusammen besprechen. Und ich würde vorschlagen, wir holen unsere erste Gästin dazu, mit der wir den ersten Aufschlag machen und über das Thema hier quatschen, ob eben KI Social Media kaputt macht. Hallo Vera, schönen guten Abend.

00:13:59 Ihr könnt dich noch nicht hören, wahrscheinlich musst du dich einmal unmuten und dann hören wir dich auch perfekt. Solange du das machst, kann ich sagen, Vera ist Creatorin auf YouTube und Instagram und macht dort ganz viel zum Thema Tech und auch inzwischen vermehrt zur KI. So ist es, Vera. Genau. Jetzt hören wir dich. Okay, gut. Ich war eigentlich schon unmuted, aber gut. Schön, dass du mich hörst. Hi. Jetzt können wir dich hören. Hi. Schön, dass du mit dabei bist und schön, dass du mit am Start bist. Bist du echt oder bist du KI?

00:14:29 Ich bin echt, auch wenn man mittlerweile munkelt unter meinen Videos, ob ich nicht auch eine KI bin, aber ja, ich bin echt. Okay. Ja, es gibt ja inzwischen auch so ganz viele Creator, wo ich mir selbst auch manchmal gar nicht sicher bin, sind die echt oder nicht oder Creator, die tatsächlich ja auch KI-Versionen von sich erstellen und die dann irgendwie in so, ja, auch 200, 300 Jahre zurückreisen lassen. Und gleichzeitig gibt es aber auch noch die echten Videos von den Leuten. Das gibt es ja. Ja, ja, absolut.

00:14:58 Du, Vera, wir müssen ein paar Sachen klären. Du besprichst ganz viel Tech auf deinen Kanälen und beschäftigst dich auch viel mit KI, aber ich würde gerne mit dir mit einer Sache starten, weil wir haben es eigentlich gerade schon angesprochen, die Frage war sehr relativ flapsig gestellt, so bist du überhaupt echt, aber tatsächlich hast du ja auch schon Erfahrungen gemacht mit Deepfakes, auch negative Erfahrungen. Was ist dir da passiert? Vielleicht willst du davon mal berichten.

00:15:23 Kann ich gerne machen. Mir ist passiert, dass ein Deepfake von meiner Stimme erstellt wurde und damit eine Firma Werbung gemacht hat für ihr Produkt. Und das Ganze ist folgendermaßen abgelaufen. Ich hatte vor einiger Zeit, vielleicht erinnern sich da noch ein paar Leute dran, das war so zu der Zeit, als damals diese Actionfiguren...

00:15:45 rumging durch Social Media. Da hat jeder gefühlt, jeder hat irgendwie auf Instagram so seine eigene kleine Actionfigur gepostet. Die so verpackt waren, ne? Genau, wo dann immer so kleine Accessoires dabei waren, die man mit Chatty-Bitty halt erstellen konnte. Und mich hat das irgendwann so genervt, dass ich dazu halt ein Reel gepostet habe, dass wir KI für sowas halt nutzen, obwohl Künstliche Intelligenz ja wirklich für viel, viel mehr eigentlich einsetzbar wäre.

00:16:13 und wir die Ressourcen, die mit KI halt einhergehen, halt für sowas verschwenden irgendwie. Und dieses Video wurde dann von einer Firma genommen und da wurde der Anfang quasi, die Hook von dem Reel, wurde beibehalten und danach hat dann eine KI-generierte Version meiner Stimme eben Werbung für deren App gemacht und das Ironische war dann eben, dass man mit genau dieser App diese Actionfiguren erstellen konnte.

00:16:42 Ja, genau. Und deshalb dann hat meine Stimme quasi dann Werbung dafür gemacht und wollte das eben dann verkaufen und dass die Leute das eben runterladen, diese App, und eben auch nutzen. Und am Ende gab es, glaube ich, drei, vier verschiedene Versionen von dieser Werbeanzeige und die ist eben auf Instagram kursiert.

00:17:00 Das heißt, du hast eigentlich das auch am eigenen Leib erfahren, was viele befürchten oder was eigentlich ja auch schon relativ easy zu machen ist. Wie ist es, davon dann betroffen zu sein? Wie war das für dich, dieser erste Moment, deine eigene Stimme zu hören und das dann zu sehen? Also das war im ersten Moment sehr beängstigend und einfach ein sehr, also es war einfach ein Gefühl von Kontrollverlust, weil ich auch...

Rechtliche Schritte gegen Deepfake-Missbrauch

00:17:28

00:17:28 direkt natürlich in meinem Kopf abgespürt habe, wer hat das alles gesehen? Wer glaubt das? Und was mache ich dagegen? Wie bekomme ich diese Werbeanzeigen weg? Weil damals dachte ich noch, diese Werbeanzeigen, die waren so zwischen Instagram-Stories geschaltet. Also heißt, man musste da so zufällig drauf stoßen. Und ich dachte, das wird einem eben zufällig ausgespielt, bis ich dann von einem Follower irgendwann auf die Meta-Ads-Library aufmerksam gemacht wurde.

00:17:57 Da kann man dann eben alle Werbeanzeigen einsehen, die verschiedene Firmen auf den Meta-Plattformen, also Instagram, Facebook, WhatsApp gibt es glaube ich noch keine Werbung, aber kommt bestimmt irgendwann. Da kann man eben einsehen, was da für Werbungen gescheitert wurden und da habe ich dann eben genau diese Anzeigen auch gefunden. Es gibt einige Fragen dazu im Chat. Vilas schreibt zum Beispiel, was kann man gegen sowas machen? Kann man da jemanden anzeigen? Hast du jemanden angezeigt dann?

00:18:25 Also ich habe das große Glück ja, als Content Creatorin ein Management im Rücken zu haben, die dann eben eine Abmahnung an diese Firma geschrieben haben und also das war eine Firma, die in den USA ansässig war und die Abmahnung hat Gott sei Dank schon ausgereicht, also wir haben da dann eben auch mit rechtlichen Schritten und so weiter gedroht und ein paar Tage später waren die Werbeanzeigen dann eben runtergenommen von dieser Firma auf die Abmahnung hin.

00:18:54 Und ja, was man als normale, also als Nicht-Content-Creatorin auf diesen Plattformen eben macht, wenn man auf sowas aufmerksam wird, das ist nochmal eine andere Sache. Da müsste man jetzt sich rechtliche Hilfe irgendwo wahrscheinlich dann suchen. Das ist gut, das zeige ich euch gleich. Wir haben da auch was vorbereitet, gleich mehr dazu. Bartosz hat aber noch geschrieben, einen Abend, glaube ich, gerade dazu bekommen. Hast du dafür Geld bekommen eigentlich? Oder irgendeine Entschädigung oder sowas? Gar nichts.

00:19:24 Nichts. War das so eine Forderung? Nee, das war keine Forderung. Mir ging es erstmal wirklich darum, dass diese Sachen runtergenommen werden, weil es war ja nichts, wofür ich persönlich Werbung machen würde. Ich suche mir meine Kooperationspartner sehr genau aus und das zählt auf jeden Fall nicht dazu. Deswegen wäre es für mich da auch nicht in Frage gekommen, da quasi einfach Geld dafür zu nehmen und dann kann die online bleiben.

00:19:52 Die Mirkin hat noch dazu geschrieben, Stimmen klonen ist hart. Moment, ich zähle es kurz ein. Man kann wie so oft bei KI praktisch nicht nachweisen, dass überhaupt KI genutzt wurde. War deine Stimme wirklich so zu 100 Prozent, wie deine Stimme klingt oder gab es eine leichte Abweisung? Also wie hast du das dann auch nachweisen können?

00:20:14 Ich habe, also das Gute ist erstmal, die Firma hat nicht danach gefragt, ob das jetzt wirklich meine Stimme ist. Ich glaube, es lag halt auf der Hand, dass es meiner Stimme recht ähnlich war, weil sie ja eben noch so ein paar, so drei, vier, fünf Sekunden am Anfang mein Gesicht eingeblendet haben. Deswegen lag dann natürlich auf der Hand, dass sie auch meine...

00:20:39 Stimme als Basis für die KI-generierte Version dieser Stimme benutzt haben. Man hat es auch gehört. Der Knackpunkt ist, das hat sich alles im Mai 2025 ereignet. Da war diese ganze Stimmen-Deepfake- und auch Video-Deepfake-Geschichte noch auf einem etwas anderen Level, als es jetzt, Dezember 2025, der Fall ist. Das hat sich ja innerhalb dieser paar Monate wirklich rasant weiterentwickelt.

00:21:07 Ja, man hat damals auf jeden Fall gehört, dass es nicht meine Stimme war, allein dadurch schon, dass ich angefangen habe, die Leute zu siezen. Und man hat es einfach an der Tonqualität auch gehört. Mir wurde aber auch zugetragen, unter anderem von FollowerInnen, von mir und auch von meiner Familie, dass man es im ersten Moment nicht erkennt, wenn man nicht darauf achtet.

00:21:31 Und ich könnte mir vorstellen, dass wenn jetzt nochmal so eine Werbeanzeige gediebfakt würde mit der aktuellen technologischen Entwicklung, dann kann man da bestimmt kaum noch einen Unterschied feststellen.

00:21:45 Ja, und ich meine, Leute, die was ins Internet hochladen, da sind tausende Videos da, alles Trainingsmaterial, mehr oder weniger. Da gibt es auch ganz viele rechtliche Problematiken ja auch, aber dazu später ein bisschen mehr. Aber Amari hatte nochmal gefragt, wie sieht es eigentlich rechtlich aus, strafrechtlich wegen Persönlichkeitsrechten und privatrechtlich? Als wäre es geplant gewesen, diese Frage, war sie aber nicht. Dann wird dazu ein Video vorbereitet von der Rechtsexpertin Vivian.

Urheberrecht bei KI-Inhalten

00:22:12

00:22:12 Was wir euch gerne mal zeigen würden, tatsächlich genau zu dieser Frage bzw. zu diesen Fragen zeigen wir euch jetzt mal in einem Video, was es da mit Deepfax auf sich hat, so rein rechtlich. Und zwar lautet da die Frage an Sie, wie weit gilt das Urheberrecht bei KI-generierten Bildern, Texten oder Videos?

00:22:33 Ja, eine interessante Frage, wobei sich das in unserem Rechtssystem quasi gar nicht geändert hat durch KI. Wir haben immer noch ganz normal das Urhebergesetz und danach sind persönlich geistige Schöpfungen immer schützenswert im Urheberrecht. Das heißt, genau dann haben wir ein Werk.

00:22:49 Und ja, das ist direkt der Knackpunkt, weil KI-basierte Inhalte in der Regel keine persönlich-geistige Schöpfung sind. Das ist ja nicht menschlich gemacht in der Regel. Also haben wir einen ganz einfachen Prompt und dann wird uns ein Bild ausgespuckt, gehört das streng genommen nach dem Urhebergesetz niemandem. Das heißt, es ist komplett gemeinfrei, ist nicht meins, aber auch von niemand anders. Und wenn ich das nutze, auch wenn ich mir einen kreativen Prompt überlegt habe, bedeutet das im Endeffekt eigentlich, dass Dritte mein Bild, mein Bild auch weiter nutzen dürfen.

00:23:19 Eine Ausnahme ist dann gegeben, wenn ich mir was prompte, etwas daraus erstellt wird und ich dann kreativ einwirke, also irgendwelche Maßnahmen ergreife, dass es am Ende was komplett Neues ist und ich nur die KI-Basis quasi benutzt habe, dann kann der kreative Input von mir so hoch sein, dass es dann doch auch eine persönlich geistige Schöpfung und damit ein urheberrechtlich geschütztes Werk ist. Oder, und das auch in Ausnahmefällen, wenn ich wirklich einen Prompt nehme, der so kreativ...

00:23:48 individuell ist, dass man dann sagen kann, dass sogar der Output eine persönliche Schöpfung sein kann, aber das eher in seltenen Fällen.

00:23:58 Wer mit Vivian, haben wir vorher gesprochen und das natürlich aufgezeichnet. Also das ist natürlich auch so ganz interessant. Wir haben über Deepfacts gesprochen und wie das ausschaut. Aber diese Prompts und wem das dann gehört, das ist nochmal eine andere Frage. Und wenn man es natürlich füttert mit Daten von dir, wie ja auch gerade erwähnt wurde, dann haben wir natürlich da rein rechtlich einfach ein großes Problem, weil dann ist das alles nicht mehr gemeinfrei, sondern dann, naja, in dem Fall, ich bin jetzt kein Rechtsakwerte, könnte man aber vermuten, dass es an dir gehört, weil das deine...

00:24:26 Deine Stimme ist nachweislich. Ja, absolut. Also ja, so würde ich es auch sehen. Ich habe auch keine juristische Ausbildung, deshalb ist es ja alles nur gefährliches Halbwissen oder Laienwissen, aber ja. Viele Nutzerinnen und Nutzer merken ja auch gar nicht, wann KI auch im Alltag verwendet wird oder viele Videos sind inzwischen schon so gut. Viele hätten vielleicht auch bei deinem Deepfake auch einfach gedacht, ja, ist eine Sprecherin.

00:24:51 wie man sie halt kennt, wo ziehst du eigentlich da die Grenze so bei auch sinnvoller Automatisierung und vielleicht sinnfreier Automatisierung? Was meinst du mit Automatisierung? Naja, im Prinzip, also was wir mit KI automatisieren können, also gerade Videoproduktion, gerade was wir auf Social Media sehen, was ist noch okay, mit KI zu erstellen, wie zum Beispiel eine Sprecherstimme und was ist für dich nicht okay?

00:25:20 Boah, das ist eine, also da könnte ich dir wahrscheinlich jetzt eine halbe Stunde eine Antwort drauf geben. Ich versuche mich mal kurz zu fassen. Ich glaube, also für mich ist eigentlich alles, was Menschen gemacht ist und wo irgendwie eine Form von Kreativität drin steckt und Emotion und Gefühl, ist für mich eine nicht sinnvolle Nutzung von KI. Und dazu zählen dann eben auch so was wie Sprechertexte.

00:25:50 Weil es da ja eben auch darum geht, Emotionen zu transportieren. Also nehmen wir mal Hörbücher als Beispiel. Auch da will man Emotionen und Gefühle transportieren. Man will Leute in die Szenerie irgendwie einführen. Und das ist auch eine Art kreativer Beruf. Und da finde ich es auch ganz schwierig, wenn das dann durch KI-Stimmen ersetzt werden soll. Sicherlich kriegen die das auch hin.

00:26:14 auf die eine oder andere Art und Weise. Also wenn wir jetzt nochmal ein Jahr vorspulen, dann werden wir den Unterschied garantiert nicht mehr hören. Aber ich finde es einfach schade, dass dann eben so menschengemachtes Handwerk dadurch immer mehr in den Hintergrund drückt und ja auch gar nicht mehr, und das ist eben der Knackpunkt, auch gar nicht mehr bezahlt wird. Und deshalb ist für mich so...

00:26:41 Du hast ja nach sinnvollen Automatisierungen gefragt. Alles, was mir vielleicht meinen Beruf erleichtert. Ich habe auch einen kreativen Beruf. Ich gebe mal ein Beispiel. Ich mache in meinen Videos oft auch sehr lange Recherchearbeiten vorher, skripte meine Videos im Vorhinein. Und bei der Recherchearbeit nutze ich auch KI, einfach um mir vorher wie so eine Art

00:27:11 Quellenverzeichnis einmal geben zu lassen. Ich arbeite das alles selber nochmal durch und ich skripte meine Videos auch selber. Trotzdem hilft es mir, dass ich erstmal so eine Übersicht habe oder eine Kategorisierung, welche Quellen irgendwie besonders nützlich sind für ein Oberthema. Und das finde ich dann einen sinnvollen Einsatz für Künstliche Intelligenz. Ja.

00:27:34 Zugegeben, ich weiß nicht, wie es euch geht, lieber Chad, aber genau dafür benutze ich auch KI, also um mir Sachen zusammenzufassen, um aber danach halt nochmal gegenzuchecken. Das ist halt immer so die Krux an der Sache. Also ich glaube, das ist auch das, was ganz oft erzählt wird. Wenn man selbst schon ein Experte auf einem Feld ist und dann unterstützend KI verwendet, um dann auch nochmal nachzuchecken, dann kann es echt hilfreich sein und dann kann man sich mehr oder minder...

00:27:57 nicht immer, aber auch auf viele KIs auch verlassen, auch in der Erstellung von Inhalten beispielsweise. Mich würde allerdings lieber Chat mal von euch interessieren, weil wir darüber sprechen, ob KI Social Media kaputt macht, ob euch eigentlich diese ganzen KI-Videos, die man inzwischen auf Insta und Co. sieht, ob die euch eigentlich nerven. Schreibt mir das mal gerne in den Chat, eine Eins für Ja und eine Zwei für Nein. Bin gespannt. Also es gibt so ein paar Fälle, wo ich selbst sagen muss,

00:28:26 Da war ich kurz davor, die zu abonnieren. Das ist der eine Typ, der immer nach Ägypten reist und dann so diese Welt erkundet, Kleopatra erfinden will und ein anderer, der jetzt nach Hogwarts geht. Und da würde ich sagen, das finde ich so unterhaltsam und so mehr oder minder lehrreich, da habe ich sogar Gefallen dran gefunden. Aber die Mehrzahl nervt's. Außer Buridan. Also mich nervt's auch. Mich nervt's auch wirklich.

00:28:52 Ich kann es auch leider nicht mehr sehen. Und das Schlimme ist ja einfach, dass ja so viele Leute mittlerweile auf sowas reinfallen. Also mich jetzt letztens vor ein paar Wochen auch erwischt. Da erinnern sich bestimmt auch mega viele dran an dieses Trampolin-Video mit den Hasen. Da musste ich auch dreimal hingucken, um da zu checken, dass das KI gemacht ist. Aber da war ich auch erst kurz so, ja, das sieht so echt aus. Also ja, aber...

00:29:19 Und bisher vermeide ich solche Videos in meinem Feed und abonniere sowas auch nicht, weil ich das, ich weiß nicht, ich finde das ganz schrecklich. Anderes prominentes Beispiel ist der springende Elefant auf den Trampolin. Das geht aber gar nicht, weil Elefanten gar keine...

00:29:32 Sprunggelenke haben. Cloudwalker schreibt noch, Social Media ist sowieso schon kaputt. Und das bringt uns zu unserem nächsten Gast, den wir dazu holen. Super Überleitung, oder? Und zwar holen wir Jonas Feger dazu, der ist nämlich Forscher zu KI und Desinformation, den wir dazu schalten, der gleich hier unter uns erscheinen wird. Hallihallo, schönen guten Abend, Jonas.

00:29:52 Hi, guten Abend. Schön, guten Abend. Übrigens für euch beide auch die Info, wenn ihr Fragen auch untereinander habt. Also ich muss euch nicht anmoderieren, ihr könnt einfach gegenseitig euch immer Sachen fragen oder auch Rückfragen stellen. Aber Jonas, du bist am FZI, also am Forschungszentrum Informatik und leitest dort das House of Participation und bist auch Senior-Experte für den Themenbereich Digital Democracy und Participation.

00:30:19 Und das FCD ist auch ein Innovationspartner des Karlsruher Instituts für Technologie. Also zusammengefasst, du bist jetzt unser KI-Experte und kennst dich einfach wirklich, wirklich sehr gut aus. Und deswegen stelle ich dir mal die übergeordnete Frage heute Abend. Macht KI eigentlich Social Media kaputt oder ist es bereits kaputt, wie gerade schon eingeblendet?

00:30:40 Ja, ist eine sehr gute Frage. Ich weiß gar nicht, ob ich es so für Social Media, also ich würde sagen, Social Media ist schon kaputt, um mal präzise auf deine Frage zu antworten. Und dann, glaube ich, muss man so ein bisschen weiter ausholen. Tatsächlich haben wir, glaube ich, einfach eine ganz große Veränderung von Social Media erlebt. Social Media Plattformen so, wie es sie vor 10, 15 Jahren gab, wo sie wirklich so...

00:31:02 zum ersten Mal eigentlich einen Diskurs organisiert haben, zum ersten Mal für Proteste verwendet werden wurden, zum Beispiel beim arabischen Frühling. So sehen die sozialen Netzwerke von heute nicht mehr aus. Die sind teilweise relativ staatsnah, wie im Fall von TikTok oder tatsächlich von einzelnen Personen sozusagen, von Unternehmen, Unternehmern und ihren Investoren. So, die sind die Eigentümer.

00:31:30 Und gerade merken wir da eigentlich eine ziemlich große Verflechtung zwischen Staatlichkeit und diesen privaten Eigentümern, die ich, wo ich sagen würde, die ist auch sozusagen ungut. Und dann haben wir jetzt noch so ein ganz neues, ganz anderes Phänomen sozusagen mit generativer KI auf den sozialen Netzwerken, die nicht nur dort als Content einziehen, sondern was jetzt sich gerade ja verändert, ist, dass sowohl die Betreiber von den sozialen Netzwerken, wie zum Beispiel Meta, als auch eben OpenAI mit Sora,

00:31:59 jetzt eben damit experimentieren, eigene soziale Netzwerke nur mit generativen Content zu erstellen. Und das ist, glaube ich, was, was sich jetzt gerade einfach ganz stark verändert und für mich natürlich super spannend zu beobachten.

00:32:12 Wir wollen uns mal anschauen übrigens, für was eigentlich die Leute KI so aktuell nutzen. Und wir haben euch da eine kleine Grafik vorbereitet, die wir euch mal einblenden wollen, damit wir einen Überblick bekommen, warum eigentlich KI genutzt wird. Und wir sehen es ja eingeblendet. Also die Frage war in dem Fall, warum wird KI genutzt? Und ich nutze KI, um produktiver zu sein, um auch zu arbeiten, um zu lernen und mich weiterzubilden und um Routineaufgaben zu erleichtern.

00:32:41 Ein Funfact noch am Rande. In der Vergangenheit, 2024, wurde noch viel häufiger gesagt, man nutzt KI, um Spaß zu haben. Dieser Wert ist allerdings dann immer weiter, oder was ist immer weiter, aber 2025 auf jeden Fall gesunken. Das wird nicht eine spannende Randnotiz an der Stelle. Ist nur die Frage, ob KI für Social Media nicht dann doch für mehr Spaß verwendet wird oder doch für eine gewisse Art von...

00:33:06 Und das bringt mich tatsächlich zur nächsten Frage, Jonas. Ist KI, das ist jetzt wirklich eine große Frage, aber ist KI gerade auf Social Media eine Gefahr eigentlich für unsere Demokratie?

Gefahren für Demokratie und Gesellschaft

00:33:19

00:33:19 Also genau, mit der letzten Frage da, es wird dann zu einer sehr großen Frage. Es ist definitiv eine Gefahr oder es ist auf jeden Fall eine, ich glaube, unser Informationsökosystem verändert sich gerade so sehr. Plötzlich sind wir im Informationsökosystem, wo wir mit total viel Manipulation zu tun haben. Nicht alle von diesen manipulierten Inhalten haben die Absicht, einen Schaden hinzuzufügen. Bei Desinformation unterscheidet man immer, hat sie eine Absicht, Schaden hinzuzufügen.

00:33:46 wurde sie erstellt zum Beispiel, um Personen zu diskreditieren, indem man zum Beispiel Deepfakes erzeugt, die eben wie in dem Fall, der gerade geschildert wurde, ja, für was stehen, was gar nicht stimmt. Missinformation ist, wenn was aus dem Kontext gerissen wurde und dann plötzlich sozusagen keinen Sinn mehr ergibt. Und ich glaube aber schon, dass diese Vermischung, die wir jetzt so erleben können, das viel, viel einfacher mit generativer KI personalisierte

00:34:13 Deepfakes erstellt werden können von Einzelpersonen. Und zwar braucht man damit eben gar keine große Kompetenz mehr, um diese Bilder zu prompten, zu erzeugen oder diese Videos zu prompten, zu erzeugen, sondern kann das eben mit Apps wie Sora sehr, sehr einfach selber machen und auch die Watermarks dann entsprechend entfernen. Und ich denke, dass das sozusagen in der Masse schon bedeuten kann, dass sich unser Informationsökosystem

00:34:39 sehr verändert und es immer schwerer wird, dann zu unterscheiden, was war es und was falsch ist. Und ja, da glaube ich, dass das in Hinblick auf zum Beispiel auch demokratische Wahlen und Wahlmanipulationen sicherlich nach Herausforderungen eine Gefahr darstellt. Das war bei der letzten Bundestagswahl noch nicht so der Fall, aber wir sehen zum Beispiel in Indien dort einen ganz großen Stil, die ebenso persönliche Kampagnen tatsächlich erstellt wurden, wo Personen dann

00:35:04 zielgerichtet angesprochen wurden mit ihren Landesdialekten, mit den Vornamen und so weiter. Also da wird das schon tatsächlich auch für Campaigning genutzt und das geht natürlich im Positiven, um Leute zu motivieren, sich einzubringen, wie eben auch im Negativen.

00:35:19 Das bringt mich zu einer Frage, lieber Chat, weil wir jetzt schon das eine oder andere Mal über Sora 2 gesprochen haben und nachher werden wir auch gemeinsam einen Prompt zusammen entwickeln hier in ungefähr einer halben Stunde und dann mal gucken, was da rauskommt. Aber eine Frage an euch, kennt ihr eigentlich Sora 2? Einfach mal in den Chat schreiben, wenn ja, dann ab damit in den Chat, beziehungsweise auch welches Video ihr vielleicht davon kennt, das würde mich mal interessieren. Bei mir sind es tatsächlich diese komischen Katzenvideos, die hinterm Tresen stehen und Leute bedienen das.

Diskussion über Sora 2 und Erkennbarkeit

00:35:48

00:35:48 Ist irgendwie meine Bubble, warum auch immer geworden. Finde ich irgendwie ganz spannend. Vera, jemand hat gerade geschrieben, Lizzie, wenn KI besser wird in ein paar Jahren, kann das Schaden anrichten. Noch kann man manchmal durchschauen, aber in zehn Jahren.

00:36:04 Das ist, glaube ich, das, das, das, gerade, gerade bei Sword Art 2 ist es, finde ich, gerade so an der Grenze. Ich sehe Poo zum Beispiel sagt, nein, er kann Sword Art 2 nicht. Seldo sagt auf jeden Fall ja. Seldo ist auch nachher noch bei uns zu Gast. Aber diese, diese Sword Art 2 Videos, ne, um das nochmal kurz zusammenzufassen, sind teilweise wirklich sehr, also ich, mir, selbst mir fällt es oft schwer, da wirklich von der Realität zu unterscheiden. Wie geht's dir da, Vera?

00:36:27 Mir geht es mittlerweile auch so. Also ich habe auch noch vor einem halben Jahr gesagt, ja klar, kein Ding. Ich kann das, also man sieht das irgendwie anhand von, dass die Gesichter meistens irgendwie sehr glatt und weich gespült aussehen, dass irgendwie Kanten nicht so ganz schön kantig sind, sondern so ein bisschen verwaschen einfach. Daran hat man es da immer noch ganz gut erkannt. Oder Haare.

00:36:55 Auch so ein Ding, dass sie sich irgendwie nicht natürlich bewegen, Augen, dass da irgendwie mal ein paar komische Bewegungen drin sind und so. Aber mittlerweile würde ich auch von mir selber sagen, also ich muss da schon ein paar Mal dann genauer hinschauen, um ein KI-Video wirklich zu erkennen. Und ich bin mir sicher, mir sind da auch schon welche durchgerutscht, die ich nicht erkannt habe.

00:37:17 Ja, SayCity, ich hoffe, ich habe den Namen richtig ausgesprochen, sagt dazu übrigens auch, mir fehlen zunehmend reale Aufnahmen und Bilder. Finde, wenn die Anzahl an KI-Videos pro Person, glaube ich, überhand nimmt, dann fehlt mir zu sehr die Echtheit auf Social Media, die ja ohnehin schon immer mehr abnimmt. Jonas, du hast gerade eben schon gesagt, dass du ohnehin findest, Social Media ist kaputt, aber wenn Social Media schon kaputt ist, was machen dann die KI-Videos noch oben drauf?

00:37:45 Also ich glaube, es wird tatsächlich auch passieren, dass ganz andere Arten von sozialen Netzwerken existieren. Ich glaube, wir müssen uns da nochmal so ein bisschen klar machen, warum sind die sozialen Medien teilweise so ein bisschen kaputt, weil die sehr getrieben sind von ihren dahinterliegenden Geschäftsmodellen. Die setzen extrem darauf, dass wir einfach so lange engaged bleiben auf den Plattformen wie nur möglich. Die Mechanismen werden genauso trainiert, dass wir emotionalisiert werden.

00:38:13 Und ja, möglichst lange bleiben. Und da tut auch so ein bisschen negative Emotionalisierung oder eben auch Verwunderung, wie zum Beispiel bei diesem Italian Brain Rot und anderen Elefanten, der springt und so weiter. Also etwas, was wir wirklich noch nie gesehen haben, tut da eher was in die Richtung, dass man eben verwundert ist, dass man engaged bleibt, dass man interessiert bleibt. Und genau das passt eigentlich ganz gut zu dem klassischen Geschäftsmodell eben dieser Online Social Networks.

00:38:41 Deswegen setzt sich das, glaube ich, ganz gut da drauf, weil die merken, irgendwas muss man machen, irgendwie muss man sie weiterentwickeln, damit sie engaged bleiben. Aber das Interessante ist ja auch, dass sich dadurch natürlich nochmal das ganze Ökosystem, was sich da auch entwickelt hat auf den sozialen Netzwerken, inklusive ganz vielen Content Creator, dass sich das natürlich auch nochmal komplett verändern wird, wenn jetzt ganz viel Content eben auch von KI generiert wird.

00:39:10 Eine Sache dazu. Ich wollte kurz was einwerfen. Und zwar, ich glaube, das Grundproblem, auf das ja jeder Social-Media-Plattform aufbaut, sind personalisierte Feeds. Also das ist ja wie eine Pyramide, auf der wir gerade hochstacken sozusagen mit KI-generiertem Content. Aber die Basis ist ein personalisierter Feed, heißt, mein Feed sieht komplett anders aus als euer Feed beispielsweise auf Instagram oder TikTok.

00:39:39 Und deshalb kriegt ihr auch andere Informationen als ich ausgespült. Und wenn dann jetzt noch KI-generierter Content obendrauf kommt und man da dann eben sieht, ich beispielsweise bleibe super oft an Desinformationen hängen, die mit KI erstellt wurden, dann wird mir das natürlich noch mal mehr ausgespült und ich rutsche immer mehr in diese Richtung rein.

00:40:01 Weil der Feed aber in seiner Grundstruktur darauf ausgelegt ist, dass er persönlich für mich gemacht ist, für mein Engagement. Und ich glaube, das ist so, also das ist die Krux, auf der halt jede Social Media Plattform aufbaut. Und wir gehen da halt jetzt halt einfach mit, weil es das Profitmodell ist von den Plattformen. Und da sehe ich auch total eben die Gefahr, wenn auf diesen klassischen Recommender-System eben noch die generierten Inhalte gesetzt werden, dass man

00:40:31 eine Art von personalisierter Manipulation hat, die wirklich genau Personen auch ansprechen kann, da, wo sie sind, Zielgruppen anhand von ihrer Altersgruppe, anhand von ihren Präferenzen ansprechen kann. Und ich glaube, das ist tatsächlich was als Entwicklung in Richtung oder im Bereich Desinformation, was man wirklich aufmerksam so beachten sollte und etwas, was tatsächlich für mich oder aus meiner Perspektive eine große Qualität auch darstellt.

00:41:00 Und ich meine, das sind ja nicht nur Privatpersonen, sondern auch inzwischen Politiker. Donald Trump, muss ich glaube ich nicht sagen, benutzt seit einiger Zeit ganz viele KI-generierte Videos, mit denen er das eine oder andere versucht darzustellen, um das jetzt mal so gut es geht neutral auszudrücken. Aber wird das dadurch irgendwie auch normalisiert, Jonas?

00:41:25 Desinformationen durch KI-Videos zu verbreiten und welche Folgen hat dann eigentlich diese Nutzung auch von Politikern für die Gesellschaft?

00:41:35 Ja, ich glaube, das hatten wir schon im letzten US-Wahlkampf auch gesehen, dass dort eigentlich das erste Mal ganz viele Sharepicks auch geteilt wurden mit ganz offensichtlich generierten Inhalten. Also sei es die beiden Präsidentschaftskandidaten, die umarmt irgendwo stehen oder sei es, dass sozusagen Donald Trump als starker Mann eine US-Flagge hochhält sozusagen. Lauter Sharepicks, die...

00:42:02 ganz offensichtlich, ja, ich glaube, waren, ganz offensichtlich generiert waren und trotzdem vielfach geteilt wurden, und zwar, weil sie ins eigene Weltbild passten. Und ich glaube, da verändert sich tatsächlich was, das sozusagen einfach gar nicht mehr so wichtig ist, ob das faktisch wahr ist oder eben nicht, sondern etwas kann auch geteilt werden, wenn es ins eigene Weltbild passt, und dann wird es relativ egal. Ich glaube, da, ja, also liegt gleichzeitig auch, ich will das gar nicht alles...

00:42:31 total schlecht reden. Ich glaube, es ist nur einfach wichtig, dass wir diese Veränderung wahrnehmen und gleichzeitig uns eben bewusst machen, was eben realer Journalismus kann und macht und soll, wie man im Journalismus vielleicht auch künftig besser aufzeigen kann, wie eben Bilder zustande kommen, wo sie aufgenommen wurden und so einfach viel mehr Wissen auch mitliefert zu echtem Material im Vergleich zu dem, was da alles draußen sein wird und jetzt schon ist.

00:42:59 Amari schreibt gerade, mich nervt das irgendwann immer, wenn ich nur aus meiner Bubble bedient werde, langweilt mich dann. Punkt.

00:43:07 Apropos Folgen für unsere Gesellschaft, auch das, da haben wir mal eine spannende Grafik euch herausgesucht, beziehungsweise euch gemacht und zwar für eine TÜV-KI-Studie 2025. Und da wurde eben auch gefragt, die Folgen für die Gesellschaft und die Befragten sind der Meinung, generative KI, 91 Prozent sagen da, macht es schwieriger, echte und manipulierte Inhalte zu unterscheiden. 83 Prozent sagen, beschleunigt die Verbreitung von Falschinformationen massiv.

00:43:36 73 Prozent haben gesagt, beeinflusst die politische Meinungsbildung und 49 Prozent sagten, ist eine Gefahr für die Demokratie. Also krass, eigentlich fast die Hälfte aller Leute haben gesagt, es ist eine Gefahr für die Demokratie. Über Chat schreibt mir das mal bitte hier rein. Findet ihr, dass eigentlich KI gerade auf Social Media eine Gefahr für die Demokratie ist? Ja oder nein? Eins für ja, zwei für nein. Einfach mal reinschreiben und gerne auch noch eine Begründung, wenn ihr dazu Lust habt.

00:44:05 Ära, wie siehst du das eigentlich? Ja, ich wollte gerade auf die Studie eingehen. Ich finde es ehrlich gesagt viel spannender, dass 51 Prozent nicht der Meinung sind, dass es eine Gefahr für die Demokratie ist. Also da würde mich mal die Begründung interessieren, wieso das so sein sollte, dass es eben keine Gefahr ist. Das überrascht mich, glaube ich, am meisten an den Zahlen gerade.

00:44:27 Also eins für ja, lieber Chad, und zwei für nein, aber ich sehe schon, zumindest die ersten, die geschrieben haben, ein paar bekommen wir noch hin. Also eins ja ist eine Gefahr für die Demokratie und zwei für nein, aber die, die jetzt schon geschrieben haben, sehen es auf jeden Fall als Gefahr. Herr Luther schreibt zum Beispiel, eins, natürlich ist KI eine massive Gefahr für die Demokratie, wie gesagt, ein absoluter Brandbeschleuniger. Gibt es eigentlich, Jonas, weil du beobachtest, das ist ja schon sehr, sehr...

00:44:55 sehr close oder sagt man auf Deutsch sehr nah. Gibt es eigentlich schon neue Entwicklungen, die du siehst, die noch nicht so, also an KI-Videos, an KI-Content, die wir so noch nicht in der breiten Masse gesehen haben, die aber bald uns alle erreichen werden?

00:45:14 Ach, also, nee, ich habe keine Informationen über den neuesten Trend, ob es irgendwie statt Haien vor in irgendwelchen Turnschuhen sozusagen irgendwas anderes sein wird. Aber ich glaube eher im Gegenteil, dass wir uns nochmal bewusst sein darüber werden müssen, dass das, was jetzt gerade viel Schaden anrichtet im Bereich Scamming oder auch im Bereich Desinformation, also so im klassischen Cyber Security Bereich,

00:45:43 Das sind gar nicht mal diese sehr gut gemachten Deepfakes, sondern ganz oft auch sogenannte Cheapfakes. Also Sachen, die sich sehr oft verbreiten, sind teilweise auch sehr schlecht gemachte Videos oder Videos mit einer ganz schlechten Qualität, die eine niedrige Pixelzahl haben, die dann aber über Telegram immer wieder geteilt werden und sich verbreiten. Und auch da sind sich vielleicht nicht alle sicher, ob das wirklich so wahr ist, aber es passt vielleicht sozusagen zum eigenen.

00:46:10 Mindset zu eigenem politischen Orientierung und wird deswegen geteilt. Und ich glaube, das ist auch so etwas, was wir einfach auf dem Schirm haben müssen. Es geht nicht immer darum, sind die möglichst gut sozusagen erstellt, möglichst gut und möglichst glaubhaft, sondern gerade bei Desinformationskampagnen geht es auch darum, dass man Informationen generell nicht mehr ganz so sehr traut, dass man Dinge zweifelt.

00:46:36 ist es sozusagen Russland gewesen, die den Angriff auf die Ukraine gestartet hat oder andersrum. Wenn man ganz, ganz viele Falschinformationen dazu bekommt und hört, dann fängt man an, daran irgendwann zu zweifeln und denkt sich, so genau kann ich es eigentlich nicht beurteilen. Und das ist genau eine Strategie der Desinformation, die sehr eng greift eigentlich mit dieser Art von teilweise auch schlecht gemachten Fakes oder diesen Doppelgängerseiten, die uns manchmal begegnen, etwas, was aussieht wie die Tagesschau, aber gar nicht die Tagesschau ist.

00:47:04 Beim zweiten Blick wird es klar. Und das sind oftmals gar nicht so gut gemachte Deepfakes oder generierte Bilder, aber sie richten ganz großen Schaden an oder führen zum Beispiel im Betrugsbereich auch dazu, dass Leute Geld verlieren.

00:47:19 Übrigens, Name ist lang, finde ich auch super, Username, hat gerade eben mit zwei abgestimmt. Alles, was man nicht versteht, ist nicht automatisch nur eine Gefahr. Weil wir aber ohnehin gerade bei Falschinformationen sind, wir haben auch dazu mal unsere Rechtsexpertin Vivian Trebs auch gefragt, wer eigentlich da haftet bei KI-Falschinformationen und auch das Video wollen wir euch gerne mal zeigen, was Vivian dazu gesagt hat, also eben zu diesen Falschinformationen.

Haftungsfragen bei KI-Falschinformationen

00:47:47

00:47:47 Falschinformationen. Also wer haftet, wenn eine KI Falschinformationen verbreitet? Der Nutzer, die Plattform oder der KI-Anbieter. Schauen wir mal rein.

00:47:58 Ja, da hast du jetzt auch schon alle Möglichkeiten angesprochen, die auch in der Realität genauso dann geprüft werden müssen. Also ganz vorne steht natürlich immer der Nutzer, also die Person, die das auch veröffentlicht. Also wenn ich jetzt ein KI-Bild generiere und das dann versehentlich eben so aussieht wie ein Original, weil ich vielleicht auch nicht gut genug gepromptet habe, dann ist es meine Verantwortung, wenn ich das in die Welt gebe, also öffentlich mache. Das heißt, ganz normal so, wie wenn ich selbst...

00:48:25 fotografiert hätte und es wäre eine Urheberrechtsverletzung oder mir aus dem Netz ziehe, dann bin ich in der Verantwortung und hafte grundsätzlich für diese Rechtsverletzung. Beim KI-Anbieter, das sind halt dann die Systeme, da haben wir zum Beispiel OpenAI oder so, die versuchen sich immer ganz gut aus der Haftung raus.

00:48:44 zu kriegen, weil man ja den Nutzer immer noch davor geschaltet hat, der das Bedient, das Werkzeug. Aber auch hier haben wir jetzt gesehen, es gab am 11.11. noch eins der ersten größeren Urteile vom Landgericht München, die GEMA gegen OpenAI wegen des Trainings. Und da konnte sich zumindest jetzt in dieser ersten Enddance OpenAI nicht aus der Haftung herausfinden, sondern da hat man wirklich gesagt, irgendwie muss das da, es ging um Songtexte, die quasi mit einem ganz einfachen Prompt einfach ausgespuckt wurden.

00:49:14 Und da wurde ihm gesagt, irgendwie müssen die gespeichert worden sein. Sonst wäre die Wahrscheinlichkeit, dass man, wenn man das hundertmal erfragt und hundertmal wirklich den exakt echten Text bekommt, ist es eigentlich nicht möglich. Und da konnte sich dann hier der KI-Anbieter eben nicht aus der Haftung befreien. Wir gucken mal, wie es da in der zweiten Anstanz weitergeht. Das wird weitergehen. Ja, aber ansonsten in der Regel eben der Nutzer und KI-Anbieter dann eher seltener.

00:49:39 Und bei den Plattformen ist es so, es gibt eine privilegierte Plattformhaftung, so nennt sich das. Das heißt, wir haben ja keinen Upload-Filter oder so, dass die von Anfang an jede Rechtsverletzung rausfiltern müssen. Wäre auch nicht möglich. Aber sobald eine Rechtsverletzung gemeldet wurde, also ich einen Deepak von mir sehe und das melde, dann ist auch die Plattform im Zugzwang, die muss löschen. Wenn nicht gelöscht wird, dann hat man noch weitere Ansprüche gegen die Plattform und haftet die wirklich wie der Täter, also als wären sie die Nutzerin gewesen.

00:50:09 Das ist auch nochmal ein kleiner Nachtrag zum Thema Deepfakes. Übrigens im Case hat geschrieben, den Erstellern von Falschinformationen geht es teils wirklich gar nicht so sehr darum, dass man ihnen glaubt, sondern dass man nichts mehr glaubt. Wichtiger Punkt. Deswegen Jonas und ich die Frage, welche technischen Möglichkeiten gibt es denn eigentlich, auch vielleicht sogar KI zu nutzen, um eben diese Informationen Deepfakes zu erkennen? Also wie können wir denn künstliche Intelligenz auch nutzen?

00:50:35 Genau, also das ist genau eben, jetzt geht es wirklich sozusagen um ein Forschungsthema und das, was ich sozusagen im Alltag mache, wo ich auch die sozialen Medien untersuche, aber vor allem eben mich auf diesen Bereich Desinformation konzentriere und die automatisierte Erkennung und da haben wir vor vier Jahren angefangen mit so ganz klassischen NLP-Ansätzen, Natural Language Processing, also so klassischen KI-Ansätzen und selber eine KI trainiert haben, um Desinformation aufgrund von stilistischen

00:51:04 Mitteln zu erkennen, also nicht zu überprüfen, ist etwas wahr oder falsch, sondern in Texten zu gucken, gibt es bestimmte Sachen, zum Beispiel eine Schere zwischen einem Titel und dem Text, wo der Text ganz anders ist, als der Titel es vermuten lässt, oder eine ganz große Emotionalisierung im Text oder bestimmte Wörter, die darauf hindeuten, dass es sich um Verschwörungstheorien handelt, sodass wir da sagen können, es handelt sich hier wahrscheinlich um Desinformation.

00:51:31 Und diese Ansätze übertragen wir dann auch auf Deepfakes. Da ist das natürlich nochmal ein ganz anderer Prozess, weil man mit ganz anderen Arten von Modellen arbeiten muss. In der Zwischenzeit sind dann eben auch genau diese großen Sprachmodelle nicht entstanden, aber sozusagen salonfähig oder mainstream geworden. Und mit dem arbeiten wir jetzt auch ganz viel, sowohl was die Erkennung von Desinformation angeht, als auch eben Deepfake Detection.

00:51:57 Und zum Beispiel eine Sache, auf die ich total stolz bin, weil wir die eben am FZI-Forschungszentrum Informatik entwickelt haben, ist, dass wir verschiedene AI-Ansätze eben Methoden kombinieren zur Deep Fake Detection und einer davon ist etwas, was Kollegen von mir entwickelt haben in der Pandemie, um den Puls vom Gegenüber zu erkennen, also eigentlich in der Telemedizin, auch per Webcam, also es ist eine Mischung aus der Augenpartie und der Spiegelung der Stirn.

Multimodale Deepfake-Detection (Muddi.ai)

00:52:26

00:52:26 Darin kann man erkennen, was der Puls von dem Gegenüber ist und das können wir eigentlich auch nutzen bei Videos. Und dann sehen wir zum Beispiel bei Deepfakes eben, dass der Puls nicht natürlich ist. Und das ist ein Ansatz, den man dann zusammen mit anderen wie Watermark Detection oder auch einem Reasoning, kann das sein, was hier...

00:52:47 sozusagen inhaltlich abläuft oder zeitlich sozusagen stattfindet, gibt es einen Gap zwischen dem, was gesagt wird und dem, was gezeigt wird. Diese Ansätze zusammengefasst können sozusagen eine Wahrscheinlichkeit abgeben, ob es sich hier um manipulierte Informationen handelt oder nicht. Nochmal zum Verständnis. Ihr könnt oder es gibt Systeme, die dann erkennen können, anhand der Stirn, wie der Puls wäre, um nur nochmal, um es verständlich zu machen.

00:53:16 Also Systeme, die erkennen, dass was mit dem Puls der eingeblendeten Person im Video irgendwas falsch ist oder nicht natürlich ist. Richtig verstanden? Genau, es ist so im Prinzip sozusagen die Stirn zur Augenpartie, sehr vereinfacht dargestellt, Spiegelungen der Stirn zur Augenpartie. Und wenn das System das eine halbe Minute lang beobachtet ungefähr, reicht eigentlich auch ein bisschen weniger Zeit aus, kann man den Puls messen, den Puls erkennen.

00:53:44 Da frage ich mich jetzt, wie das ein Laie erkennen soll, Vera. Nee, das ist dann wiederum nichts, was ein Laie erkennen soll, sondern das ist dann das System, was dabei unterstützt, das zu erkennen. Und was einem dann sagt, hier handelt es sich wahrscheinlich aus den und den Gründen um Deepfake und der Grund wäre jetzt in dem Fall, weil im Video es so wirkt, als hätte der keinen stabilen Puls. Keinen Puls.

00:54:13 Ja, aber das ist ja, also ich weiß nicht, wie es dir ging, so beim Zuhören wäre. Also ich finde, das ist total geil, aber das sind ja schon krasse Methodiken, die wir da brauchen, um das gut zu erkennen. Also das ist ja schon wirklich Next Level. Voll. Ich finde es auch total abgefahren. Ich habe davon noch nie gehört tatsächlich, aber da werde ich mich gleich mal einlesen. Das finde ich nämlich super spannend. Ja, ihr findet das unter Muddi.ai.

00:54:40 Ich kann es auch gleich nochmal in den Chat schreiben. M-U-D-D-I.A-I. Also wie Mutti.A-I. Das steht für Multimodal Deepfake Detection.

00:54:53 Okay, das habe ich mir gleich mal aufgeschrieben hier. Ich finde halt bei solchen Technologien, um Deepfakes zu erkennen oder auch Falschinformationen zu erkennen, finde ich halt immer super spannend. Die Frage, wie lange geht das noch gut? Also wie lange kann jetzt dieses System, was irgendwie Stirn und Augen und so weiter im Blick hat, kann das auch noch in...

00:55:19 zwei Jahren leisten bei der technologischen Entwicklung, wo wir dann in zwei Jahren stehen mit Deepfakes. Das, ja, ich weiß jetzt nicht, ich habe mich wie gesagt noch nicht mit beschäftigt, höre ich jetzt zum ersten Mal, aber ich habe auf jeden Fall mitbekommen, dass so bei der Bekämpfung, sage ich mal, von Deepfakes oder KI-generierten Content halt eine Problematik ist, dass die

Grenzen der Erkennung und Haftungsfragen

00:55:47

00:55:47 die Erkennungsmechanismen immer so eine Spur hinterher hinken, weil die natürlich immer erst mal das adaptieren müssen, auf welchem technologischen Stand die Deepfakes sind oder die Algorithmen hinter Deepfakes oder KI-generiertem Content. Darf ich da kurz noch einen Kommentar, bevor du darauf antwortest, Jonas, einwerfen? Und zwar hat Neff gerade geschrieben, wenn wir so etwas automatisiert erkennen können, können wir es auch automatisiert faken. Jonas.

00:56:19 Genau, also absolut. Ich glaube, jeder, der da sagt, wir haben eine Lösung, die wird die nächsten fünf Jahre funktionieren und sie funktioniert schon jetzt einwandfrei, da stimmt irgendwas nicht. Es gibt jetzt lauter Startups, die da sozusagen irgendwie aufflocken und die sagen, wir haben die Antwort für Leapfakes. Das sind alles nur, also wir kombinieren da verschiedene Methoden, das ist auch ein Feld, was sich rasant entwickelt, nicht nur neue Sachen erscheinen, sondern auch

00:56:47 Da erscheinen neue Methoden, die man da anwenden kann und die wir dann ausprobieren und die wir in diesem Fall sozusagen versuchen zu kombinieren. Aber man muss da die ganze Zeit am Ball bleiben und anders geht es auch nicht. Und es sind immer nur Wahrscheinlichkeiten. Ich glaube, genau, wenn das jetzt sozusagen eine Sache ist, auf die man sich konzentriert und kann man sicherlich bald auch...

00:57:10 einen anstrengenden Puls hinkriegen, also da mache ich mir auch nichts vor. Ich glaube, da muss man nur sich tatsächlich klar machen, dass das, was wir vor allem jetzt gerade auf den Online Social Networks bei Nachrichtendiensten wie Telegram erleben, sind eben ganz oft diese Cheapfax. Und die kann man dann schon relativ einfacher, also mit einfacheren Mitteln tatsächlich auch erkennen als solche. Und das hilft vor allem beim Monitoring, also wenn es sich auch um Sachen handelt, die tatsächlich zum Beispiel eben...

00:57:38 Sinne der Cyberkriminalität, einfach versuchen, Geldpersonen aus den Taschen zu ziehen. Solche Sachen automatisiert zu erkennen, ist sicherlich hilfreich und da können solche Systeme auch jetzt schon unterstützen, aber man ist da immer sicherlich zwei Schritte hinterher von dem, was auf den Markt geworfen wird. Und ich glaube, ehrlich gesagt, können die Betreiber selber wie OpenAI oder jetzt Meta ja auch selber gar nicht abschätzen, was sie damit...

00:58:07 anrichten, wenn sie sowas wie Sora oder Meta-Vibes auch vorstellen. Naja, vielleicht können sie es abschätzen, aber nehmen es in Kauf. Also ich sag mal so, die rechtlichen Fragen werden danach geklärt. Erstmal muss man Vorreiter sein. Ich glaube, das ist oft die Denkweise. Erstmal muss man Vorreiter sein und alles Rechtliche kommt dann zu gegebener Zeit ein bisschen später dann tatsächlich rein. Ich glaube, das ist...

00:58:31 oft dann auch die Denkweise da auch hinten dran. Lieber Chat, übrigens, falls ihr der ARD noch nicht gefolgt seid, dann folgt uns doch jetzt gerne mal, denn solche Sachen wie von Jonas, das bekommt ihr nur bei uns zu hören. Oder wenn ihr Jonas Forschung folgt, dann natürlich auch, aber ansonsten folgt uns doch gerne, dann bekommt ihr solche coolen Insights hier.

00:58:54 Im Stream immer auf die Ohren. Ich habe noch ein paar Nachrichten, die ich gerne vorlesen wollen würde. Und zwar hier, ich hoffe, ich spreche den Namen richtig aus. Ich bin mir nicht sicher. Das war noch eine Schlussfolgerung. Und zwar kann KI irgendwann, das heißt, KI kann irgendwann objektiv analysierend unterscheiden zwischen etwas, was stimmen kann.

00:59:18 und dem, was ihr vorgegaukelt wird, mit was sie gefüttert wird. Das ist eine Frage. Jonas, kannst du die beantworten?

00:59:26 Ne, also sie kann nicht objektiv entscheiden, ob es sich hier um etwas handelt, was künstlich generiert wird. Das funktioniert zum Beispiel bei Texten gar nicht gut. Also es gibt da Sachen, die sie vielleicht erkennen kann, die darauf hindeuten, wie zum Beispiel stilistische Mittel, die darauf hindeuten. So wird es vielleicht auch bei den Deepfacts sein, aber an sich funktioniert das nicht gut. Es gibt nur bestimmte Sachen, auf die man sich konzentrieren kann.

00:59:51 Und dann arbeitet eine KI sowohl ja bei der Erstellung als auch sozusagen bei dem automatisierten Kontrollieren oder Überprüfen immer mit Wahrscheinlichkeiten. Das heißt, die ganz objektive, klare Meinung am Ende sollte so ein System nie abgeben, sondern sollte einem sagen, wir haben ein Gefühl, aus den Gründen könnte es sich um Desinformation handeln. Den Rest prüfen wir bitte selber. Und ich hoffe, dass solche Systeme halt Personen...

01:00:19 die das auch professionell machen, wie zum Beispiel Factchecker, eben unterstützen. Aber ich glaube nicht, dass wir uns nur auf dieses Thema verlassen sollten oder können. Apropos Leute, die das... Ja, alles gut. Dazu und zu dem, was die Rechtsanwältin gesagt hat, zu den falschen Informationen, wer dafür eigentlich haftet. Ich finde es ganz, ganz schwierig.

01:00:45 zu sagen, naja, die NutzerInnen haften am Ende, wenn sie diese falschen Informationen in die Welt blasen, weil ich mir denke, ganz, ganz viele Leute gehen davon aus, dass künstliche Intelligenz eine Wahrheitsmaschine ist. Und das liegt auch zum Teil am Marketing von künstlicher Intelligenz, weil künstliche Intelligenz sieht oder hört sich so an wie etwas, was über unsere Intelligenz steht, heißt, es muss auch mehr wissen als wir.

01:01:09 Und deshalb gehen ganz viele Leute davon aus, dass alles, was irgendwie von der künstlichen Intelligenz kommt, auch automatisch wahr sein muss und verbreiten dann natürlich das, was sie, keine Ahnung, von ChatGPT bekommen oder auch Grog, bestes Beispiel. Wenn Grog irgendwie sagt, der Holocaust hat nicht existiert, dann nehmen das Leute als Information mit und tragen es dann weiter. Ob das jetzt per Bushfunk im Dorf funktioniert oder per Social Media, ist an der Stelle ja eigentlich erstmal egal.

01:01:37 Und trotzdem finde ich es dann falsch zu sagen, NutzerInnen haften dafür, weil sie diese Informationen weitergetragen haben, weil eigentlich sollten die Plattformen, sowohl die Plattformen, die Social Media Plattformen, als aber auch die Betreiber von KI-Anbietern, die sollten dafür haften, meiner Meinung nach. Und während du persönlich stehst ja dann auch sogar noch irgendwo auch in Konkurrenz zu ganz vielen KI-Pf***ern,

01:02:06 Posts und Videos, gerade auf Social Media, als Creatorin eben. Welche Fähigkeiten, glaubst du eigentlich, werden Creator in Zukunft brauchen oder Menschen brauchen, die auf Social Media Inhalte produzieren möchten, die auch Leute, echte Menschen dann erreichen sollen, um eben mit KI mitzuhalten, ohne dass man auch diese eigene Persönlichkeit und Authentizität lernt.

01:02:33 Gerade so, gerade so nach Himmel kommt, ohne das auch zu verlieren. Also was glaubst du, welche Fähigkeiten sind da von nöten in Zukunft? Ja, da sprichst du einer meiner Existenzängste an. Ja, also ich finde es ganz schwierig. Ich hoffe einfach so ein bisschen drauf, dass wir in den nächsten paar Jahren...

01:02:53 den Peak von KI erreichen und das zeichnet sich meiner Meinung nach auch schon so ein bisschen ab, dass halt viele Leute einfach sehr genervt von KI und KI-generiertem Content sind. Du hattest es ja am Anfang auch die Umfrage im Chat gemacht. Und ich hoffe einfach so ein bisschen darauf, dass Leute made-by-human-Content irgendwann wieder mehr feiern und es eine höhere Wertigkeit bekommt als dieser AI-Slop. Deshalb

01:03:22 ist meine Hoffnung einfach so ein bisschen, dass man mit Authentizität und einer gewissen Menschlichkeit, Empathie und irgendwie einer Echtheit, die man sich bewahrt hoffentlich, dass man dadurch dann eher punkten kann. Aber ja, es ist ein schwieriges Feld für CreatorInnen. Max Master schreibt, 100% Vera. Also stimmt ihr zu 100% zu?

01:03:50 Danke. Ich glaube, es bleibt auch in Zukunft da spannend, was da rauskommen wird. Aber Vera, vielen lieben Dank erstmal an dich, dass du heute Abend zu Gast warst und auch deine Geschichte geteilt hast, auch wie von dir oder von deiner Stimme besser gesagt Diebfake erstellt wurde. Ich glaube, das ist ein durchaus gruseliges Gefühl. Deshalb danke dir, dass du das mit uns hier geteilt hast und bleib uns gerne noch im Chat erhalten. Wir reden ja noch ein bisschen weiter über das Thema. Gut, mache ich. Dann euch noch viel Spaß. Tschüss. Danke dir, Vera. Ciao, ciao.

Praktische Tipps zur KI-Vide erkennung

01:04:17

01:04:17 Ja, das ist schon spannend. Jonas, ich habe aber noch eine Frage an dich. Und zwar, so toll das mit der Gesichtspuls-Analyse auch ist, so ganz praktisch und praktikabel ist das jetzt für uns Laien im Alltag jetzt nicht so. Gerade bei StarRide 2 Videos. Und lieber Chat, ich kann euch mal vorwarnen, vorbereiten. Wir prompten gleich ein Video zusammen, was wir dann in unser SWR-Experimental-Backend geben. Da wird das dann für uns erstellt. Trotzdem, Jonas,

01:04:46 Hast du praktische Tipps, die wir jetzt mitnehmen können für so Videos wie Sora 2, um die zu erkennen? Weil die Technik ist so fortgeschritten und entwickelt sich so rasant, dass die Tipps von einem halben Jahr jetzt eigentlich fast schon wieder outdated sind. Ja, das, genau. Also ich glaube...

01:05:06 Das ist eine gute Frage, weil ich mich tatsächlich da so super schwer tue, zu sagen, ja, ihr müsst nur auf die Augen achten und dann werdet ihr es erkennen. Ich glaube, es ist eher tatsächlich etwas, was man jetzt machen kann und was auch vorher schon war, war, war, war, seiner Intuition da zu trauen. Und ich glaube, gerade bei diesen Sora generierten Videos ist es schon eine bestimmte Art von auch übertriebener Ästhetik.

01:05:30 die man da sozusagen, mit der man da konfrontiert ist oder eine Ästhetik, die man aus irgendwelchen Filmen kennt. Und wenn all das sozusagen kombiniert wird mit anderen Gesichtern, wo man sich fragen würde, ganz natürlich fragen würde, kann das sein, was man da sieht, dann ist das ein Grund, skeptisch zu sein. Und dann gibt es natürlich auch eben entsprechende Watermarkings und das Zora-Logo, was jetzt gerade noch bei vielen dieser Videos drin ist und hoffentlich auch drin bleiben wird, was darauf hindeutet.

01:05:59 Ich glaube, es ist eher so die natürliche Skepsis, die man trainieren sollte und sozusagen sich fragen, passt das, was man sieht, der Kontext zu der Person, die da vielleicht rein manipuliert wurde? Und das ist so etwas, womit man sich beschäftigen sollte. Und wenn es ein Individuum ist, dann doch einfach mal bei diesem Individuum, wenn man es kennt, auch einfach nachfragen.

01:06:24 Ich glaube, in einer Sache strugglen, glaube ich, KI und Star Wars 2 immer noch und das sind meistens Physikmodelle, wenn ich mich nicht ganz täusche. Darauf kann man mal achten. Also immer alles, was sich physikalisch nicht ganz richtig anfühlt, da kann man, glaube ich, mal ein Auge drauf werfen, oder? Ja, das auf jeden Fall. Es gibt auch noch so andere Sachen, die nicht so besonders gut funktionieren, zum Beispiel Dialoge funktionieren nicht besonders gut, Stimmen kann das Modell auch nicht, wenn es längere Dialoge sind, erst recht nicht.

01:06:52 da stimmt dann was nicht, dann tauscht es die Stimmen auch. Das sind so Sachen, ich glaube, gerade kann man auch noch recht gut sozusagen auf die Stimme achten. Aber ja, und die unterscheidet sich auf das Original. Und es verändert sich einfach unfassbar schnell. Jonas, vielen lieben Dank, dass du deine Erkenntnisse und dein Wissen hier mit uns geteilt hast. Wir haben uns auch gerne erhalten im Chat. Vor allem, weil wir jetzt ein bisschen prompten. Vielleicht kannst du ja mit prompten. Kannst du ein paar Beinweise im Chat geben?

01:07:21 Also danke dir und schönen Abend noch. Gutes Prompten. Tschüss. Danke dir. Missy, Missy. Und ich habe auch gerade gesehen, Seisati, so, ich habe es richtig ausgesprochen. Danke nochmal dafür. Die zwei bleiben uns auf jeden Fall im Chat. Also falls ihr noch Fragen habt, macht das, packt das in den Chat.

01:07:41 Und wir prompten jetzt zusammen und ich bin sehr gespannt. Das ist ein Experiment auch für uns, ehrlich gesagt. Denn wir haben Sora 2 sozusagen im Hintergrund. Das ist alles juristisch geprüft und haben einen KI-Experten, der für uns dann den Prompt auch macht. Und am Ende oder im Laufe des Streams können wir uns das gemeinsame Video dann anschauen. Wie läuft das ab, lieber Chat? Wir haben, ich poste das hier mal rein, wir müssen sozusagen ein paar Sätze erstellen.

Community-Experiment: Sora-2-Prompting

01:08:10

01:08:10 Wir müssen mehr oder weniger die Wer-Was-Wie-Fragen beantworten. Also wen wollen wir in unserem Video sehen? Sind es Menschen? Sind es Tiere? Sind es was weiß ich? Wo sollen die eigentlich sein? Was machen die eigentlich? Und was passiert so in der Umgebung? Und ganz wichtiger Hinweis, Marken dürfen wir nicht mit reinnehmen oder auch Personen, existierende Personen.

01:08:34 die nicht ihre Einwilligung gegeben haben, die dürfen wir da auch nicht mit reinnehmen. Das heißt zum Beispiel Tiere funktionieren sehr gut. Also bei Tieren, das können wir schon machen, das ist gar kein Problem, aber so Figuren und Fremdmaterial, das können wir nicht verwenden. Also das vermeiden. So, wir fangen mal an. Und zwar mit unserem ersten Prompt. Wir brauchen den ersten Satz und den erarbeiten wir jetzt mal zusammen. Und zwar möchte ich jetzt wissen, wer, ganz grundlegend, wer ist dabei, was passiert, wie passiert es? Also stellt euch mal vor.

01:09:04 Wir haben so eine Szenerie, weiß ich nicht, in irgendeiner deutschen Großstadt zum Beispiel, in Berlin, in Mainz, in Köln, da passiert irgendwas. Welche Stadt? In welcher Stadt soll das in Deutschland passieren? Buridan sagt, ich möchte Pinguine, die in der Sahara Cocktails schlürfen. Wäre ja auch schon mal gut. Wäre ja auch schon mal nicht schlecht. Oder Weihnachtsmann. Weihnachtsmann ist auch nicht schlecht, ja. Wie wäre es denn, Buridan, oder auch Cupcake, wie wäre es denn mit Weihnachtsmann, der in der Sahara, wobei Weihnachtsmann, ah.

01:09:33 Sind wir da markenrechtlich schon? Weiß ich nicht so genau, ob das markenrechtlich okay ist. Ob das nicht zu einem großen Getränkehersteller gehört. Da gehen wir von Weihnachtsmann lieber mal weg. Wenn der mit Blümchen geht, leider auch nicht. Können wir nicht machen. Aber sowas wie Pinguine in der Sahara ist okay. Oh, das finde ich gut hier. Oh, ich höre gerade, ob er Weihnachtsmann geht. Pass auf, dann bleiben wir bei Weihnachtsmann. Also wer ist der Weihnachtsmann? Leute.

01:10:01 Weihnachtsmarkt wollte ich jetzt schon schreiben. Weihnachtsmann. Also, der Weihnachtsmann. Was macht der Weihnachtsmann? Wo ist der Weihnachtsmann? Ist er in der deutschen Stadt? Ist er in der Sahara? Was macht der Weihnachtsmann? Ich sehe gerade hier fliegende Kamele über den Alpen. Finde ich auch nicht schlecht. Ein Schnabeltier tanzt Salsa auf dem Times Square. Das finde ich auch nicht schlecht. Wer ist da mit dem Weihnachtsmann? Der U8 in Berlin.

01:10:31 Also wer ist der Weihnachtsmann? Also, okay, pass auf. Weihnachtsmann. Also, wir haben jetzt schon mal wer geklärt. Das ist der Weihnachtsmann. Wo ist die U8 in Berlin? Das bekommen wir hin. Wo die U8 in Berlin? Oder U-Bahn in Berlin. Das ist doch... Wo ist die U-Bahn?

01:10:50 Berlin ist aber auch von uns... Also kam natürlich von unserer lieben ARD Maria, aber ich fand den Vorschlag schon nicht so schlecht, muss ich sagen. Welche Fahrtrichtung? Das ist eine gute Frage. Also Weihnachtsmann und in der U-Bahn in Berlin. Und was macht der da, lieber Chat? Was macht der Weihnachtsmann in der U-Bahn in Berlin? Prügelt sich an der Games-Kommentale 8.

01:11:14 Ja, gut. Okay. Also, wir könnten machen. Der Weihnachtsmann prügelt sich in der U-Bahn. Das würde natürlich funktionieren. Irgendwas mit einer Unterhaltung und Physik, glaube ich, soll das heißen hier. Moonwalk. Rückwärtsgang Moonwalk. Trink Dosenbier. Okay. Zirn essen. Okay, ich glaube, es hat gewonnen. Also, wir haben der Weihnachtsmann. Ich schreibe das jetzt mal in den Händen. Der Weihnachtsmann.

01:11:43 Das ist unser erster Satz, ja? Erster Satz ist, der Weihnachtsmann ist in der U-Bahn in Berlin und ist, mit Doppel-S, ist dort einen Döner. So, das haben wir schon mal. Das ist unser erster Satz. Finde ich gut. So, jetzt müssen wir den Weihnachtsmann noch ein bisschen beschreiben. Wie ist der drauf? Wie ist der Weihnachtsmann drauf?

01:12:12 Was macht er gerade? Wie ist er? Was ist seine Gemütslage? Wie ist der Weihnachtsmann drauf? Das brauchen wir jetzt. Verkauft Geschenke in der U-Bahn. Verkauft Geschenke, also... Der Weihnachtsmann isst Döner und verkauft Geschenke? Warum verkauft er Geschenke?

01:12:29 Ähm, ich dachte, er verschenkt Geschenke, aber gut. Ähm... Er weint Freudestränen, er ist grumpy. Oh, das sind aber zwei unterschiedliche Sachen. High AF, ja, das geht. Hacke dicht. Ja, ich wäre ja fast für Hacke-Dicht-Goldstar. Wollen wir Hacke dicht machen? Okay, komm. Er torkelt. Ähm, zweitens. Der Weihnachtsmann... Weihnachts... Weihnachtsmann torkelt.

01:12:52 Und ist, jetzt schreibt man Hacke dicht. Das ist jetzt ein Problem. Aber gut, Hacke dicht. So, Hacke dicht. So, das ist unser zweiter Satz. Also, der Weihnachtsmann torkelt und ist Hacke dicht. Dann brauchen wir noch, müssen wir noch die U-Bahn ein bisschen weiter beschreiben. Also, wie, was passiert so in der U-Bahn? Wie ist der Vibe in der U-Bahn? Das brauchen wir noch. Wie ist die U-Bahn so? Sind da Leute unterwegs? Ist es dunkel? Ist es hell? Ist es laut? Läuft da?

01:13:22 weiß ich nicht, laufen da noch andere Leute rum, lasst mal eure Fantasie hier ein bisschen spielen. Also wie ist es in der U-Bahn? Ich warte, ich warte auf Regieanweisung, also nicht auf Regieanweisung, auf eure Prompts. Wie ist es in der U-Bahn? Lustig verteilt, der Bio-Döne. Jetzt haben wir schon geklärt, was er macht. Jetzt haben wir schon geklärt. Ich will wissen, wie die U-Bahn so ist. Im Hintergrund findet ein Rave gegen Cam Trash.

01:13:49 Lass uns nicht zu politisch werden. Aber ein Rave finde ich schon mal gut. Im Hintergrund findet ein Rave statt. Aber was für ein Rave? Ein Weihnachtsrave oder so? Ein Weihnachtsrave?

01:14:11 Ein Weihnachts-Ref von Rentieren. In der U-Bahn sitzen nur Rentiere. Nee. Nichts los, unterhält sich mit einer Ratze. Ein Rave für mehr Ostern. Ja, komm. Im Hintergrund findet ein Rave, nee, findet eine Demonstration statt für mehr Ostern.

01:14:32 So, das ist unser dritter Satz. Übrigens, ich lese gerade noch, unser KI-Experte meint, Hacke-Dicht könnte man nicht verstehen, könnte man darauf ankommen lassen, dann machen wir aus Hacke-Dicht, aus Hacke-Dicht machen wir besoffen. Liebe Regie,

01:14:48 Könnten Sie das bitte weiterleiten an unseren KI-Experten. Das wäre super. Und dann brauchen wir doch unseren vierten Satz. Wie ist denn generell die Stimmung? Ist das eine positive Stimmung da von dem Weihnachtsmann, der besoffen in der U-Bahn ist und hinter ihm findet eine Demonstration statt für mehr Ostern? Ist da eine ausgelassene Stimmung? Ist die freudig? So, ja, wie ist die Stimmung in der U-Bahn?

01:15:15 Das würde mich noch interessieren. Also wie ist die Stimmung? Leute, lasst mal beim Thema bleiben. Nicht beim Volltrunken. Das haben wir geklärt. Der Weihnachtsbaum ist einfach besoffen oder vollgetrunken. Crowdsurfing? Ja, also ich brauche die Stimmung der U-Bahn, Leute. Wie ist die Stimmung? Schlecht. Stefan Halle schreibt, schlecht. Ja, alles ist sad. Okay, die Stimmung ist schlecht.

01:15:41 deprimiert mirend und schlecht die stimmung allgemein allgemein in der u-bahn

01:15:52 ist schlecht, deprimierend und sad. Das war der Satz. Leute, ich glaube, wir haben es. Ich muss es nochmal zusammenfassen. Ich habe ehrlich gesagt meine Sätze ein bisschen verloren, aber ich glaube, ich bekomme es zusammen. Also, unser erster Satz lautet, der Weihnachtsmann ist in der U-Bahn in Berlin und isst dort einen Döner. Der zweite Satz lautet, der Weihnachtsmann torkelt und ist hackedicht bzw. besoffen.

01:16:18 Der dritte Satz lautete, im Hintergrund findet eine Demonstration statt für mehr Ostern. Und unser letzter Satz, der vierte Satz war, die Stimmung allgemein in der U-Bahn ist schlicht deprimierend und sad. Ja, ich bin gespannt, was da rauskommt. Also im Hintergrund wird das jetzt vorbereitet und wird geschaut, ob wir das hinbekommen.

01:16:42 Das Video wird übrigens ganze 12 Sekunden lang sein. Ich bin sehr gespannt, was da rauskommt. Also ich finde das sehr spannend. Naja, bis das Video fertig ist, also bis dahin müsst ihr auf jeden Fall dranbleiben. Es dauert jetzt ein klein bisschen. Hol ich doch mal unseren nächsten Gast dazu, würde ich vorschlagen. Und der sieht die Sache auf jeden Fall deutlich positiver. Aber bevor wir das machen, schaue ich nochmal ganz kurz in den Chat.

01:17:10 Merry Christmas. Danke, Adios. Merry Crisis. Das Meme, dafür braucht es keine KI, dass mir das Video auf Social Media über den Weg läuft. Naja. Aber mich würde mal von euch interessieren, liebe Leute, bevor wir unseren nächsten Gast dazu holen, ob ihr eigentlich schon mal selbst schon mal...

01:17:32 ja, auch KI-Content eigentlich erstellt habt und das auch gepostet habt. Also ich rede jetzt nicht nur von Videos, sondern auch von Posts oder tatsächlich, ja, Texte, die ihr mal irgendwo veröffentlicht habt. Also benutzt der KI und veröffentlicht damit auch irgendwo irgendwas oder postet mal selbst irgendwas. Ich habe es noch nie gemacht, glaube ich. Zumindest nicht, dass ich wüsste. Ich habe mich noch an keinem dieser KI-Trends beteiligt. Ich weiß nicht, wie ihr das seht, aber ich sehe auch nö und ja. Achilles, ja, sagst du? Was hast du da gemacht?

01:18:01 Ihr könnt euch übrigens gerne dazu schalten per Streamtogether. Das geht ja immer noch. Nach wie vor, wir hatten noch keinen Community-Gast. Hier unten ist der Button. Es geht auch ganz einfach. Schaltet euch gerne dazu. Achilles, kannst ja mal erzählen, was du da gepostet und gemacht hast. Auch wenn es nur für 1-2 Minuten ist, gerne einfach dazu schalten. Ist auch ganz einfach. Das würde mich mal interessieren. Aber ein paar haben es doch schon gemacht. Vibecoding. Name ist lang. Zugegeben, Vibecoding. Ich weiß nicht so ganz, was das ist.

01:18:27 Erklärst du uns doch gerne. Schade ich dazu für Streamtogether. Ja, stimmt. So was geht natürlich auch. Apropos Spotify und andere Musikanbieter, die es auch noch gibt. Großes Rap war ja auch heute, aber das soll an der Stelle kein Thema sein. Schmuel schreibt auch noch, nö, auch wenn gepredigt wird, dass man KI können muss.

01:18:53 Das stimmt. Ich weiß nicht, wie ihr das seht, aber ich höre auch in meinem Umfeld immer mehr, naja, also man muss dieses Prompten jetzt langsam, aber sicher mal lernen und professionell lernen. Das, was mal Codieren war, das ist jetzt Prompten so ungefähr. Zumindest bekomme ich das immer so ein bisschen mit. Vachilis schreibt, ich schreibe Songtexte und baue damit Musik. Oh, das ist ja auch ein Riesenthema aktuell. Also, ja, warum nicht?

01:19:21 Und Solav schreibt auch noch, ohne Chat-GPT-Coden ist ein Pain. Und jetzt bekomme ich auch noch die Antwort von Cece. Vibe-Coding ist das Schreiben von Code. Ach so, durch KI, ohne es zu verstehen. Ja, okay. Na gut. Übrigens, das Sora-Video dauert noch so ein, zwei Minuten. Das schauen wir uns dann gleich an. Ich würde aber sagen, wir holen jetzt mal unseren nächsten Gast dazu, der sich auch, glaube ich zumindest, ziemlich gut mit dem ganzen Thema Softwareentwicklung auskennt. Den holen wir jetzt mal dazu. Und zwar Seldo. Jetzt gleich.

01:19:49 neben mir erscheint. Hallo, Seldo. Hi. Ach, guck mal, da bin ich. Hallihallo. Da bist du. In der ARD live um 20 vor 10. Schön, dass du dabei bist. Wie geht's dir? Ja, perfekt. Ja, sehr gut. Erstmal danke für die Einladung. Ich war schon im Chat, hast du ja gesehen. Das ein oder andere Mal habe ich auch mal was dazu geschrieben, aber ich wollte jetzt nicht zu allem was sagen, weil es war auch sehr interessant zu hören, was die Kollegen da gesagt haben.

KI in der Softwareentwicklung (Seldo)

01:20:12

01:20:12 Das stimmt. Du arbeitest seit 15 Jahren in der Softwareentwicklung und, so viel kann man verraten, du sagst, KI hat dein Leben komplett verändert. Im positiven oder im negativen Sinne eigentlich?

01:20:25 Ich muss sagen, dass es sehr, sehr positiv war. Ich habe eine Software-Firma gehabt, wir haben mobile Apps entwickelt und ich habe jetzt selbst ein Projekt gemacht, da habe ich jetzt drei Wochen dran gearbeitet. Das ist aber ein Drei-Jahres-Projekt, so viel kann ich sagen. Ich will jetzt nicht sagen, dass das genauso gut ist, wie wenn ein komplettes Team da drei Jahre dran arbeitet, aber für mich persönlich die Möglichkeiten, die ich jetzt habe, das ist schon positiv lebensverändernd.

01:20:52 Inwieweit? Also ich meine, man hört ja so oft bei Softwareentwicklern, beziehungsweise höre ich das oft, dass KI denen das Leben total schwer macht, bei dir aber scheinbar nicht.

01:21:04 Also ich bin kein Entwickler, ich kann das, aber ich hatte eine Company, wir haben die verkauft 2023 und ich war beratend tätig und methodisch. Ich habe die Methode agile Softwareentwicklung eingeführt und quasi die Teams besetzt und quasi die Projekte geleitet. Und die Entwickler, die ich kenne und die Firma, die uns gekauft hat, war sehr groß. Nutzen, KI.

01:21:33 Ja, die nutzen KI als verlängerte Werkbank. Und jetzt in den letzten drei Monaten, die Sprünge sind ja unglaublich exponentiell, ist die Stimmung eher in Richtung, scheiße, ich bin bald arbeitslos gekippt. Weil das, was die KI jetzt kann, die Software-Entwickler, die ich kenne, die nutzen das, weil sie besser ist, als sie selbst in Code schreiben. Nicht in Denken und nicht in anderen Dingen, aber...

01:22:03 Macht weniger Fehler. Also die Stimmung ist jetzt gekippt, sage ich mal, in den letzten drei Monaten. Viele sehen es positiv, aber viele haben auch Angst um ihren Job tatsächlich. Kannst du uns mal ein paar praktische Beispiele geben, warum und inwieweit du KI nutzt und wie es dir auch nutzt?

01:22:23 Ich bin eine One-Man-Company aktuell. Wir waren früher 27 Mitarbeiter und wir hatten ein Marketing-Team, wir hatten ein Entwickler-Team, ein Design-Team, wir hatten Berater und aktuell bin ich eine One-Man-Company, weil ich von Verwaltung bis hin über Planung, Produktion,

01:22:48 Kundenmanagement, alles mit KI machen kann, weil ich mir die Landschaft so aufgebaut habe, dass ich zum Beispiel, wenn ich, ich sage mal, ich kriege eine Anfrage, dann habe ich einen Bot, der mir das zusammenfasst, dann kann ich stichpunktartig meinen Senf dazu geben, dann wird quasi die Antwort verfasst. Ich habe ein Video zu machen, ich schmeiße die Themen einfach rein, ich mache ja zum Beispiel KI-News, du hast es vielleicht gesehen bei YouTube.

01:23:14 Und ich schmeiße die Themen rein, also tut mir die so, dass es kognitiv am wenigsten belastend ist für die Zuschauer. Dass ich die Themen so strukturiere, dass die Menschen das gut aufnehmen können. Zum Beispiel diese Fähigkeiten, die ich vorher nicht hatte. Dann generiere ich Bilder, Videos, habe ein KI-Model, was auch einen eigenen Kanal hat und einen Podcast. Ich weiß gar nicht, wo ich anfangen soll. Also eigentlich mache ich alles mit KI.

01:23:40 Ja, ich meine, du bist ja nicht der Einzige, der auch da Vorteile drin sieht. Wir haben ja gerade eben wirklich auch dunkle Szenarien, muss man ja ehrlicherweise auch so sagen, da gezeichnet oder auch aufgelegt, die sicherlich auch ihre Berechtigung haben. Aber, und da haben wir auch nochmal ein schönes Zitat für euch vorbereitet, dass KI tatsächlich auch

01:23:59 oder vor allem KI-Videos einfach auch wirklich, wirklich viel, viel weniger kosten können. Und das haben wir hier mal für euch vorliegen. Also die Kosteneffizienz ist beeindruckend, sagt Florian Schröder, Experte für Online-Marketing, gerade zu SORAD2. Statt 15.000 bis 25.000 Euro für traditionelle Videoproduktion fallen bei SORAD2 nur etwa 500 bis 800 Euro API-Gebühren an. Also API-Gebühren sind eben so nutzungsabhängige Kosten.

01:24:25 zwar eingesetzt wird, dann bezahlt man jetzt nicht das System, sondern auch wirklich nur das, was man verwendet, also pro erzeugter Videosekunde beispielsweise einen gewissen Betrag. Und da spricht davon etwa 500 bis 800 Euro, während die Produktionszeit von Wochen auf Tage am Ende des Tages sinken. Und das sind ja schon wirklich massive Vorteile. Zumindest mal, wenn man jetzt keine Videoproduktionsfirma ist. Die haben natürlich durchaus ihre Nachteile damit.

01:24:55 Ja, also ich finde das ziemlich krass, diese Aussage. Das zeigt auch vor Augen...

01:25:04 Ja, was die wirtschaftlichen Gefahren sind. Es wurde über demokratische Gefahren gesprochen, aber die wirtschaftlichen Gefahren, die finde ich persönlich viel präsenter, weil dieses, was auf uns zukommt, ich spreche auch regelmäßig an, da muss auch mal was getan werden, es könnte eine absolute Massenarbeitslosigkeitwelle kommen und Videoproduktion ist eine Nische. Es geht auch deutlich größer, sagen wir jetzt von...

01:25:33 Handwerk bis hin zu Produktion, das kann alles betroffen werden, wenn wir jetzt nicht, ich sag mal, die Augen aufhalten. Also Videoproduktion ist ja eine Nische und so viele Menschen arbeiten jetzt nicht, wie zum Beispiel in der Autoindustrie. Aber ja, ich finde die Schätzung sogar ein bisschen...

01:25:51 Ich würde sagen, dass es eher 150 Euro API-Kosten sind, nicht 500. BV Bene schreibt, bye bye Arbeitsplätze, ganz kurz zusammengefasst. Und Kamerazeit auch noch geschrieben, zu einem Statement von vorhin, es wird nicht ganz angezeigt, aber ich lese es auf jeden Fall ganz vor, kann ich nur als Entwickler bestätigen, gerade die langweilige Boilerplatte-Arbeit. Boilerplate, Boilerplatte?

01:26:18 die auch ein Praktikant oder ein Junior-Entwickler kann, kann man ziemlich verlässlich an die KI delegieren, um sich dann auf die Kern-Business-Logik zu konzentrieren. Sind das so Sachen, die du meintest, auch als positive Effekte? Puh. Also für mich sind die positiven Effekte extrem personenabhängig. Ich kann da keine allgemeine Aussage sagen. Und was der Kollege schreibt,

01:26:53 Das wird sicherlich bei dem einen oder anderen treffen. Ich persönlich sehe eher, dass die Individualität steigt, dass man viel mehr alleine schafft. Ich bin jemand, der auch gerne alleine was macht. Also was, was darunter leidet ist, meiner Meinung nach, ist Teamarbeit. Aber positiver Effekt ist, dass die Produktivität viel größer ist. Heißt aber auch, dass ich keinen Kameramann mehr brauche. Also ich weiß nicht, wo man da aufhört mit positiv oder negativ.

01:27:23 Es ist definitiv eine Gratwanderung. Es kommt darauf an, wen man, glaube ich, fragt. Hast du eigentlich das Gefühl, dass so Dinge wie Sora 2 oder KI eigentlich deine persönliche Kreativität steigern oder eher das Gegenteil bewirken, dass du dadurch unkreativer wirst?

01:27:45 Deutlich kreativer. Du musst dir das so vorstellen. Die Möglichkeiten, die ich vorher kreativ hatte, waren die Möglichkeiten von jemandem, der in der Softwarebranche ist. Also ich weiß, was ein Film ist, ich habe schon mal über Memes gelacht, aber ich konnte nicht mit einer Drohne über Bochum fliegen und Witze über den Bochumer Hauptbahnhof machen. Und dadurch, dass ich diese neuen Möglichkeiten habe, ist meine Kreativität auf ein ganz anderes Level. Also das Level, was ich jetzt an Kreativität habe, da hätte ich nicht mal träumen können.

01:28:14 einen Cyberpunk-Podcast gemacht von einer KI-Persönlichkeit. Das ist dieses KI-Model, was Banana Girl heißt, was ich erschaffen habe. Übrigens eine Parodie auf KI-Model, also nicht so wirklich ein KI-Model. Und das ist eine tolle Geschichte gewesen, die ich selbst nie hätte erfinden können. Also meine Kreativität wird maximiert. Also es hört...

01:28:38 auf kreativ zu sein, wenn man die Möglichkeiten nicht als Partner sieht, sondern wenn man diese Automatisierung macht. Kennst du das, diese Automatisierung? Es gibt ja Leute, die haben ja so Bots. Das ist für mich keine Kreativität. Da crawlt ein Bot das Internet, sucht aktuell virale Themen und produziert das. Das ist vielleicht so als, ich sag mal, Money-Glitch nutzbar, wenn du unbedingt willst. Kann man machen, aber da hört Kreativität auf. Aber das, was ich persönlich mache,

01:29:07 Mit meinen Kanälen, mit meinen KI-Avataren. Das ist kreativer als hier zuvor. Wir wollen mal unsere nächste Gästin dazu holen, die auch dazu sehr spannende Texte hat, die auch genau wie unsere erste Gästin Vera da auch mehr oder weniger von betroffen ist, nämlich Alicia Joe. Hallihallo, schönen guten Abend.

01:29:28 Hallo. Ah doch, jetzt hören wir dich. Perfekt. Alicia, du bist, falls man dich nicht kennen sollte, Content-Creatorin und YouTuberin. Ich glaube, vielen von euch bist du auf jeden Fall ein Begriff. Unsere grundlegende Frage ist ja, macht KI Social Media kaputt? Du warst in der Vergangenheit bei dem einen oder anderen ARD-Talk auch schon zu Gast. Und ja, da hast du auch ein sehr düsteres Bild auf jeden Fall gezeichnet, was KI mit Social Media machen kann. Macht KI Social Media kaputt?

KI als Beschleuniger für Social-Media-Probleme

01:29:56

01:29:56 Ist das schon kaputt? Ja, ich glaube, ich schließe mich da so ein bisschen den Vorrednern an. Ich würde behaupten, das ist auch schon zu großen Teilen kaputt. KI ist nur nochmal so ein Beschleuniger, würde ich behaupten, jetzt gerade in dem System. Also es gibt schon ganz viele Leute, die auf Social Media nur noch Ragebait produzieren, nur noch irgendeine billige Unterhaltung, um den nächsten Klick abzugreifen und den nächsten Like. Und durch KI wird das Ganze einfach nochmal...

01:30:24 Ich bin heute aber so ein bisschen, also ich frage mich, ob das denn wirklich so schlecht ist. Also mittlerweile bin ich so auf dem Trip, dass ich mich frage, vielleicht sind wir auch alle irgendwann so übersättigt mit diesen ganzen KI-Videos, dass wir irgendwann wieder so uns mehr im echten Leben treffen und weniger online abhängen. Und dann wäre es ja vielleicht auch ganz gut. Ich meine, wie wärst du das als Creatorin eigentlich so beobachtet über die letzten Jahre, muss man ja inzwischen sagen? Also vom ersten KI-Content auf Social Media?

01:30:53 Bis heute.

01:30:56 Was genau meinst du die Entwicklung einfach von KI? Ja, also es wird immer krasser und auch ich kann es mittlerweile kaum mehr unterscheiden. Ich bin da aber auch so, dass ich mir denke, es ist ein zweischneidiges Schwert. Ich persönlich nutze ja auch jetzt in meinem Schaffen regelmäßig KI und also jetzt nicht im Sinne, dass es über eine Texte recherchiert, da ist mir die KI, die es bis jetzt gibt, viel zu schlecht und ungenau, aber im Sinne von, dass wenn ich jetzt ein Thumbnail erstelle und ich möchte,

01:31:25 irgendjemandem das T-Shirt lieber rot statt blau haben, weil das mehr Aufmerksamkeit generiert. Dann musste ich früher mit Photoshop das ausschneiden und umfärben und heute mache ich einfach einen Kreis drum, ziehe dir mein rotes T-Shirt an und fertig. Dementsprechend, ja, ich beobachte, dass vieles einfacher wird, aber auch, dass vieles, ja, eben überflutet wird von immer krasserem Content, den selbst ich teilweise nicht von der Realität unterscheiden kann. Ja. Was erlebst denn du, was erlebt ihr beider da eigentlich?

01:31:53 Auch in euren Kommentaren. Also nimmt das eure Communities eigentlich wahr? Welche Rolle spielt da KI? Also wenn du gerade von dem T-Shirt sprichst, bist du danach mal gefragt, ob du da was verändert hast? Oder hast du es vielleicht sogar angegeben, Valicia? Also ich mache es so, dass ich KI-Bilder grundsätzlich schon angebe. Also dass ich dann irgendwie schreibe, KI generiert. Wenn es jetzt irgendwie so Kleinigkeiten sind, die ich auch mit Photoshop...

01:32:19 lösen könnte, wenn ich nur was wegbearbeite und so, dann nicht unbedingt und das fällt auch niemandem auf. Ich habe das Gefühl, also ich hatte zuletzt mal in einem Video eine echte Synchronsprecherin, ich habe aber auch schon für Fremdmaterial KI-Stimmen genutzt und ich habe gerade das Gefühl, dass das von der Community sehr gelobt wird, also viel mehr, als es vielleicht vor drei, vier Jahren überhaupt aufgefallen wäre, wenn man echte Stimmen nutzt. Also ich habe das Gefühl, es wird wieder total hin zu diesem

01:32:46 oh cool, du hast das Bild selbst gezeichnet oder du hast das echt von jemandem, der es kann, einsprechen lassen und das ist irgendwie sowas, was heutzutage mehr gewürdigt wird, weil es eben weniger gemacht wird. Du sprichst ja auch viel über KI, also ist bei dir da mehr eine Offenheit auch in der Community da?

01:33:06 Also ich sehe das so. Die Community ist eher KI-enthusiastisch bei mir. Das ist klar, weil ich ja auch aufkläre über Themen und jetzt aufzeige, wie etwas geht. Ich sehe das so, dass die...

01:33:22 Unwissenheit darüber eher die Gefahr ist, als Meinung in irgendwelchen Kommentaren, die schwarz und weiß repräsentieren. Wenn jeder weiß, was möglich ist, dann brauchen wir auch nicht darüber zu reden, ob es gut oder schlecht ist, dann ist es einfach ein Photoshop, ein Tool. Wie Alicia das jetzt für ihr rote Shirt nutzt, wird jeder unterwegs, vielleicht den Menschen, der im Urlaubsbild im Hintergrund ist, wegmachen. Also ich sehe eher die Diskussion etwas...

KI als Werkzeug und Risiken durch Unwissenheit

01:33:51

01:33:51 Also fehlplatziert, weil KI Gefahr oder nicht, oder sollte man das als Creator nutzen, ist eine Frage, die keinen Sinn ergibt, wenn Creator andere Tools nutzen. Das sind Tools. Also ich sehe die Gefahr eher bei der Unkenntnis, weil wenn niemand weiß, was KI kann, dann haben wir wirklich ein Problem.

01:34:11 Ich sehe nicken, Alicia. Ja, da stimme ich zu. Also würde ich genau so sehen. Also ich glaube auch, also ihr habt ja jetzt auch eben schon viel über Arbeitsplätze und alles geredet, ist nochmal so ein bisschen andere Sache. Aber am Ende des Tages ist es einfach ein Tool, was uns an die Hand gegeben wird, was sehr viel verändern wird. Es wird sehr viel umstrukturieren.

01:34:33 Aber das hat halt auch schon das Telefon und das hat auch schon das Internet. Und jetzt ist es eben die KI so. Wir werden uns anders ausrichten. Es wird andere Jobs geben in Zukunft. Und die Gefahr, würde ich auch sagen, ist eher genau bei solchen Themen Desinformation und ja.

01:34:49 Eben, genau, solchen Dingen. Ja, und ich lese hier auch in den Kommentaren, wenn ich was dazu sagen darf, dass ich aufzeige, wie man KI-Frauen macht. Genau, wichtig ist, dass Menschen wissen, dass man KI-Männer, Frauen und traurigerweise auch andere Dinge wie Kinder und brutalses Zeug machen kann. Und wenn man nicht weiß, dass das existiert, das ist das Problem.

01:35:16 Wenn man gescampt wird auf Tinder und so weiter, da werden Schicksale zerstört. Vielleicht kennt ihr die Geschichte mit diesem Typen, der behauptet hat, dass er Brad Pitt ist und die Frau um ihre 800.000 Dollar gescampt hat. Das ist genau die Zielgruppe, die betroffen ist. Das sind ältere Menschen, die nicht wissen, was KI können. Und ich zeige gerne auf, dass man auch KI-Frauen machen kann. Und ich habe jetzt kein Video, wie man seine KI-Frau vermarktet. Im Gegenteil, mir geht es eher darum, was möglich ist, unzensiertes Material.

01:35:45 herzustellen oder auch nicht, damit die Menschen wissen, das, was du da siehst, das solltest du hinterfragen. Also ich finde, Aufklärungsarbeit darf auch in dieser Sparte stattfinden. Wie findest du so Charaktere, so KI-Modelle wie Banana Girl, wie gerade besprochen, Alicia?

01:36:03 Ja, also, was soll ich da? Ich kenne jetzt Banana Girl konkret nicht. Schade. Ich glaube auch da, ja, ich finde das auch so zwiegespalten. Also ich denke jetzt zum Beispiel gerade auch an Deepfakes, wo mit der gerade auch Frauen im Netz viel zu tun haben, was so Pornografie betrifft. Zum einen ist natürlich schrecklich, dass irgendwie jetzt jeder sich zum Beispiel von mir ein Deepfake einfach anfertigen lassen kann irgendwie.

01:36:33 Zum anderen denke ich mir aber auch, der Markt wird jetzt so damit geflutet, dass es fast auch irgendwo egal wird, weil irgendwie jedes vermeintliche Nacktbild, was da draußen von mir existiert, einfach fake ist. Also versteht ihr, wie ich meine? Ich glaube, es hat auch so einen ganz verrückten Aspekt von es wird egaler und genauso sehe ich das zum Beispiel auch bei KI Models. Also wir haben immer diese unrealistischen Beauty Standards gehabt und die werden jetzt auch noch

01:37:00 Unrealistischer dadurch, dass es jetzt teilweise nicht mal mehr echte Models sind. Aber andererseits denken wir jetzt vielleicht alle, ja, ist ja eh nicht echt, ist ja wahrscheinlich KI und kriegen dadurch wieder realistischere Körperbilder, wenn wir irgendwie im Schwimmbad uns angucken, wie echte Menschen aussehen. Ja, ich bin aktuell auf so einem 50-50 Standpunkt.

01:37:22 Lass uns den Punkt auch nochmal aufgreifen. Ich finde das ganz spannend mit den Deepfakes. Wir haben dazu nämlich auch, wir haben am Anfang ja schon ein, zwei Videos von der Rechtsexpertin Vivian Trebst euch gezeigt und wir wollten auch mal gerade beim Thema Deepfakes auch von ihr wissen, wann und wie da eigentlich das Recht am eigenen Bild greift. Die Frage lautete da, greift das Recht am eigenen Bild auch dann, wenn ein KI-Bild von einer realen Person erzeugt wird? Wie gesagt, wir haben das Gespräch mit ihr vorher aufgezeichnet, aber hier mal Ihre Antwort dazu.

01:37:52 Da geht es auch hier wieder um das allgemeine Persönlichkeitsrecht, um das Recht am eigenen Bild, das heißt auch wieder Gesetze, die es auch schon vor KI natürlich gab, die wir jetzt irgendwie anwenden müssen. Und da steht eigentlich immer im Fokus, wenn jemand erkennbar ist auf einem Bild, dann greift das. Ob ich das jetzt selbst zeichne, also ob ich dich nachzeichne, ob ich ein Foto von dir mache oder das eben KI generiere und man dich erkennen kann, dann...

01:38:16 bist du natürlich in deiner Persönlichkeit betroffen und dadurch auch geschützt. Und aus dem Grund greift eben auch hier das Recht am eigenen Bild und wir haben Schutzmechanismen, sodass man gegebenenfalls dagegen vorgehen kann. Was das mit der KI noch so ein bisschen schwieriger oder vielleicht...

01:38:35 Schlimmer machen kann, ist, dass man durch diese Deepfakes natürlich jemanden auch in ein komplett anderes Licht rücken kann. Das heißt, man kann dem irgendwelche Dinge in den Mund geben, die er eigentlich so nicht gesagt hat. Oder man hat auch oft diese pornografischen Deepfakes. Also das ist dann nochmal eine andere Schwelle, sodass wir da vielleicht sogar im strafrechtlichen Bereich sind, was so bei den ganz gewöhnlichen Recht am eigenen Bild-Szenarien eigentlich nicht der Fall ist.

01:39:01 Ja, ganz wichtige Einordnung, denke ich. Wir haben ja ganz am Anfang auch schon über die Deepfakes gesprochen. Über eine Sache, da gibt es glücklicherweise kein Deepfake, der kann sich nicht so groß beschweren, das ist der Weihnachtsmann. Ich weiß gar nicht, ob ihr das gerade eben beide schon mitbekommen habt. Wir haben versucht, mit dem Chat einen Prompt zu stellen. Und das Video ist tatsächlich da. Ich lese aber nochmal den Prompt vor.

Sora 2-Experimente: Realismus mit Grenzen

01:39:23

01:39:23 Den wir da bei Sora 2 eingespeist haben. Und zwar lautete er da, der Weihnachtsmann ist in der U-Bahn in Berlin und isst dort ein Döner. Der Weihnachtsmann torkelt und ist betrunken. Im Hintergrund findet eine Demonstration statt für mehr Ostern. Und die Stimmung allgemein in der U-Bahn ist schlecht, deprimierend und sad. Ich bin sehr gespannt. Ich habe keine Ahnung, was da jetzt rauskommt. Aber hier ist das Video von Sora 2, was ihr erstellt habt.

01:39:51 Mehr Ostern. Mehr Ostern. Die haben doch alle einen Knall. Döner, das ist Weihnachten, verstehst du? Man, Prost, Kinder.

01:40:04 Was? Also ich weiß nicht, was ihr im Kopf hattet. Meine Szenerie war eine ganz andere. Ja, wo war die Dero? Deine Reaktion ist genau das, was diesen AI-Slop beschreibt. Der User entscheidet, ob er was gut findet oder nicht und es ist halt lustig und dementsprechend kommt das leider gut an.

01:40:29 Ja, man hat aber, ich weiß nicht, wie es euch gemacht hat, aber doch meiner Meinung nach an der Stimme schon immer noch erkannt, mindestens an der Stimme und an diesem merkwürdigen Gerufen im Hintergrund, dass das nicht ganz... Also Sora ist auch kein gutes, kein richtig gutes Video- und Tonmodell, aber was das gut macht, ist, die Szenen, die sehen sehr realistisch aus, wie schlecht aufgenommen, aber der Ton, der ist nicht gut bei Sora tatsächlich.

01:40:56 Ja, wir haben übrigens noch, das konnte ich nicht wissen, noch ein paar andere Sachen aus dem Chat gesammelt. Unser KI-Experte hat sich da noch ein bisschen was zusammengesucht. Wir haben noch ein, zwei andere Videos noch vorbereitet, von denen ich auch nichts weiß. Also ich weiß auch nicht genau, was da jetzt rauskommt. Schauen wir mal rein.

01:41:19 Ja, ich glaube, das war der Weihnachtsmann, der auf dem Times Square tanzt. Das liest ja dein Gesicht. What the fuck? Ich denke mir einfach nur, oh Gott, da wurde jetzt irgendwo Wasser und Energie verschwindet, um das zu kreieren. Nein, Spaß beiseite. Also, es ist schon, ja, verrückt und es hat mich gerade total erinnert an diese WhatsApp-Videos, die meine Oma so zu Weihnachten zum Beispiel in die Familiengruppe posten würde.

01:41:48 Und das Witzige ist, also ich erlebe das auch gerade in meinem Bekanntenkreis. Also ich kenne auch eine Person, die jetzt so Mitte 30 ist, die zuletzt einfach so ein ähnliches Video in eine Gruppe gepostet hat, wo ganz klar war für die meisten Leute, das ist KI. Aber die Person hat halt gedacht, das ist ein witziges Meme-Video. Aber Alice, einmal eine Frage an dich. Du bist ja schon eher größere YouTuberin.

01:42:12 Du hast dich nicht bei Sora angelegt, oder? Als Cameo? Also dich kann man nicht als Cameo bei Sora nutzen, oder? Wie stehst du dazu? Wie ich dazu stehe? Ich habe das natürlich bei Papa Platter beobachtet. Das haben wahrscheinlich viele mitbekommen, dass der sich da so freigegeben hat. Wobei es, glaube ich, für ihn auch ein sehr guter PR-Stunt einfach war, weil all diese Videos mit seinem Gesicht existieren.

01:42:36 Ich bin da einfach, also ich habe jetzt gar keinen großen Grund, warum ich das nicht gemacht habe. Ich bin da eher so nach dem Motto, Vorsicht ist besser als Nachsicht. Und ich will da jetzt noch nicht mein Gesicht irgendwie für alle möglichen Menschen und Konzerne freigeben. Wobei das wahrscheinlich eh im Hintergrund sowieso schon passiert. Aber willst du das nicht lieber dann selbst kontrollieren? Weil es wird, wie du auch weißt, gibt es ja wahrscheinlich die Fakes von dir. Ich habe tatsächlich noch nie eins gesehen von dir. Aber es scheint es ja geben. Aber willst du nicht dann lieber doch die Kontrolle haben darüber und das selber machen?

01:43:05 Also ich kann dir auch dabei helfen, dich anzulegen, wenn du willst. Aber hätte ich die denn? Also natürlich hätte ich dann über diese Sachen die Kontrolle, aber wenn jetzt jemand auf TikTok eine Werbung mit meinem Gesicht schaltet, durch irgendeine andere KI, habe ich ja nach wie vor nicht Kontrolle drüber, oder? Das können sie ja jetzt schon. Also das ist ja jetzt schon möglich, aber diese Cameo-Sachen, dann ist das vielleicht das Internet mit dir als Meme überflutet und weniger als Scam, irgendwelche Wettbodenwerbung. Das ist vielleicht, weil ich in der Bubble bin.

Systemrisiken und EU-AI-Act

01:43:35

01:43:35 Wir haben übrigens noch einen Community-Gast, der sich mit dazu geschaltet hat. Und bevor wir weiterquatschen, würde ich die Person gerne mit dazu holen, die unter mir jetzt gleich hier erscheinen müsste. Ja, genau. Da bist du. Können wir dich hören? Ich glaube, ja. Kannst du noch kurz was sagen? Ja, wir hören dich. Hallihallo. Wie ist denn dein Name? Wer bist du denn? Ja, autistisches Igelchen. Einige kennen mich schon. Warum ich mich gemeldet habe, ist, ich wollte noch ein paar...

01:44:03 Themen auch ansprechen. Ich habe im September auch meine TÜV-Zertifizierung zur KI-Spezialistin hinter mir und habe mich vor allem mit dem EU-AI-Act auch auseinandergesetzt und setze mich auch ein bisschen so mit IT-Security auch auseinander. Und KI ist aus meiner Sicht einfach ein großer Hebel. Also wir haben einmal systemische Risiken

01:44:31 wo, wenn dann mal was aufkommt, dass das dann auch systemisch wirkt und wo deutlich viele auch eine Beeinflussung haben. Aber es gibt auch eine große Chance eben für eine große Skalierung. Und deswegen kann man, glaube ich, KI nicht einmal vergöttern oder verteufeln, sondern wir müssen halt lernen, wie wir damit umgehen.

01:45:00 Aber was mich natürlich schon besorgt ist, letztens, ich glaube vor ein paar Wochen hatte Google auch mitgeteilt, dass es jetzt Mailware gibt, die selber auch KI-Funktionalitäten nutzen, um zum Beispiel ihren eigenen Code zu verändern, um so an Hirnscannern vorbeizukommen. Und das ist schon so Next-Level-Shit ungefähr. Oder...

01:45:28 wo wir dann auch mithilfe von KI einfach instant so viel Daten erzeugen können und letztens hat auch Microsoft ungefähr 17 Terabyte pro Sekunde abwehren müssen als DDoS-Attacke und das kriegen halt die wenigsten mit, so als normale Nutzer. Es ist tatsächlich so, dass es natürlich auf unterschiedliche Art und Weise ein bisschen weg von

01:45:56 KI auf Social Media, aber nichtsdestotrotz, dass auch davor gewarnt wird, dass viele, dass Unternehmen gewarnt werden, dass man ihre Mitarbeiter da viel mehr schulen müsste, damit man sich besser auskennt, was gerade KI-Content auch betrifft, mit dem man natürlich, ob es jetzt E-Mails sind oder Videos, ich stelle mir vor, nur als Beispiel, ich stelle mir vor, wie

01:46:18 beispielsweise der Abteilungsleiter, gediebfakt wird und man denkt, ja gut, also wer würde den jetzt den Abteilungsleiter deepfaken? Und dann eine Nachricht oder ein Video davon bekommt und dann da eben Mitarbeiter auch schulen müsste. Ich glaube, das ist durchaus eine Sache, die dann auch wieder irgendwann natürlich mit dem zusammenhängt, was man auf Social Media lernt und sieht. Und ich glaube, da muss man dann wahrscheinlich ansetzen. Ja, spannend.

Scams und Medienkompetenz als Schlüssel

01:46:45

01:46:45 Und also die Scams auch in Social Media werden krasser aus meiner Sicht, weil die Qualität wird immer besser und die Gefahren. Also zum Beispiel könnte ich mir vorstellen, dass auch sowas wie Enkeltricks halt noch viel natürlicher rüberkommen, was man dann auch bei Social Media Aktionen ja auch kennt. Ich meine, allein diese Battle Kampagnen.

01:47:11 wo irgendwelche Kinder erzeugt werden, die gar nicht real sind und dadurch Millionen von Euro oder Dollar eingesammelt werden. Also da braucht es aus meiner Sicht auch irgendwelche Tools, wie man dann solche Erzeugnisse auch langfristig auch mal erkennen kann. Ob das möglich ist, sei mal dahingestellt.

01:47:40 müssten gerade Plattformen, also gerade auch Anbieter von KI, laut EU-AI sind ja auch zu Transparenzpflichten aufgefordert, generierte Sachen auch als KI generiert darzustellen. Und ich meine so Enkeltricks, also wie KI-Renten zum Beispiel, gibt es ja bereits auch schon, die Geld sammeln. Alicia, du hast gerade auch genickt und zugestimmt.

01:48:09 Ich habe gerade daran gedacht, ich habe jetzt schon ein paar Mal so gesehen, so vermeidliche TikToks von irgendwelchen Opis, die irgendwie weinen und sagen, hier, ich stelle den Schmuck her in meiner Werkstatt und keiner kauft es. Und dann gehst du aufs Profil und siehst, das ist in jedem Video irgendein anderer Opi und das ist eindeutig KI. Und wenn du auf den Shop gehst, ist es halt auch eine Kette, die du auch für 90 Cent bei Temu findest. Aber ich glaube, das ist halt mittlerweile auch so eine Marketingstrategie. Ja, voll.

01:48:37 TikTok-Marketing so ungefähr, da auf die Tränendrüse zu drücken. Und das, was wirklich am besten funktioniert, was ich beobachtet habe jetzt in Social Media mit Scams, sind die Beauty-Shorts. Ich weiß nicht, ob ihr das kennt, da ist so ein alter Arzt, der sagt, ich operiere seit 15 Jahren Frauen, diese Lebensmittel sollten Sie definitiv nehmen für glatte Haut und dann zählt er am Ende sein Produkt. Die schlimmer sind aber auch irgendwelche, also das sind dann

01:49:06 irgendwelche vermeintlichen OF-Girls, die dann sagen, so, ich habe jedes Mal den reichsten Mann gefunden, also TikToks, die werden zugeschickt und dann wird auch wieder ein Produkt beworben und die haben dann Millionen Likes, da frage ich mich erstmal, wer likes erstmal und das ist so realistisch, dass ich selbst dreimal hingeguckt habe, bis ich gesehen habe, dass das KI ist. Also die nutzen die heftigsten Modelle, das ist eine Millionenmasche, also Social Media für Scam.

01:49:31 Das war schon immer eine Scam-Maschine. Und wie Alice ja schon gesagt hat, Social Media ist auch nicht mehr sozial, schon lange nicht mehr. Es geht jetzt irgendwie nur noch um Konsum und jeder hockt zu Hause und sucht sich den nächsten Dopamin-Kick und den nächsten Shopping-Kick. Und KI ist ein absoluter Verstärker davon, ja. Du meintest gerade, du wolltest gerade zustimmen. Ja, genau, sorry, ich wollte nur sagen, du wolltest zustimmen.

01:49:57 Ja, also das wird definitiv professioneller, aber deswegen müsste man da auch etwas dagegen steuern, um eben solche Scam-Möglichkeiten auch irgendwie aufdecken zu können. Aber gleichzeitig braucht es auch viel mehr Kompetenzaufbau. Eigentlich ist das sogar vorgesehen, quasi schon Artikel 4, diejenigen, die KI betreiben, auch in Unternehmen nutzen, müssen für die Kompetenz auch...

01:50:26 ja, also sowas aufbauen. Aber ich glaube, damit haben sich noch relativ wenige Leute beschäftigt. Also in manchen Unternehmen wird das auch getan, weil das auch erforderlich ist, aber der EU-Ei-Act hat halt nicht die Privatebene im Fokus, sondern eher immer die geschäftliche Ebene. Und eigentlich bräuchten wir auch in der Gesellschaft ja

01:50:53 eine massive Medienkompetenz-Offensive, dass wir lernen, wie unterscheiden wir auch generative Medien, wie können wir damit umgehen, weil es eigentlich alle betrifft, schon direkt bei den Kindern.

01:51:16 Auch da, weil die werden auch immer mehr mit konfrontiert und die wissen gar nicht, wie kann man das unterscheiden. Also es muss eigentlich schon relativ früh beginnen. Danke dir für deinen Take und dass du kurz mit dabei warst, Igelchen. Vielen lieben Dank. Bleib uns gerne halten und wir schreiben dann gleich nochmal im Chat. Merci, merci.

Kritik an Tech-Konzernen und Dead Internet Theory

01:51:38

01:51:38 Zu dem, was sie übrigens gesagt hat, ganz kurz zu dem, was sie gesagt hat, den Kommentar habe ich mir extra behalten oder aufgehoben, besser gesagt. BV Bene hatte nämlich auch geschrieben, gerade zu dem, ich kann dieses ständige Appellieren an die allmächtige Medienkompetenz nicht mehr hören, die man den Kindern ja eigentlich nur einimpfen müsse. Hauptsache der Fehler liegt allein am Schulsystem und nicht bei den Tech-Unternehmen, die ihre Kundschaft mit Desinformation versorgen und daran verdienen. Der Kommentar im Chat ist schon ein Ticken älter.

01:52:08 Aber ich finde, er passt gerade an der Stelle ziemlich, ziemlich gut. Ich weiß nicht, ob du dazu was sagen kannst oder wolltest, aber das ist mir gerade noch aufgefallen dazu. Also zu Tech-Konzernen kann ich nicht sagen. Deren Ziel ist Gewinnmaximierung. Die tun da alles für. Also ich glaube nicht, dass es da irgendwelche Moralapostel gibt, die sagen, das können wir nicht machen. Das könnte die Kinder verderben. Also das war schon immer. Gewinnmaximierung ist das Problem und nicht die Tech-Konzerne. Von daher, keine Skrupel. Übel.

01:52:37 Verstehe. Alisa, spürst du eigentlich, gerade wenn wir über Social Media sprechen, jetzt mal weg von der Medienkompetenz und weg von den Risiken auf der großen Ebene, aber so ganz privat, wirtschaftlich muss man ja auch dazu sagen, spürst du eigentlich selbst mehr Druck jetzt seit einiger Zeit durch KI-Content, speziell aber durch KI-Videos eigentlich auch?

01:53:00 Boah, gute Frage. Ich würde spontan sagen, eigentlich nicht. Also ich habe das Gefühl, aber vielleicht liegt es auch daran, dass ich vor KI schon da war, dass ich natürlich jetzt so ein bisschen das Gütesiegel habe, dass die Leute wissen, okay, das ist eine echte Person und die macht echten Content. Also da sehe ich jetzt gar nicht so, dass es mehr Druck macht. Ich habe eher so den persönlichen Faktor, dass es...

01:53:28 mir weniger Spaß macht, auf Social Media zu sein und ich mich frage, wie das jetzt eigentlich bei den Leuten da draußen aussieht und ob es vielleicht dadurch irgendwie langfristig Veränderungen gibt, für dann auch meine Belange.

01:53:42 Ja, das ist ganz spannend. Ich frage mich gerade, wie das ist für Leute, die jetzt anfangen, im Internet groß zu werden, weil die das, wie du es selbst gerade sagtest, dieses mutmaßliche Gütesiegel der realen Personen, die vorher schon da war, noch nicht hatten. Wobei man ja auch gegen den Personen ja auch schon ein gewisses Misstrauen hatte, weil...

01:54:02 Influencer-Tuben ist halt auch durchaus negativ behaftet, aber wie das für die Leute ist, die jetzt groß werden und wie die damit arbeiten oder nicht arbeiten oder in Konkurrenz damit stehen und dann sicher vergleichen damit, finde ich eine ganz spannende Debatte.

01:54:15 Ich habe teilweise sogar das Gefühl, dass es vielleicht sogar ein bisschen einfacher wird, weil jetzt so vor fünf, sechs Jahren war so der Anspruch, mein Video muss toll aussehen, ich muss gut ausgeleuchtet sein, ich muss gut geschminkt sein. Und ich habe heute das Gefühl, es wird von gerade den Kurz-Video-Plattformen fast bevorzugt, wenn du da ungeschminkt in deinem Auto halb von unten gefilmt sitzt. Gerade vielleicht, weil die Leute dann noch sehen, okay, das ist eine echte Person, die hat auch echte Makel und das ist jetzt nicht irgend so ein generierter...

01:54:44 Content. Ja, aber um nochmal auf unsere Frage zurückzukommen, das beschäftigt uns ja, wir haben ja jetzt wirklich viel über ganz viele unterschiedliche Ebenen gesprochen, von Deepfakes, über wie wir KI auch nutzen können, um KI und Fake News eigentlich zu erkennen, über Jobverluste und so weiter und so weiter. Jetzt sind wir eigentlich wieder, haben wir den Kreis wieder geschlossen zu Social Media. Mich würde nochmal interessieren von euch beiden, Alicia, zuerst, was genau würdest du denn eigentlich sagen zerstört?

01:55:12 KI und KI-Content eigentlich an Social Media? Also wie verändert es die Plattform als User, aber auch als Creator vielleicht? Also als User in der Hinsicht, dass man sich halt irgendwie bei jedem Post, den man sieht, fragt, ist das jetzt echt oder nicht? Ich bin auch irgendwo der Überzeugung, es kann eigentlich nicht mehr lange dauern, bis die, wie Seldo es eben gesagt hat, gewinnorientierten Konzerne vielleicht auch merken.

01:55:40 ah, das ist gar nicht so schlau, wenn da alles mit KI geflutet wird, weil uns dann irgendwann die Leute abspringen. Oder es geht eben in die andere Richtung. Ich habe auch so ein bisschen die Sorge, dass es am Ende des Tages, wie soll ich sagen, so ein bisschen auch eine Frage von, weil wir auch über Medienkompetenz geredet haben, der eigenen Herkunft und dem sozialen Milieu und so weiter sein wird, wie

01:56:05 Da kommt mein Lieblingsvergleich damals beim Rauchen. Dann war irgendwann klar, okay, Tabakindustrie ist gar nicht so gut, wie es jahrelang hieß. Und dann haben sich die Leute, die das sich von der Bildung und so weiter leisten konnten, haben gemerkt, okay, ich höre mal besser auf mit dem Rauchen und ich bringe meinen Kindern auch bei, dass es nicht so gut ist zu rauchen. Und die Suchtmenschen sind dabei geblieben. Und so ein bisschen habe ich die Sorge, dass es bei Social Media werden könnte.

01:56:33 Dass gerade die Leute, die irgendwie unbeaufsichtigt die Kids mit ihrem Handy alleine im Schlafzimmer gelassen werden, die scrollen die ganze Nacht und lassen sich da berieseln. Und die Kinder, die es sich leisten können, zu Hobbys zu gehen und zum Sport, die werden immer mehr Abstand von Social Media nehmen. Und dass es vielleicht am Ende auch einfach diese Klassenfrage noch mal krasser in beide Richtungen katapultiert. Seldo.

01:57:00 Noch eine Frage an dich und das ist eine sehr große Frage, aber ich finde sie gerade sehr spannend von Neff. Der möchte wissen, wer ist überhaupt schlimm, wenn Social Media in Anführungszeichen kaputt geht? Sind doch nur Plattformen von Tech-Konzernen.

01:57:17 Ich glaube nicht, dass Social-Media-Plattformen kaputt gehen können. Ich glaube eher, dass eher sowas eintrifft wie die Dead-Internet-Theory. Ob es schlimm ist, ich würde sagen nein, weil schlimm heißt, es wurde ersetzt. Also wenn Instagram nicht mehr existiert, dann gibt es halt eine Alternative. Was ich aber auch noch gerne sagen würde, zu der ist Social-Media kaputt. Ich habe nicht das Gefühl, dass Social-Media kaputt gehen kann.

01:57:46 Ich glaube, dass Social Media eher ein Spiegel der jungen Menschen ist, also der größten Teil, der sie benutzt ist. Und die Aufmerksamkeitsspanne wird ja merklich kürzer. Zora Shorts dauern 10 Sekunden. Früher hatten wir bei TikTok wenigstens 60. Wir sind inzwischen bei 10 Sekunden komplette Videos, die du da doomscrollst. Bis zum geht nicht mehr. Konsumenten entscheiden, ob was erfolgreich ist oder nicht. Nicht wir beide, wie drei. Dementsprechend Social Media...

01:58:13 wird nicht kaputt gehen durch KI, sondern ich denke eher, dass wir als Menschen tatenlos zuschauen und aktuelle Influencer, aktuelle Influencer, Alicia, andere, diese haben jetzt eine Position, die ich halte sie für eher unmöglich zu erreichen in den nächsten zehn Jahren, weil Alicia könnte sich jetzt zum Beispiel für immer in dieser Position, in dieser Optik, wie sie jetzt ist, als YouTube-Video-Charakter machen.

01:58:41 Und bleibt auch dementsprechend wahrscheinlich immer up to date. Aber jemand, der jetzt neu dazukommt, der konkurriert nicht mehr mit den alten YouTubern. Der konkurriert jetzt mit tausenden KI-Avataren, die Dopamin systemisch, psychologisch studiert ausschütten mit ihren Videos. Also ich denke, Social Media wird ein reiner Kampf zwischen KI-Avataren und weniger das, was wir jetzt haben. Wenn du willst, dann ist kaputt.

01:59:09 Seldo, vielen lieben Dank für deine wirklich spannenden Takes. Bleibt uns gerne noch für die letzten Minuten nahehalten im Chat. Danke dir für den Talk und dir noch einen schönen Abend. Merci, merci. Tschüss. Mal schön. Alicia, Seldo hatte gerade den Begriff Dead Internet Theory genannt. Du hast auch schon darüber gesprochen. Was genau hat es damit auf sich? Wir haben es gerade eben schon kurz angerissen, aber vielleicht kannst du es nochmal erklären für alle.

Prävention und Zukunft von Social Media

01:59:37

01:59:37 Ja, es ist erstmal eine Theorie, die es jetzt von bis gibt. Also wirklich auch in so eine richtige Verschwörungsrichtung. Ich versuche mal das Extremste zu skizzieren. Das wäre die Aussage, das Internet ist eigentlich schon längst tot. Da kommentieren zu 99 Prozent irgendwelche Bots und die paar Leute, die da noch das konsumieren, die sind eigentlich ziemlich doof, weil...

02:00:02 Das Internet ist tot und es gibt nur noch so ein paar Leute, die das lenken und zu ihren Gunsten nutzen. Ich würde behaupten, so schlimm ist es nicht, sondern es ist aber so eine Tendenz, die man schon beobachten kann, dass zum Beispiel im US-Wahlkampf, ja gerade zum Beispiel Bots auf Twitter oder heute X, ja für viel Traffic gesorgt haben, bestimmte Narrative, Kommentare gepusht, gehypt, geliked haben und dass eben auch heute schon

02:00:31 eben immer mehr Content von, also rot ist, also von Computern generiert wird, nicht mehr von echten Menschen und dass halt das Internet sozusagen immer weniger von echten Menschen und mehr von Bots bevölkert wird. Ja. Übrigens, Donaris wollte noch von dir was wissen und zwar hast du denn, ich blende es kurz ein, hast du denn eine Möglichkeit, dich davor zu schützen, dass dich jemand ungewollt in ein KI-Modell verwandelt und wenn dir das jemand anbietet, dass

02:00:59 professionell zu tun. Wie schützt du dich davor, dass dieses KI-Modell von dir dann nicht doch auch missbraucht wird?

02:01:08 Das sind zwei Fragen. Das ist eine gute Frage. Das wird die Zeit zeigen. Also so eine richtige Möglichkeit habe ich nicht, bis natürlich auf den rechtlichen Weg. Also ich denke schon, dass man da, wie wir ja auch eben die Experten hatten, hier vor Gericht recht kriegen würde, wenn jetzt jemand mein Gesicht für eine Werbung benutzt. Aber die Leute überhaupt erst mal ranzukriegen, ist teilweise fast unmöglich. Und dementsprechend kann ich eigentlich nur zugucken oder zumindest meine Plattform nutzen. Wenn jetzt irgendwas Großskandalöses rauskäme, könnte ich immerhin sagen,

02:01:38 Hallo Leute, nee, das war nicht ich. Das sind so die Möglichkeiten, die ich gerade habe. Vielleicht gibt es in Zukunft bessere Möglichkeiten, wenn die Plattformen nachrüsten, die Justiz nachrüstet, aber aktuell eher mau. Fühlst du dich da hilflos oder ist das irgendwie, oder denkst du dir noch gar nicht so viel dabei? Also ist es für dich eine reelle Gefahr und deswegen auch eine alte Hilflosigkeit oder denkst du dir, naja, ich nehme mich jetzt noch zurück, so schlimm ist das alles noch nicht?

02:02:05 So eine Mischung aus beidem. Also ich fühle mich hilflos, aber ich habe so das Gefühl, ich habe halt eh mit meinem Gesicht und meinem Auftreten im Internet ziemlich viel meiner Rechte abgegeben. Und ja, dann ist es halt irgendwann so. Ich kann jetzt eh nicht mehr zurück. Also selbst wenn ich sagen würde, ich gehe ab heute raus aus dem Internet. Ich bin ja schon da gewesen und man könnte nach wie vor Content mit mir erstellen. Es ist so eine Mischung und deswegen bin ich eigentlich auch gelassen, weil es irgendwie...

02:02:35 jeden betreffen wird in Zukunft. Vielleicht auch ein bisschen naiv von mir. Justus schreibt übrigens noch, die, vielleicht bin ich gar nicht Manuel Neuer Werbung, würde heute ganz anders kicken. Ich weiß aber nicht, ob sie besser kicken würde.

02:02:50 Ja, es wäre auf jeden Fall, sie wäre wahrscheinlich deutlich einfacher umzusetzen. Man könnte es jetzt richtig sogar schon mit Morphen machen, selbst ich als Person, die jetzt nicht so wirklich videobearbeitungsaffin ist. Aber es wäre heute nicht mehr so beeindruckend. Das stimmt. Nee, nicht wirklich. Übrigens, apropos Rechte angeben, du hast das vorhin, ich glaube, vor 20 Minuten mal kurz eingesprochen. Papa Platte, das war ja ein großes Beispiel, was du gerade eben schon gegeben hast. Wie hast denn du das wahrgenommen und was ist da genau passiert? Vielleicht kannst du es auch nochmal aufgreifen.

02:03:20 Ja, Papa Platte hatte das gemacht, was, glaube ich, in den USA schon einer von denen hier Jake und Logan Paul Brüdern gemacht hatte. Ich bewerte es jetzt einfach mal als eine Art PR-Stunt auch. Und zwar, er hat halt als einer der ersten deutschen Influencer dieser Sora-KI sein Gesicht gegeben und auch wirklich seine Community aufgefordert. Macht damit irgendwelche Videos, macht damit irgendwelche Memes. Und die haben dann für ein paar Tage und Wochen...

02:03:46 TikTok und Instagram Reels und YouTube Shorts geflutet regelrecht, weil da halt wirklich witzige Clips entstanden sind. Also ich habe auch ein, zwei Clips gesehen, die ja irgendwo auch, wo man ein bisschen schmunzeln musste. Genau. Und ja, ob das jetzt positiv oder negativ ist, ist die große Frage. Die KI hat auf jeden Fall jetzt die Rechte an Papa Plattes Gesicht.

02:04:11 Und anderen auch. Und hat sich aber auch wahrscheinlich wieder entzogen. Ich bin mir gar nicht hundertprozentig sicher. Aber für dich wäre sowas keine Option, das zu machen. Auch nicht für den PR-Stand, auch nicht für...

02:04:25 Für die Klicks am Ende des Tages. Ja, ich weiß nicht warum. Also ich weiß natürlich, dass es wahrscheinlich so oder so passiert. Aber ich habe zum Beispiel bei YouTube kann man so einen Haken setzen, ob man möchte, dass die eigenen Videos für Machine Learning und AI genutzt werden. Das habe ich ausgeschaltet. Aber ich glaube, das ist auch ziemlich naiv, dann zu denken, dass es nicht passiert. Also wahrscheinlich haben schon sehr viele Modelle da draußen auch anhand von meinem Beispiel gelernt, wie man eben.

02:04:52 Menschen generiert, die in Video-Settings sitzen. Ja. Ich muss zugeben, ich sitze da manchmal auch und denke mir, ich habe gleichzeitig Angst und gleichzeitig ist es mir auch ein bisschen, egal, das ist mir gar kein Fall, aber so eine Art von, ich bin so ein bisschen machtlos und weiß nicht so genau, was ich tun soll, weil ich denke, irgendwann passiert so oder so. Aber ich glaube, das ist wahrscheinlich auch, wenn man das verändern möchte, wahrscheinlich auch die falsche Einstellung.

02:05:22 man ist dann doch schon so sehr irgendwie im Internet, gerade wenn man ohnehin schon seit langer Zeit was dort macht und dann denkt man sich, naja gut, ich kann jetzt auch nicht aufhören, so wie du es eigentlich auch gesagt hast. Ja, finde ich irgendwie ganz spannend. Übrigens, ich habe gerade noch ein paar Tage, die sind zu...

02:05:37 Ah ja, zur Erziehung. Hier nämlich, unsere Welt aktuell ist in einem extremen Wandel und als Erziehungsberechtigte, verantwortungsvolle Mutter oder Vater muss man sich meiner Meinung nach mit den neuen Gefahren dieser Welt beschäftigen und seine Kinder zu schützen. Du hast das auch in manchen anderen Gesprächen, ich habe es hier auch nochmal eingeblendet, Achtung, auch schon mal erwähnt, dass du da nicht nur die Eltern oder nicht nur den Staat oder die Schule in der Pflicht siehst, darüber aufzuklären, sondern tatsächlich ja auch die Eltern. Ja.

02:06:06 Also ganz vereinfacht gesagt, als halt irgendwann nicht mehr die Kutschen gefahren sind und die Autos, dann mussten sozusagen die Eltern auch den Kindern beibringen, dass man eben nicht einfach so über die Straße laufen kann. Und leider, leider, ich wünschte, es wäre anders. Ich wünschte, man könnte die Eltern da entlasten und sagen, ja, die Schule wird das regeln und in der Schule wird das alles beigebracht. Aber leider, leider gehört es eben, das ist die Realität, auch zur Aufgabe der Eltern, die Kinder da aufzuklären, zu schützen und zu begleiten.

02:06:35 in der Social-Media-Welt, die eben jetzt für viele Leute einen ganz, ganz großen Teil, alleine was die Stunden am Tag betrifft, des Lebens einnimmt. Und da muss man wahrscheinlich schon vor der Schule anfangen mit dem Anleiten. Ja, ich meine, ein Punkt wäre ja zum Beispiel, aber das muss man natürlich dann auch wissen, wie du es gerade eben schon erwähnt hast, dass eben Kommentarspalten von Bots geflutet sind.

02:07:02 und die sich dann aber auch als echte Menschen ausgeben oder die beispielsweise ja auch dann ganze Videos analysieren können oder Transkripte analysieren können und dann sogar inhaltlich darauf eingehen können, wo man dann beim ersten Hingucken denkt, ja, das ist ein legit Kommentar, der hat sich dann wohl auseinandergesetzt, ist es aber gar nicht, weil es eigentlich nur ein Bot ist. Ich meine, das wäre ja auch so eine Sache, über die man dann aufklären muss, aber das entwickelt sich ja auch so schnell weiter, ja, da muss man selbst als Creator erstmal hinten dran gucken.

02:07:30 Das ist genau die Sache. Also genau das, was du erwähnt hast, habe ich auch schon gehabt, dass ich gesehen habe, irgendwelche Kommentare unter meinen Videos, die sich wirklich aufs Video bezogen haben. Also sowas in Richtung so, ja, das, was du bei Minute 23 sagst, ist total wahr. Da habe ich mir das Profilbild angeguckt und das war dieses typische Bot-Profilbild. Und dann stand da auch irgendwie vor zwei Stunden beigetreten, was ja auch immer so ein Zeichen dafür ist, dass es ein Bot ist.

02:07:54 Die Bots können jetzt auch YouTube-Transkripte auslesen und dementsprechend reagieren, was ja eigentlich klar ist, weil das Material ist da und das wird nicht mehr lange dauern, bis das noch gängiger ist und man Bots noch weniger erkennen kann.

02:08:11 Gehst du dann darauf ein, also beziehungsweise gehst du dann auf den Kommentar und sagst Danke Bot, damit das alle klar erkennen können oder löscht du sowas? Wenn ich sowas sehe, lösche ich sowas, aber da kann ich ja leider auch nicht hinterher sein bei mehreren hundert Kommentaren. Ich versuche natürlich in meinen Videos auch immer die Community so ein bisschen dazu zu erziehen, dass sie das vielleicht auch wissen, aber am Ende des Tages...

02:08:38 Ja, versuche ich es meistens zu löschen oder ich habe aber auch schon mal, also ich mache mich auch gerne so ein bisschen lustig drüber. Also eine Zeit lang war es ja irgendwie so ein Ding, dass die Bots immer kommentiert haben, ihr Video ist wirklich ein wundervoller Zeitvertreib und dann immer so drei random Emojis. Dann habe ich das teilweise selber bei anderen Creatoren so drunter kommentiert, weil ich das dann immer ganz witzig finde. Aber wer weiß, wenn die KI-Revolution kommt, dann werde ich wahrscheinlich als erstes an den Pranger gestellt, weil ich mich lustig gemacht habe über die KI.

02:09:05 Ja, wahrscheinlich wird es genauso kommen. Hoffen wir es nicht. Hoffen wir es nicht. Lieber Lisa, vielen Dank, dass auch du bei uns zu Gast warst und deine Kenntnisse und dein Wissen mit uns geteilt hast hier zum Thema Social Media und KI und ob es das andersrum, ob KI Social Media kaputt macht. Ob Social Media KI kaputt macht, die Frage könnte man auch umdrehen eigentlich. Aber das wäre ein ganz anderes Thema für sich. Naja, vielen Dank, dass du heute Abend dabei warst. Ja, danke, dass ich da sein durfte.

02:09:33 Sehr gerne, sehr gerne. Danke dir. Und ich schaue jetzt noch mal ein bisschen in den Chat rein. Also, Leute, was war eure größte Erkenntnis heute Abend? Ich habe viel, viel gelernt. Ich muss nur sagen,

02:09:48 unsere KI-Erkennung, also die Pulserkennung zwischen Stirn, Augenpartie und Gesicht. Das war für mich, glaube ich, das größte Learning, dass das funktioniert. Aber wahrscheinlich auch nur für ein paar Monate und dann ist es auch schon wieder vorbei. Naja, das war für euch ein Learning heute Abend. Schreibt mir das gerne mal in den Chat. Während ihr das macht, liebe Leute, kann ich euch verraten, wir haben noch...

02:10:13 Ein einziges KI-Video in petto, was unser KI-Experte, Story2-Experte, in die Maschine mal reingeschmissen hat. Und das wollen wir euch nicht vorenthalten. Das war nämlich neben dem Weihnachtsmann noch, glaube ich, ein Hase, habe ich mir sagen lassen. Liebe Regie, haben wir das vorbereitet? Ich glaube, ja. Schauen wir mal rein.

02:10:36 Guten Abend. Fahrausweise bitte. Ach so, Moment mal. Hier, nimm doch den Döner. Ist besser als ein Ticket. Nett, aber ich brauche Ihr Ticket, nicht Ihr Abendessen. Hab keins, nur Hunger.

02:10:48 Also diesen Hasen als Kontrolleur, diesen Osterhasen als Kontrolleur für den Weihnachtsmann. Hatte sich noch jemand von euch gewünscht im Chat? Das haben wir natürlich umgesetzt. Ja, mein Learning, Apple Dämmerung, mein Learning, ich muss eher einschalten. Glaube ich nämlich auch. Also wenn du das das erste Story 2 Video gesehen hast, dann hast du zwei beeindruckende Videos verpasst.

02:11:16 Ja, kann ich nur bestätigen. Welche Stimme gehört zu wem? Das habe ich mich, ehrlich gesagt, auch gerade gefragt. Wer da eigentlich jetzt bei wem gesprochen hat. Naja, die ist Berlin, also realistisch. Ich glaube, das fasst irgendwie ganz zusammen. Und mehr Ostern. Ja, Leute, mir hat es Spaß gemacht. Ich kann euch aber sagen, das Gute ist, es ist ja noch nicht alles KI.

02:11:40 Noch ist nicht alles KI. Und ja, KI revolutioniert viel. Aber viel krasser ist es doch eigentlich, wenn Menschen noch selbst mal Hand anlegen und beispielsweise Videospiele erstellen. Und zwar beim ARD.

02:11:55 Game Jam, da möchte ich noch kurz drauf eingehen, denn das sind echte Menschen, die bei diesem Game Jam 48 Stunden lang komplette Games aus dem Nichts erschaffen. Also wie in der KI nur viel, viel besser. Und da ist dann auch wirklich echte Kreativität und Experience gefragt. Und das wollen wir eben gemeinsam hier an den Start bringen und machen und nicht der KI überlassen. Und genau deshalb gibt es beim ARD Game Jam...

02:12:16 Classical Edition im Februar 2026 hier bei der ARD auf Twitch. Genau das. Und da könnt ihr mitmachen und eben auch Teil der Sendung sein. Und die könnte ich da bewerben, noch bis Mitte Januar. Und im Februar sehen wir dann vielleicht euch auch hier auch schon wieder, wie ihr dann Games entwickelt und euch vielleicht auch inspirieren lässt von Live-Performances, vom SWR Symphonieorchester. Und es gibt auch ein Preisgeld in Höhe von 2500 Euro. Also die Chance dazu,

02:12:46 Das zu gewinnen. Checkt einfach mal diesen QR-Code hier aus. Da macht ihr euch einfach einen Screenshot. Da sind alle Infos dazu. Und wir haben übrigens auch einen Kommentar im Chat. Also, man kann es eigentlich gar nicht übersehen. Informiert euch. Das ist eine richtig coole Sache. Und vielleicht sehen wir euch dann ja im Februar 2026 hier auf dem Twitch-Kanal wieder. Mit spannenden Games, die nicht von der KI entstellt wurden. Das, finde ich, ist immer ein Vorteil. Immer ein Vorteil. Ohne KI, Cloud Walker. Ohne KI machen wir das hier.

Ausblick und nächste Sendung

02:13:15

02:13:15 Oder besser gesagt im Februar. Ach Mensch, ich fand es war eine unterhaltsame Sendung mit sehr vielen Erkenntnissen, muss ich sagen. Danke, dass ihr dabei wart. Nächste Woche, by the way, bei Mixtalk, gibt es da den großen Games Recap 2025 mit meiner Kollegin Lucia. Schaltet auf jeden Fall gerne wieder rein. Pünktlich immer nächste Woche um 20.30 Uhr am Mittwoch. Danke euch, dass ihr dabei wart. Das hat echt Spaß gemacht. Und vor allem die Prompts erstellen mit euch, das war echt...

02:13:44 Es hat Spaß gemacht. Es war irgendwie lustig. Wir haben ein paar lustige Videos erstellt und bei ein Thema haben wir noch nicht gesprochen, dass die Energienutzung, die da rauf geht, aber das können wir vielleicht an anderer Stelle machen. Danke euch. Schönen Abend und bis nächste Woche hier bei Mixtalk in der ARD. Euer Marvin. Bis dann.