KI-Deepfake-Entwicklung: EU-AI-Act und gesellschaftliche Herausforderungen

Streamstart und technische Einführung

00:00:00

Der Stream beginnt mit technischen Schwierigkeiten, die sich als Ergebnis eines Neustarts des Streams entpuppen. Rezo klärt auf, dass die Verbindung in OBS stabil ist, keine ausgelassenen Frames vorhanden sind und die CPU nicht überlastet ist. Er betont, dass die Verzögerung auf das fehlende Wissen der Zuschauer über den Neustart zurückzuführen ist. Anschließend wird der Themenfokus auf die Entwicklungen in der KI-Technologie gelegt, insbesondere im Vergleich zu früheren Beispielen wie dem 'Will Smith Spaghetti'-Video vor drei bis vier Jahren.

Rezo diskutiert die rasante Entwicklung der KI-Technologie, insbesondere im Bereich der Bewegungserkennung und Mimiknachbildung. Er verdeutlicht, dass moderne KI-Modelle in der Lage sind, Bewegungen und Mimik so realistisch nachzubilden, dass selbst bekannte Persönlichkeiten wie Schauspieler oder Influencer nicht mehr von echten Menschen zu unterscheiden sind. Er zeigt eine Demo, bei der er selbst mithilfe von KI-Daten trainiert wurde, und betont, wie eindrucksvoll die Ergebnisse in Bezug auf Details wie Augenposition, Bart, Ohren und Haare sind.

EU-AI-Act und gesellschaftliche Auswirkungen

00:04:43

Ab einem entscheidenden Punkt adressiert Rezo die gesellschaftlichen und rechtlichen Implikationen von KI-generierten Inhalten. Er erwähnt, dass der EU-AI-Act ab heute in Kraft tritt und eine Kennzeichnungspflicht für KI-generierte Inhalte vorsieht. Rezo reflektiert kritisch über die Gefahren solcher Technologien, insbesondere im Kontext von Desinformation, Politik und sozialen Medien. Er warnt vor der Gefahr, dass KI-Technologien zur Erzeugung von gefälschten Videos missbraucht werden könnten, die politische Stimmung manipulieren oder identitätsspezifische Angriffe ermöglichen.

Politische und rechtliche Perspektiven

00:17:25

Im weiteren Verlauf des Streams thematisiert Rezo die Verwendung von Deepfakes in der Politik und Medien. Er erwähnt ein Beispiel aus Kanada, in dem ein Politiker eine von einer KI generierte Rede vortrug, und kritisiert die Abgabe der Verantwortung an KI-Tools. Zudem geht er auf die rechtlichen Grauzonen ein: Obwohl es derzeit kein explizites Gesetz gegen Deepfakes gibt, verweisen verschiedene Bestimmungen wie das Recht am eigenen Bild, die DSGVO und das allgemeine Persönlichkeitsrecht auf mögliche rechtliche Konsequenzen. Rezo betont die Notwendigkeit, solche Technologien verantwortungsvoll zu nutzen und zu regulieren.

KI-Content und Influencer-Replikation: Neue Realitäten im digitalen Raum

00:51:43

Rezo thematisiert die zunehmende Nutzung von KI zur Generierung realitätsnaher Inhalte, insbesondere in der Influencer-Welt. Beispiele wie der KI-Avatar Nia Noir, der 700.000 Follower auf Instagram und mehrere Millionen auf TikTok sammelte, zeigen, wie KI-generierte Avatare virale Reichweite erreichen. Die Fetischisierung kultureller Aspekte und das Herunterladen von Bewegungsdaten realer Videos, um sie auf KI-Avatare zu übertragen, wird als Beispiel genannt. Rezo betont, dass Travel-Influencer bald nicht mehr an exotische Locations reisen müssen, da KI-Videos dies ersetzen könnten. Die Entwicklung von KI-gestützten Tanzvideos, bei denen echte Tänze durch KI nachgemacht werden, wird als Beispiel für die Zukunft des Contents genannt. Gleichzeitig warnt Rezo vor der Entwertung von Content, da immer mehr Inhalte gefälscht oder generiert werden können.

Live-Streams als letzte Bastion der Authentizität

00:57:55

Live-Streams werden von Rezo als letzte Bastion der Authentizität beschrieben, da sie in Echtzeit erstellt werden und daher schwer zu fälschen sind. Die technischen Herausforderungen, KI-gestützte Avatare in Live-Streams zu verwenden, seien aktuell noch zu komplex und rechenintensiv. Rezo betont jedoch, dass dies nur eine Frage der Zeit sei, bis auch Live-Streams von KI dominiert werden. Die Verbindung von KI-Technologie und Echtzeit-Interaktion sei das letzte Hindernis, das noch zu überwinden sei. Trotzdem sei es wahrscheinlich, dass auch hier bald KI-Lösungen etabliert sein werden, was die Authentizität weiter untergraben würde. Rezo betont, dass die Technik bereits ausgereift genug sei, um Deepfakes und KI-generierte Inhalte zu erstellen, die nahezu unterscheidbar von echten sind.

Rechtliche und technische Lösungen gegen Deepfakes

01:11:00

Rezo diskutiert die Notwendigkeit von Lösungen, um die Verbreitung von Deepfakes und KI-generierten Inhalten zu kontrollieren. Vorgeschlagen werden ein digitales Echtheitsmerkzeichen, ähnlich dem blauen Haken bei Instagram, sowie ein Personenregister, in dem der Existenzstatus realer Personen dokumentiert wird. Plattformen wie YouTube entwickelten bereits Systeme, um KI-generierte Inhalte zu erkennen und zu entfernen. Rezo erwähnt auch gesetzliche Regelungen, die in Deutschland und der EU diskutiert werden, um die Erstellung und Verbreitung von Deepfakes zu kriminalisieren. Die EU geht mit dem AI-Act einen Schritt weiter, indem eine Kennzeichnungspflicht für KI-generierte Inhalte eingeführt wird. Rezo betont, dass diese Maßnahmen zwar hilfreich sein mögen, aber die Technologie weiterhin voranschreitet und neue Herausforderungen schafft.

KI-Generierte Inhalte und ihre Auswirkungen auf Soziale Medien

01:17:48

Die zunehmende Erzeugung von KI-Inhalten führt zu einer Zunahme von Fälschungen und Fake-Videos, die oft nicht als solche gekennzeichnet sind. Rezo zeigt Beispiele wie ein Video, in dem die Queen im Wrestling gegen Muskelbretter antreten soll, um die Glaubwürdigkeit solcher Inhalte zu unterstreichen. Trotz gesetzlicher Vorgaben, KI-generierte Inhalte Kennzeichen zu verpflichten, werden diese oft ignoriert. Rezo betont, dass die Nutzer*innen oft nicht erkennen können, ob Inhalte echt oder gefälscht sind, was zu einer allgemeinen Desinformation führt. Die Angst, dass Social-Media-Plattformen in Zukunft vollständig von KI-Inhalten dominiert werden, könnte dazu führen, dass Nutzer*innen ihr Vertrauen in diese Plattformen verlieren. Rezo schlägt vor, dass nur Inhalte von Personen vertrauenswürdig sind, die vor der KI-Ära aktiv waren, oder dass eine Zertifizierung für echte Personen etabliert wird.

Medizinische Influencer und kritische Themen: Alina Walbrun unter der Lupe

01:33:31

Rezo und Alpha Kevin widmen sich in diesem Abschnitt dem Thema medizinischer Influencer, insbesondere Alina Walbrun, die in einem Video von Marvin Wildhage kritisch hinterfragt wird. Walbrun hatte eine erfundene Krankheit in ihrer Story beworben, was später aufgedeckt wurde. Rezo geht auf die Rolle von Cortisol als wiederkehrendes Thema in der Gesundheitskommunikation ein und kritisiert, dass Probleme erst aufgezeigt und dann Produkte angeboten werden, die angeblich Abhilfe schaffen. Der Vorwurf lautet, dass medizinische Influencer*innen durch gezielte Unsicherheiten bei ihrer Community Produkte vermarkten, ohne wissenschaftliche Evidenz vorzulegen. Dr. Martin Solwig wird zitiert, der betont, dass es keine Studien gibt, die die Wirksamkeit solcher Produkte belegen. Rezo selbst übernimmt in diesem Kontext eine Reflexionsrolle und stellt die Verantwortung von Influencern in Frage.

Der Abschnitt kritisiert die Praxis medizinischer Influencer, insbesondere Alina Walbrun, die behauptet, durch ihre Produkte wie 'Cortisol One' oder 'Beyond Matcha' Stress hochzulesen oder zu regulieren. Rezo und Alpha Kevin thematisieren, wie solche Influncer*innen scheinbar wissenschaftliche Ansprüche erheben, ohne die notwendige Evidenz zu liefern. Der Vorwurf lautet, dass sie gezielt Unsicherheiten schüren und dann Produkte anbieten, die angeblich Abhilfe schaffen. Dr. Martin Solwig wird zitiert, der betont, dass es keine Humanstudien gibt, die die Wirksamkeit solcher Produkte belegen. Rezo selbst übernimmt in diesem Kontext eine Reflexionsrolle und stellt die Verantwortung von Influencern in Frage. Zudem wird kritisch betrachtet, wie solche Produkte in den Markt gebracht werden, oft unter dem Deckmantel der 'Natur' oder 'Adaptogene', ohne klare wissenschaftliche Fundierung.

Kritik an Alinas Gesundheitsinhalten

01:49:47

Rezo kritisiert Alina Walbrun dafür, dass sie in ihrer E-Broschüre medizinisch ungenaue Informationen verbreitet. Ein Facharzt für innere Medizin hat gezeigt, dass die enthaltenen Aussagen fachlich falsch sind, etwa die Behauptung, dass Gemüse eine magische Darmversicherung bildet. Auch wird kritisiert, dass Alina ohne ausreichende wissenschaftliche Evidenz Produkte vermarktet, die gesundheitsrelevante Auswirkungen haben könnten. Rezo betont, dass solche Inhalte gefährlich sein können, da sie Patienten dazu verleiten könnten, Medikamente durch Nahrungsergänzungsmittel zu ersetzen.

Rezo weicht kurz vom Thema ab, um von Jimothy, einem Waschbären mit Short-Spine-Syndrom, zu erzählen. Jimothy sei ein Internetphänomen, das wegen seiner besonderen Erscheinung und Charakterstärke viel Aufmerksamkeit in sozialen Medien erregt habe. Rezo findet das Tier extrem süß und betont, wie sehr die Community Jimothy liebe. Danach kehrt er zum Hauptthema zurück.

Analyse der Blutzucker-Broschüre

01:57:54

Rezo wirft Alina vor, ihre kostenlose Broschüre ‚Blutzucker Balance Blueprint‘ enthalte zahlreiche fachliche Fehler und lese sich wie KI-generierter Inhalt. Behauptungen wie ‚Gemüse bildet eine Schutzschicht im Darm‘ würden die Realität verzerrt. Auch die Aussage, dass Ausdauertraining den Blutzuckerspiegel senke, indem es mehr Zucker ins Blut bringe, sei physiologisch falsch formuliert. Rezo betont, dass solche Informationen irreführend seien und gesundheitsgefährdend.

Streit um Ärztetitel und Assistentin

02:03:20

Rezo thematisiert, dass Alina behauptet hat, keine Ärztin zu sein, sondern nur eine Medizinerin. Allerdings hat Alina in der Vergangenheit immer wieder öffentlich als Ärztin aufgetreten. Ob die Fehler in ihrer Kommunikation durch eine Assistentin verursacht wurden, bleibt unklar. Rezo kritisiert zudem, dass Alinas Management Abmahnungen gegen Kritiker ausgesprochen hat – darunter gegen Kevin, der sie als ‚Fake-Ärztin‘ bezeichnete. Rezo hält dies für übertrieben und betont, dass Kritik an Alinas Autorität berechtigt sei.

Harvard Extension School Kontroverse

02:13:29

Rezo kritisiert Alina dafür, ihren Zusammenhang mit der Harvard Extension School irreführend zu kommunizieren. Obwohl sie damals lediglich an der Online-Version teilnahm, hatte sie in ihrer Bio ‚Harvard‘ ohne Klärung gestanden. Rezo betont, dass die Extension School kein reguläres Studium an der Harvard University sei, sondern ein kostenpflichtiger Online-Kurs. Dieses falsche Bild trüge zur Aufwertung ihrer Autorität bei und sei ein weiteres Beispiel für irreführende Kommunikation.

Update: Dima und Marvin Wildhage

02:22:44

Rezo wechselt zum Thema Marvin Wildhage und Dima, der in einem Video von Marvin kritisiert wurde. Dima habe ein Produkt angeboten, das angeblich Schutz vor einer ‚Fake-Krankheit‘ bietet. Sein Statements, in dem er betete und sagte ‚Jesus wartet auf euch‘, empfindet Rezo als unangemessen und ablenkend. Rezo interpretiert dies als Versuch, Kritik abzulenken, anstelle, die Vorwürfe ernst zu nehmen.

Bedrohungen gegen Kritiker

02:33:30

Rezo berichtet, dass Alinas Team Kritiker mit Anwalt Drohungen einschüchtert. Manche Influencer erhielten Nachrichten wie ‚Ich zerstöre dich‘ oder Drohungen gegen ihre Familie. Rezo verurteilt dies als inakzeptabel und betont, dass Kritik nicht mit Bedrohungen beantwortet werden dürfe. Gleichzeitig weist er darauf hin, dass auch Alina selbst Bedrohungen erhalten habe, was nicht gerechtfertigt sei, aber dennoch Raum für Diskussion über Grenzen der öffentlichen Kritik lasse.

Rezo fasst den Stream ab und betont, dass er weitere Updates in Zukunft behandeln werde. Er dankt seiner Community für die Unterstützung und kündigt an, dass er auf Sonntagabend um 18 Uhr wieder live streamen werde. Zum Abschluss sendet er seine Zuschauer zu einem IRL-Stream von Feister, Noriax und Hugo, die ein besonderes Event abhalten. Rezo bedankt sich für die gute Stimmung und wünscht allen einen schönen Abend.