Gutachten: KI, Medien- und Demokratiekompetenz

Durch die 2022 erfolgten Veröffentlichungen von Text-zu-Bild-Generatoren und Chatbots wie ChatGPT ist das Thema „künstliche Intelligenz“ in großen Teilen der deutschen Bevölkerung angekommen – mit all seinen Möglichkeiten und Fallstricken. Medienkompetenz ist gefragt. Der GOA-Blog stellt ein Gutachten der deutschen Landesmedienanstalten vor, das den Zusammenhang von Medienkompetenz und KI für eine freie Medienbildung und damit auch für die Entwicklung von Demokratiekompetenz untersucht.

„Demokratiekompetenz stärken“ der Medienanstalten.

Wir freuen uns, wenn wir mithilfe künstlicher Intelligenz ein tolles Bild erstellt haben, ärgern uns aber über einen Deepfake, den wir nicht als solchen erkannt haben. Wir freuen uns über eine Vielzahl von Kurzvideos mit Inhalten, die uns interessieren, ärgern uns aber, wenn plötzlich eine Reihe fragwürdiger Inhalte ausgespielt werden. Künstliche Intelligenz ist mit ihren Chancen und Risiken eine ambivalente Technik, die immer auch unsere Fähigkeiten der aktiven oder passiven Nutzung von Medien berührt. Auch mit KI müssen wir lernen umzugehen – gerade in Zeiten generativer Techniken, die „auf Zuruf“ (also Prompts oder Text- oder Spracheingaben) Inhalte erstellen: Texte, Bilder, Audios und Videos.

Was ist hier noch echt, was künstlich erzeugt? Wie steht es um den Wahrheitsgehalt der künstlich erstellten Informationen? Die „acatech – Deutsche Akademie der Technikwissenschaften“ hat im Auftrag der Gremienvorsitzendenkonferenz (GVK) der Landesmedienanstalten ein Gutachten zum Thema „KI und Demokratiekompetenz“ angefertigt – mit dem Ziel, die Auswirkungen von KI auf den Medienbereich zu untersuchen und Maßnahmen zur Stärkung der Medien- und der Demokratiekompetenz vorzuschlagen (siehe S. 7). Medienkompetenz wird als eine Voraussetzung für Demokratiekompetenz angesehen: Medien seien in unserer Gesellschaft die primären Informationsquellen (S. 14). Und eine Demokratie funktioniere nur mit mündigen Bürger*innen, die aktiv und selbstbestimmt an demokratischen Prozessen teilnehmen, mitbestimmen wollen und imstande sind, informierte Entscheidungen zu treffen. Nach der Definition grundlegender Begriffe (KI, Medienkompetenz, Demokratiekompetenz) geht es in dem Gutachten um die Beschreibung der Möglichkeiten, die KI im Medienbereich aktuell bereits bietet, z.B.:

• die Verarbeitung großer Datensätze für die Analyse sowohl von Inhalten, um sie z.B. thematisch zu sortieren oder auch zu verifizieren, als auch von Nutzer*innenverhalten, um Inhalte zu personalisieren oder passgenaue Werbung zu schalten – dies geschieht über das sogenannte maschinelle Lernen (ML) und seine Algorithmen;
• die automatisierte Erstellung von Texten, Bildern, Audios und Videos, etwa für standardisierte Sportmeldungen, Bebilderungen von Artikeln, aufwendige Erklärvideos und -animationen oder für Teile eines Radioprogramms – dafür steht der Begriff generative KI.

Doch mit diesen technischen Mitteln bzw. durch sie können auch fehlerhafte bzw. bewusst falsche Informationen erstellt werden, z.B. Desinformationen, mit deren Hilfe die öffentliche Debatte manipuliert werden soll. Das Gutachten hält es für möglich, dass durch die automatisierte, massenhafte Erstellung von falschen, aber hochwertig erscheinenden Informationen die Beurteilung, was wahr oder falsch ist, zunehmend schwieriger werden kann. Um die Chancen von KI zu nutzen und ihre Gefahren abzuwehren, gebe es drei Handlungsfelder: Regulierung, technologische Maßnahmen und die Stärkung der Medienkompetenz.

• Erste Schritte einer Regulierung seien bereits durch die Datenschutzgrundverordnung (DSGVO) von 2018, den Digital Services Act (DSA, 2022/24) und den Artificial Intelligence Act (AI Act, 2024) unternommen worden. Regulierungen könnten z.B. die Kennzeichnung von Inhalten betreffen: Sind diese mit Hilfe von künstlicher Intelligenz oder sogar ausschließlich durch diese entstanden? Transparenz führe hier zu mehr Vertrauen der Konsument*innen und Nutzer*innen und unterstütze gleichzeitig die Förderung von Medienkompetenz. Allerdings seien hier Manipulationen durch die Medien-Produzierenden möglich. Auch Selbstverpflichtungen, also z.B. verbindliche Standards für die eigene Berufsgruppe, zählen zu diesem Handlungsfeld.
• Technologische Maßnahmen dienen beispielsweise dazu, algorithmische Voreingenommenheit zu reduzieren, welche in der Vergangenheit immer wieder auftraten, wenn (auch) einseitige Daten zum Training des KI-Systems benutzt wurden.
• Die Stärkung der Medienkompetenz wird vornehmlich als Stärkung der Technologiekompetenz beschrieben, die sowohl das technische Verständnis (die Mechanismen hinter den Inhalten) als auch den aktiven und kreativen Umgang mit der Technologie umfasse.

Einzelne bestehende Maßnahmen zur Medienkompetenzvermittlung im Bereich KI werden anschließend vorgestellt: Studien, die die KI-Nutzung von Kindern und Jugendlichen beleuchten, Forschungsprojekte, die z.B. den Algorithmus von TikTok untersuchen, praktisch ausgerichtete Projekte vor Ort, aber auch Publikationen und Handbücher, Faktenchecks, Websites und einzelne Kampagnen. Zudem werden beispielhafte Projekte beschrieben, die deutlich machen, wie KI selbst bei der Vermittlung von Medienkompetenz helfen kann: KI-basierte Lernplattformen, Chatbots, Analysewerkzeuge für Medieninhalte, News-Aggregatoren und Games. Zum Ende des Gutachtens finden sich noch kurze, übersichtliche Erklärungen der Handlungsfelder und -empfehlungen. Das Gutachten liefert einen guten Überblick zur Thematik sowie zu diskussionsrelevanten Überlegungen, mit welchen Mitteln den Gefahren der KI begegnet werden kann und wie ihre Potenziale ausgeschöpft werden können. zum Gutachten der „acatech – Deutsche Akademie der Technikwissenschaften“ [PDF] Zusammenfassung des Gutachtens [PDF] Pressemitteilung der Medienanstalten zum Gutachten