Einsatz von KI-Richtlinien für Museen
Künstliche Intelligenz (KI) bietet auch Museen neue Möglichkeiten: Sie kann bei der Recherche, Texterstellung und Übersetzung unterstützen, Arbeitsabläufe erleichtern, Sammlungsdaten erschließen oder zur Entwicklung neuer Vermittlungsangebote beitragen. Gleichzeitig bringt der Einsatz von KI Herausforderungen mit sich - insbesondere in den Bereichen Datenschutz, Urheberrecht, wissenschaftliche Qualität, Transparenz, Diskriminierung und Informationssicherheit.
Die im AI-Act festgelegten Transparenzpflichten sind seit 2. August 2026 anzuwenden. Infos zum Herunterladen siehe unten!
Auch für Museen gilt daher: KI unterstützt - Menschen entscheiden. KI ist ein leistungsfähiges Werkzeug, aber kein Ersatz für menschliches Fachwissen, kritische Prüfung und Verantwortung. KI-generierte Inhalte müssen vor ihrer Verwendung fachlich kontrolliert werden.
Die letztendliche Verantwortung für KI-gestützte Inhalte und Entscheidungen
liegt immer bei den Menschen.
Die folgenden Empfehlungen sollen Museen und ihre Mitarbeiter:innen dabei
unterstützen, KI sinnvoll, sicher und verantwortungsvoll einzusetzen. Sie können
als Grundlage für eigene institutionelle KI-Richtlinien dienen und sollten
regelmäßig - empfohlen wird mindestens einmal jährlich - überprüft und aktualisiert
werden.
Die sieben wichtigsten Grundprinzipien
1. Rechtliche Rahmenbedingungen beachten
Verwenden Sie nur von der jeweiligen Institution freigegebene KI-Systeme. Urheber-,
Persönlichkeits- und Markenrechte sowie die Datenschutz-Grundverordnung (DSGVO)
sind einzuhalten. Auch wenn KI selbst keine Urheberin sein kann, können die
eingegebenen Daten und Inhalte urheberrechtlich geschützt sein. Vor der Nutzung
neuer KI-Tools sollten deren Nutzungsbedingungen und insbesondere die Regelungen zu
Eingaben und erzeugten Inhalten geprüft werden.
2. Menschliche Kontrolle sicherstellen
KI-Ergebnisse dürfen nicht ungeprüft übernommen werden. Mindestens eine fachlich
qualifizierte Person sollte Ergebnisse auf Richtigkeit, Faktentreue, Fairness und
Kontext überprüfen. Besonders wichtig ist dies bei historischen Fakten,
wissenschaftlichen Inhalten, Sammlungstexten und Ausstellungstexten. Denn KI kann
sogenannte "Halluzinationen" erzeugen - also plausibel klingende, aber erfundene
Informationen oder Quellen.
3. Transparenz schaffen
Wenn KI wesentlich zur Erstellung eines Inhalts beigetragen hat, sollte dies
transparent gemacht werden. Insbesondere KI-generierte Bilder, Videos, Stimmen und
Deepfakes sowie KI-Chatbots müssen entsprechend gekennzeichnet werden. Bei rein
unterstützenden Anwendungen, etwa einer Rechtschreibkorrektur, ist eine
Kennzeichnung hingegen nicht erforderlich.
4. Datenschutz und Informationssicherheit schützen
Personenbezogene Daten, Passwörter, vertrauliche Informationen,
Geschäftsgeheimnisse, unveröffentlichte Forschungsergebnisse oder nicht
freigegebene Sammlungsdaten gehören grundsätzlich nicht in externe KI-Systeme. Bei
personenbezogenen Daten sind Anonymisierung oder Pseudonymisierung zu prüfen.
Interne oder europäisch gehostete Lösungen sind nach Möglichkeit zu bevorzugen.
5. Qualität der Informationen prüfen
KI-Systeme liefern keine Garantie für richtige Informationen. Quellen, Fakten und
Daten müssen eigenständig überprüft und mit Fachliteratur, Expert:innenwissen und
vertrauenswürdigen Quellen abgeglichen werden. Dies gilt insbesondere bei
wissenschaftlichen und historischen Inhalten. Auch KI-generierter Code sollte vor
dem Einsatz auf Fehler und Sicherheitslücken geprüft werden.
6. Ethik, Vielfalt, Inklusion und Nachhaltigkeit
berücksichtigen
KI kann bestehende Vorurteile und Verzerrungen aus Trainingsdaten reproduzieren.
Ergebnisse sollten daher auf Bias, Stereotype und diskriminierende Darstellungen
geprüft werden. Gleichzeitig kann KI sinnvoll eingesetzt werden, um
Barrierefreiheit zu verbessern, beispielsweise durch automatische Untertitel oder
Angebote in Leichter Sprache. KI sollte nur eingesetzt werden, wenn ein klarer
Mehrwert besteht und einfachere bzw. ressourcenschonendere Lösungen nicht
ausreichen.
7. KI-Kompetenz aufbauen
Ein verantwortungsvoller Umgang mit KI setzt entsprechende Kenntnisse voraus.
Mitarbeiter:innen sollten vor der erstmaligen dienstlichen Nutzung eine
grundlegende KI-Schulung erhalten und sich regelmäßig weiterbilden. Themen wie
Datenschutz, Urheberrecht, Ethik, Bias und Informationssicherheit sollten dabei
ebenso berücksichtigt werden wie die praktischen Möglichkeiten und Grenzen
aktueller KI-Anwendungen.
KI im Museumsalltag
KI kann in unterschiedlichen Arbeitsbereichen sinnvoll eingesetzt werden - etwa bei Texterstellung und Übersetzung, Bild-, Audio- und Videoproduktion, Sammlungsmanagement und Forschung, Marketing und Kommunikation sowie internen Verwaltungsprozessen. Dabei gelten je nach Anwendungsbereich unterschiedliche Anforderungen.
Bei der Arbeit mit Sammlungen und Forschung ist besondere Sorgfalt gefragt: KI-Ergebnisse sind als Arbeitsgrundlage, nicht als fertige wissenschaftliche Erkenntnis zu verstehen. Metadaten und Objektbeschreibungen müssen fachlich geprüft werden; unveröffentlichte Forschungsergebnisse und nicht freigegebene Sammlungsdaten dürfen nicht in externe KI-Systeme eingegeben werden.
Auch bei der Erstellung von Bildern, Audio- und Videoinhalten ist Transparenz wichtig. KI-generierte oder wesentlich veränderte Inhalte müssen entsprechend gekennzeichnet werden. Bei historischen Dokumenten darf die ursprüngliche Aussage nicht durch KI verändert werden.
Der Schnellcheck vor jeder KI-Nutzung
Vor dem Einsatz eines KI-Tools sollten sich Mitarbeiter:innen folgende Fragen stellen:
- Ist das KI-Tool für die dienstliche Nutzung freigegeben?
- Enthält meine Eingabe personenbezogene oder vertrauliche Daten?
- Darf ich die verwendeten Texte, Bilder oder Daten rechtlich verwenden?
- Habe ich das Ergebnis fachlich geprüft und mit verlässlichen Quellen verglichen?
- Muss der Einsatz von KI gekennzeichnet werden?
- Enthält das Ergebnis Vorurteile, Stereotype oder diskriminierende Darstellungen?
- Bietet der Einsatz von KI tatsächlich einen Mehrwert?
- Gibt es eine einfachere und ressourcenschonendere Alternative?
Wichtig!
Keine KI ohne Kontrolle: KI kann Texte, Bilder und Informationen überzeugend erzeugen, aber auch Fehler und erfundene Quellen produzieren. Deshalb gilt insbesondere für Museen: Fachwissen, Quellenkritik und menschliches Urteilsvermögen bleiben unverzichtbar.
Museen tragen eine besondere Verantwortung, weil sie Wissen vermitteln, kulturelles Erbe bewahren und der Öffentlichkeit verlässliche Informationen anbieten. Der Einsatz von KI sollte daher stets transparent, nachvollziehbar und im Einklang mit den Werten der jeweiligen Institution erfolgen.
Weiterführend: Die ausführlichen Empfehlungen für den verantwortungsvollen Einsatz von Künstlicher Intelligenz können als Grundlage für die Entwicklung einer eigenen KI-Richtlinie und eines KI-Anwendungsregisters der jeweiligen Institution dienen. Ein solches Register unterstützt Transparenz, Steuerung und Risikobewertung und sollte regelmäßig aktualisiert werden.
