KI-Charta für ethische Nutzung

1. Zweck

Diese Charta legt die ethischen Grenzen für die KI-Nutzung bei [Name der Organisation] fest. Sie definiert, wofür KI eingesetzt werden darf und wofür nicht, legt Standards für die zulässige Nutzung fest und kommuniziert die Verpflichtungen der Organisation gegenüber Kunden, Mitarbeitenden und der Öffentlichkeit. Sie ergänzt die Grundsätze für verantwortungsvolle KI und übersetzt diese in konkrete Regeln.

2. Geltungsbereich

Diese Charta gilt für jegliche KI-Nutzung in der Organisation: interne Tools, kundenorientierte Systeme, Drittanbieter-KI-Dienste, Prototypen und Experimente. Sie gilt für alle Mitarbeitenden, Auftragnehmer und Partner, unabhängig von Rolle oder Hierarchieebene.

3. Verbotene Nutzung

Die folgenden KI-Nutzungen sind ausnahmslos verboten:

3.1 Verboten gemäß EU AI Act Artikel 5

• Social Scoring: Bewertung von Personen anhand von Sozialverhalten oder Persönlichkeitsmerkmalen für Zwecke, die nicht mit dem Kontext der Datenerhebung zusammenhängen.
• Unterschwellige Manipulation: Einsatz von KI-Techniken, die Personen unterhalb ihrer Wahrnehmungsschwelle manipulieren, um ihr Verhalten in schädlicher Weise zu beeinflussen.
• Ausnutzung von Vulnerabilitäten: Gezieltes Ansprechen von Einzelpersonen oder Gruppen aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Lage, um deren Verhalten zu beeinflussen.
• Biometrische Echtzeit-Fernidentifikation in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, außer wenn dies ausdrücklich gesetzlich erlaubt ist.
• Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, außer aus medizinischen oder sicherheitsbezogenen Gründen.
• Ungezieltes Scraping von Gesichtsbildern aus dem Internet oder von Videoüberwachungsanlagen für Gesichtserkennungsdatenbanken.

3.2 Verboten durch organisatorische Richtlinie

• Einsatz von KI für endgültige Entscheidungen über Beschäftigung, Kreditvergabe, Versicherung oder Rechtsstatus von Einzelpersonen ohne menschliche Überprüfung.
• Bereitstellung von KI-Systemen, die nicht von einem menschlichen Bediener übersteuert, korrigiert oder abgeschaltet werden können.
• Verwendung personenbezogener Daten für KI-Training ohne dokumentierte Rechtsgrundlage.
• Einsatz von KI in einer Weise, die Nutzer vorsätzlich über die Art der Interaktion täuscht.
• Nutzung von KI zur Erzeugung falscher Beweise, erfundener Referenzen oder irreführender Inhalte, die als Tatsachen dargestellt werden.
• Umgehung von KI-Governance-Prozessen (Schatten-KI) für Produktivumgebungen.

4. Standards für zulässige Nutzung

Platzhaltertext. Füllen Sie mit der Sprache Ihrer Organisation für 4. Standards für zulässige Nutzung aus.

4.1 Allgemeine Nutzung

• KI darf für Produktivität, Recherche, Analyse und Entwurf von Inhalten mit angemessener menschlicher Überprüfung eingesetzt werden.
• KI-Ausgaben müssen von einer qualifizierten Person überprüft werden, bevor sie in externer Kommunikation, Vertragsdokumenten oder Entscheidungen, die Einzelpersonen betreffen, verwendet werden.
• Nutzer dürfen keine vertraulichen oder eingeschränkten Daten in KI-Tools eingeben, die nicht durch den Governance-Prozess genehmigt wurden.
• Nutzer müssen die KI-Beteiligung offenlegen, wenn sie Arbeitsergebnisse erstellen, auf die andere sich verlassen werden.

4.2 Kundenorientierte Nutzung

• Nutzer, die mit KI interagieren, müssen darüber informiert werden, dass sie mit einem KI-System interagieren (EU AI Act Artikel 50).
• KI-generierte Inhalte müssen als solche erkennbar sein, wenn sie mit von Menschen erstellten Inhalten verwechselt werden könnten.
• Kunden müssen für Entscheidungen, die sie wesentlich betreffen, Zugang zu einer menschlichen Alternative haben.

4.3 Nutzung in der Entwicklung

• KI-Codierungsassistenten dürfen verwendet werden, jedoch muss der generierte Code vom Entwickler überprüft, getestet und verantwortet werden.
• KI-generierter Code darf keine Sicherheitsüberprüfungs- oder Testanforderungen umgehen.
• KI darf nicht zur Erzeugung von Testergebnissen oder Compliance-Nachweisen verwendet werden.

5. Meldung von Verstößen

Jeder Mitarbeitende, der einen Verstoß gegen diese Charta beobachtet oder vermutet, muss dies über einen der folgenden Kanäle melden:

Meldungen können anonym erfolgen. Vergeltungsmaßnahmen gegen gutgläubige Meldende sind verboten.

• Direktmeldung an den KI-Governance-Verantwortlichen.
• Meldung über die Ethik- oder Compliance-Hotline der Organisation.
• Meldung an den direkten Vorgesetzten, der innerhalb von 48 Stunden an den KI-Governance-Verantwortlichen eskalieren muss.

6. Konsequenzen

Verstöße gegen diese Charta können zu folgenden Maßnahmen führen:

• Sofortige Aussetzung des betroffenen KI-Systems.
• Verpflichtende Behebung mit definiertem Zeitrahmen.
• Disziplinarmaßnahmen bis hin zur Kündigung für Personen, die vorsätzlich gegen Nutzungsverbote verstoßen.
• Beendigung von Anbieterbeziehungen, wenn Drittanbieter-KI gegen diese Charta verstößt.

7. Regulatorische Ausrichtung

• EU AI Act: Artikel 5 (verbotene Praktiken), Artikel 50 (Transparenzpflichten), Artikel 14 (menschliche Aufsicht).
• DSGVO: Artikel 22 (Rechte bei automatisierter Entscheidungsfindung).
• ISO/IEC 42001: Abschnitt 5.2 (KI-Richtlinie), Anhang C (Ethische Überlegungen zur KI).
• OECD-KI-Grundsätze: Menschenzentrierte Werte und Fairness.

8. Überprüfung

Diese Charta wird jährlich überprüft oder wenn neue verbotene Praktiken durch Regulierung, organisatorische Vorfälle oder Veränderungen der KI-Fähigkeiten, die neue ethische Überlegungen aufwerfen, ausgelöst werden.

Dokumentenlenkung