Risiken bei der Verwendung von Drittsystemen für KI-Governance

Basierend auf dem EU AI Act haben Hochrisiko-KI-Anbieter zahlreiche Dokumentationsanforderungen. Bei der Verwendung eines Drittanbieter-SaaS-Dokumentenmanagementsystems zur Speicherung dieser Dokumente entstehen mehrere Datenschutz- und Sicherheitsbedenken.

Als Entwickler der Open-Source-KI-Governance-Plattform VerifyWise, zusammen mit unserer Expertise beim Arbeiten mit On-Premises-Plattformen im Unternehmensbereich, sind wir uns dieser Risiken bewusst.

In diesem Beitrag werden wir über die Kontrollelemente diskutieren, bei denen die Weitergabe dieser Informationen an ein Drittsystem sensibles geistiges Eigentum und Geschäftsgeheimnisse preisgeben könnte.

Offenlegung sensibler technischer Dokumentation

Gemäß dem EU AI Act müssen Hochrisiko-KI-Anbieter detaillierte technische Dokumentation erstellen und pflegen. Dies umfasst:

• Systemarchitektur und Design-Spezifikationen.

• Datenanforderungen und Governance-Verfahren.

• Entwicklungsmethoden und -techniken.

• Leistungsmetriken und Testergebnisse.

Meistens geben Hochrisiko-KI-Unternehmen mit strengen Datenschutzüberlegungen solche Informationen nicht an die Öffentlichkeit weiter. Besonders Finanzinstitute, Versicherungsunternehmen, Gesundheitsdienstleister und Telekommunikationsunternehmen verwenden selbst gehostete, On-Premises-Plattformen zur Speicherung relevanter Daten.

Offenlegung des Risikoregisters

Gemäß dem EU AI Act müssen Anbieter ein Risikomanagementsystem einrichten und dokumentieren:

• Risikoidentifikation und -analyse

• Risikoschätzung und -bewertung

• Risikokontrollmaßnahmen

Diese Dokumentation kann auch sensible Informationen über die Systemschwachstellen des Unternehmens und Minderungsstrategien enthalten.

Dokumentation über Trainingsdaten

Gemäß dem EU AI Act müssen detaillierte Aufzeichnungen von Training-, Validierungs- und Testdatensätzen geführt werden, einschließlich:

• Datenquellen und -eigenschaften

• Vorverarbeitungstechniken

• Kennzeichnungsverfahren

Das Hochladen von Dokumenten mit den oben genannten Informationen könnte das Risiko bergen, proprietäre Datensätze oder Datenbehandlungsmethoden an Drittanbieter-SaaS-Plattformen preiszugeben.

Protokollierungsfähigkeiten

Hochrisiko-KI-Systeme müssen Protokollierungsfähigkeiten haben, um Ereignisse und Entscheidungen aufzuzeichnen. Die Dokumentation dieser Fähigkeiten kann umfassen:

• Arten der protokollierten Daten

• Speicher- und Aufbewahrungsrichtlinien

• Zugriffskontrollmaßnahmen

Diese Informationen könnten Systemoperationen und Datenbehandlungspraktiken offenlegen, was mehrere Risiken mit sich bringt, wenn Dokumente mit relevanten privaten Daten mit einem Drittanbieter für KI-Governance geteilt werden.

Für alle oben genannten Bereiche könnte das Hochladen detaillierter Dokumentation auf eine Drittanbieter-SaaS-KI-Governance-Plattform potentiell sensible operative Informationen preisgeben. Dies kann den Wettbewerbsvorteil des KI-Anbieters gefährden.

Zusätzlich, wenn diese Informationen in die falschen Hände geraten, könnten sie ausgenutzt werden, um Schwächen im KI-System oder den Incident-Response-Fähigkeiten der Organisation anzugreifen.

Um diese Risiken zu mindern, sollten Hochrisiko-KI-Anbieter die Sicherheitsmaßnahmen des SaaS-Anbieters sorgfältig bewerten, starke Zugriffskontrollen implementieren und in Betracht ziehen, besonders sensible Teile der Dokumentation zu verschlüsseln.

Sie möchten vielleicht auch Hybridlösungen erkunden, die die kritischsten Informationen vor Ort behalten, während sie die SaaS-Plattform für weniger sensible Dokumentation nutzen.

VerifyWise: KI-Governance demokratisieren

VerifyWises Open-Source-KI-Governance-Plattform, die vor Ort installiert werden kann, bietet mehrere wichtige Vorteile in Bezug auf Datenschutz und Sicherheit für Hochrisiko-KI-Anbieter:

• Erweiterte Datenkontrolle: Sie haben vollständiges Eigentum und Kontrolle über sensible Dokumentation und Daten. Es besteht keine Notwendigkeit, kritische Informationen auf Drittsysteme hochzuladen, was das Risiko unbefugten Zugriffs oder Datenschutzverletzungen reduziert.

• Anpassung und Integration: Da Sie den vollständigen Quellcode haben, haben Sie die Möglichkeit, die Plattform an spezifische organisatorische Bedürfnisse und Sicherheitsanforderungen anzupassen und in die bestehende On-Premises-Sicherheitsinfrastruktur zu integrieren.

• Reduzierte Preisgabe von Geschäftsgeheimnissen: Ihre sensiblen KI-Systemdetails und Algorithmen bleiben innerhalb der Organisation, was das Risiko von IP-Lecks verringert.

Durch das Angebot einer On-Premises-, Open-Source-KI-Governance-Plattform bietet VerifyWise Hochrisiko-KI-Anbietern eine Lösung, die viele der Datenschutz- und Sicherheitsbedenken adressiert, die mit der Verwendung von Drittanbieter-SaaS-Systemen verbunden sind.

Dieser Ansatz ermöglicht es Organisationen, strengere Kontrolle über ihre Daten und Infrastruktur zu behalten, während sie dennoch von einem strukturierten KI-Governance-Framework profitieren.

Kontaktieren Sie uns jetzt, um eine Demo von VerifyWise zu sehen.