Künstliche Intelligenz (KI) Certified AI Systems Security Auditor

Grundlagen der KI-Systemarchitektur und Bedrohungslandschaft

Durchführung einer initialen Bedrohungsmodellierung für eine fiktive KI-Anwendung. Nutzung von Google Colab zur Analyse von Architekturdiagrammen und Identifikation potenzieller Angriffsflächen anhand des MITRE ATLAS Frameworks.

Auditierung von Trainingsdaten und Datenpipelines

Methoden zur Überprüfung der Herkunft, Qualität und Unverfälschtheit von Datensätzen, analysiert anhand von Open-Source-Datenquellen.

Auditierung von Verfahren zur Wahrung der Privatsphäre in Trainingsdaten, wie Differential Privacy, mithilfe frei zugänglicher Python-Bibliotheken.

Auditierung eines bereitgestellten Datensatzes auf potenzielle Poisoning-Angriffe. Einsatz von Python (Pandas, Scikit-learn) via Google Colab zur statistischen Analyse und Identifikation von Anomalien in den Trainingsdaten.

Sicherheit von KI-Modellen und Algorithmen

Überprüfung der Sicherheitsmechanismen beim Deployment von KI-Modellen, einschließlich Container-Sicherheit und API-Schutz.

Durchführung eines simulierten Evasion-Angriffs auf ein Bildklassifizierungsmodell. Nutzung der kostenfreien Adversarial Robustness Toolbox (ART) in einer Cloud-Instanz zur Bewertung der Modellrobustheit und Implementierung von Gegenmaßnahmen.

Auditierung von LLMs und Generativer KI

Auditierung einer simulierten LLM-Anwendung auf Prompt Injection Schwachstellen. Entwicklung und Test von Abwehrmechanismen unter Verwendung kostenfreier Hugging Face Modelle und Python-Skripte im Browser.

Sicherheit der KI-Infrastruktur und MLOps

Auditierung der Implementierung von Monitoring-Lösungen zur Erkennung von Anomalien und Sicherheitsvorfällen im laufenden KI-Betrieb.

Durchführung eines Sicherheitsaudits einer simulierten MLOps-Umgebung. Nutzung von Open-Source-Tools wie Trivy zur Schwachstellenanalyse von Container-Images und Überprüfung von Cloud-Konfigurationen direkt im Browser.

Compliance, Ethik und rechtliche Rahmenbedingungen

Analyse aktueller und kommender rechtlicher Anforderungen an KI-Systeme, wie dem EU AI Act, und deren Auswirkungen auf Sicherheitsaudits.

Auditierung von KI-Systemen auf Fairness, Vermeidung von Diskriminierung und Einhaltung ethischer Richtlinien unter Nutzung quelloffener Bewertungsframeworks.

Erstellung von revisionssicheren Audit-Berichten und Dokumentationen zur Nachweisbarkeit der KI-Sicherheit und Compliance.

Erstellung einer Compliance-Checkliste für ein fiktives KI-Projekt basierend auf dem EU AI Act. Nutzung von browserbasierten Kollaborationstools zur Dokumentation der Audit-Ergebnisse und Ableitung von Handlungsempfehlungen.

Incident Response und Forensik für KI-Systeme

Durchführung einer forensischen Untersuchung eines simulierten Data Poisoning Vorfalls. Analyse von Log-Dateien und Modell-Metadaten in einer kostenfreien Jupyter-Umgebung zur Rekonstruktion des Angriffsablaufs.

Abschluss-Audit und Zertifizierungsvorbereitung

Zusammenführung der erlernten Techniken zu einem umfassenden Audit-Prozess für komplexe KI-Systeme.

Konzepte zur Etablierung von dauerhaften Sicherheitsüberprüfungen im Lebenszyklus von KI-Anwendungen, konfiguriert in Open-Source-Plattformen.