R&W Abo Buch Datenbank Veranstaltungen Betriebs-Berater
 
CB - Compliance Berater
Header Pfeil
 
 
AI Act kompakt. Compliance, Management und Use Cases für die Unternehmenspraxis (2024), S. VII 
Inhaltsverzeichnis 
Peter Hense, Tea Mustać 

VII Inhaltsverzeichnis

  1. Vorwort
  2. I. Zum Einstieg
    1. 1. Anwendungsbereich des AI Acts
      1. a) AI Systems
        1. (1) Einführung
        2. (2) A Deeper Dive: Qualitative und quantitative Aspekte von AI Systems
        3. (3) Kein Anfang und kein Ende? AI-Infrastruktur und AI Systems
        4. (4) Lösungsansätze aus dem Bereich AI Safety, Computation und UML
      2. b) Risikobasierter Ansatz
      3. c) Persönlicher Anwendungsbereich
        1. (1) Provider/Anbieter
        2. (2) Product manufacturer/Hersteller
        3. (3) Deployer/Betreiber
        4. (4) Importer und Distributor/Einführer und Händler
      4. d) Räumlicher Anwendungsbereich
      5. e) AI Literacy (AI-Kompetenz)
        1. (1) Operationalisierung von AI Literacy
          1. i. Programmziele
          2. ii. Schulungsbedarf, einschließlich Zielgruppen und Fachkenntnisniveaus
          3. iii. Schulungsinhalte
          4. iv. Schulungsmethoden
          5. v. Schulungshäufigkeit
          6. vi. Evaluierung
        2. (2) Fazit
    2. 2. Gegenstand dieses Handbuchs
  3. II. Design
    1. 1. Die Idee
    2. 2. Legal Requirements Engineering
    3. 3. Zweckbestimmung
      1. a) Usability Engineering
      2. b) Human Factors Engineering
    4. 4. Initiale Risikokategorisierung und -bewertung
  4. III. Entwicklung
    1. 1. Anforderungen an ein AI System
      1. a) Qualitätsmanagementsystem
        1. (1) Arten des Qualitätsmanagements
        2. (2) Struktur und Bestandteile
        3. (3) Software- und AI-System-Qualitätsmodelle
        4. (4) Operationalisierung der rechtlichen Anforderungen von Art. 17
          1. i. Erste Linie
          2. ii. Zweite Linie
          3. iii. Dritte Linie
      2. b) Risikomanagement
        1. (1) Risikoidentifizierung
        2. (2) Bewertung des Risikos
          1. i. Faktoren für die Abschätzung der Eintrittswahrscheinlichkeit
          2. ii. Faktoren zur Bewertung der Auswirkungen
        3. (3) Risikominderung
        4. (4) Risikoakzeptanz
        5. (5) Risikotoleranz
        6. (6) Etablierung von Controlling-, Überwachungs- und Incident-Response-Prozessen
          1. i. Controlling
          2. ii. Monitoring
          3. iii. Incident-Response-Prozesse
      3. c) Modell-Anforderung: Menschliche Aufsicht
      4. d) Genauigkeit, Robustheit und Cybersicherheit von AI Systems (Art. 15 AI Act)
        1. (1) Überblick
          1. i. Programmsatz für den AI System Life Cycle (Art. 15.1)
          2. ii. Benchmarking und Normung (Art. 15.2)
          3. iii. Dokumentationspflichten (Art. 15.3)
          4. iv. Resilienz (Art. 15.4)
          5. v. Cybersicherheit (Art. 15.5)
        2. (2) Einzelerläuterungen
          1. i. Bedeutung von harmonisierten Normen und Standards im AI Act
          2. ii. Beständige Funktion („consistent performance“) während des gesamten AI System Life Cycles: Universal Lessons in Machine Learning
          3. iii. Was sind Feedback Loops und wie sind sie zu behandeln?
          4. iv. „Engineering Safety in Machine Learning“
            1. (a) Standardisierung: Gewonnene Erfahrung
            2. (b) AI Engineering Best Practices
            3. (c) Praxisbeispiel: Sicherheit und Robustheit von AI Systems im Automotive-Bereich
            4. (d) Inhärent sicheres Design im Machine Learning
            5. (e) Ein Framework für das Testing von AI Systems
            6. (f) AI Red Teaming
            7. (g) NIST-Testplattform „Dioptra“
    2. 2. Überblick über Data Governance und Data Management (Art. 10)
      1. a) Machine Learning und Trainingsdaten in a nutshell
      2. b) Verpflichtende Qualitätskriterien für Training, Validierung und Testing von AI Systems (Art. 10.1)
      3. c) Data Governance und Data Management (Art. 10.2)
      4. d) Standardisierung von Data (Quality) Management
      5. e) Definitionen und Metriken
        1. (1) Trainingsdaten („training data“), Art. 3.29
        2. (2) Validierungsdaten („validation data“), Art. 3.30
        3. (3) Validierungsdatensatz („validation data set“), Art. 3.31
        4. (4) Testdaten („testing data“), Art. 3.32
      6. f) Die einzelnen Verfahren
        1. (1) Relevant design choices (Art. 10.2.a)
        2. (2) Data collection processes and the origin of data, and in the case of personal data, the original purpose of the data collection (Art. 10.2.b)
          1. i. Datenquellen in der Machine-Learning-Praxis
          2. ii. Datasheets for Datasets
          3. iii. Datenschutzrecht
        3. (3) Relevant data-preparation processing operations, such as annotation, labelling, cleaning, updating, enrichment and aggregation (Art. 10.2.c)
          1. i. Annotation und Labelling
          2. ii. Data Cleaning
          3. iii. Updating
          4. iv. Enrichment
          5. v. Aggregation
        4. (4) Formulation of assumptions, in particular with respect to the information that the data are supposed to measure and represent (Art. 10.2.d)
        5. (5) Assessment of the availability, quantity and suitability of the data sets that are needed (Art. 10.2.e)
        6. (6) Examination in view of possible biases that are likely to affect the health and safety of persons, have a negative impact on fundamental rights or lead to discrimination prohibited under Union law, especially where data outputs influence inputs for future operations (Art. 10.2.f) sowie Appropriate measures to detect, prevent and mitigate possible biases identified according to point (Art. 10.2.g)
        7. (7) Identification of relevant data gaps or shortcomings that prevent compliance with this Regulation, and how those gaps and shortcomings can be addressed (Art. 10.2.h)
      7. g) Der Kampf gegen Bias und Diskriminierung (Art. 10.3, 10.4 und 10.5)
        1. (1) Erwägungsgründe und Ethics Guidelines for Trustworthy AI der High-Level Expert Group on Artificial Intelligence (HLEG AI, 2019)
        2. (2) Die Fundamental Right Agency (FRA)
        3. (3) Forschung und Wissenschaft: It’s not just the data, stupid!
        4. (4) Internationale Standardisierung
        5. (5) Hinreichend relevant, repräsentativ und so weit wie möglich fehlerfrei und vollständig in Hinblick auf die Zweckbestimmung
          1. i. Die Zweckbestimmung des Systems
            1. (a) Relevanz („relevance“)
            2. (b) Repräsentativität („representative“)
            3. (c) Fehlerfreiheit („error-free“)
            4. (d) Vollständigkeit („complete“)
        6. (6) Statistische Merkmale in Datensätzen, einzeln oder kombiniert
          1. i. Statistische Merkmale (Statistical Characteristics)
          2. ii. Kombination von Datensätzen (Combination of Datasets)
        7. (7) Geografisch, kontextuell, verhaltensbezogen oder funktional typische Datensätze
          1. i. Geografische Rahmenbedingungen
          2. ii. Kontextuelle Rahmenbedingungen
          3. iii. Verhaltensbezogene Rahmenbedingungen
          4. iv. Funktionale Rahmenbedingungen
        8. (8) Verarbeitung sensibler Daten zur Analyse und Mitigation von Verzerrungen (Bias)
        9. (9) AI, Bias und europäisches Antidiskriminierungsrecht: ein Überblick
          1. i. Rechtsnormen
          2. ii. Anwendungsbereiche und geschützte Merkmale
          3. iii. Direkte und indirekte Benachteiligung
          4. iv. Rechtfertigung
          5. v. Positive Maßnahmen
          6. vi. Beweislastumkehr
          7. vii. Rechtsfolgen
          8. viii. Anspruchsgegner
    3. 3. Testing und Compliance
      1. a) Sandboxes
        1. (1) Sandboxen im AI Act
        2. (2) Einrichtung und Betrieb von AI-Sandboxen
        3. (3) Ein guter Grund für die Teilnahme an AI-Sandboxen
        4. (4) Sandbox-Plan
        5. (5) Exit-Berichte
        6. (6) Konsequenzen
        7. (7) Verarbeitung von Daten innerhalb der Sandbox
      2. b) Testen unter realen Bedingungen außerhalb von AI-Regulatory-Sandboxen
      3. c) Konformitätsbewertung
        1. (1) Was?
        2. (2) Wann?
        3. (3) Wer und Wie?
        4. (4) Keine Regel ohne Ausnahme
        5. (5) Warum?
      4. d) Harmonisierte Normen, gemeinsame Spezifikationen und Konformitätsvermutung
        1. (1) Harmonisierte Standards
        2. (2) Vermutung der Konformität
        3. (3) Gemeinsame Spezifikationen
        4. (4) Codes of Conduct and Guidelines
      5. e) Inverkehrbringen
    4. 4. Technische Dokumentation
  5. IV. Deployment
    1. 1. Provider
      1. a) Das Offensichtliche
      2. b) Dokumentation (Art. 18) und automatisch erzeugte Protokolle (Art. 19)
      3. c) Risikomanagement
      4. d) Menschliche Aufsicht
      5. e) Transparenz und Bereitstellung von Informationen für Deployer und/oder Endnutzer
      6. f) Post-Market Monitoring (Art. 72); Korrekturmaßnahmen und Informationspflicht (Art. 20); Meldung schwerwiegender Vorfälle (Art. 73) und Zusammenarbeit mit den Behörden
        1. (1) Zielsetzung und Zweck
        2. (2) Wichtige Merkmale
        3. (3) Post-Market-Monitoring-Plan
        4. (4) Abschlussbericht
        5. (5) Zusammenspiel mit anderen Systemen und Prozessen
    2. 2. Deployer
      1. a) Das Offensichtliche: Due Diligence, Verwendung nach Gebrauchsanweisung (Logs, menschliche Aufsicht), Transparenz, Überwachung und Informationspflicht, Berichterstattung
        1. (1) Due Diligence: Die rechtliche Tiefenprüfung
        2. (2) Verwendung gemäß der Betriebsanleitung (Protokolle, menschliche Aufsicht)
        3. (3) Transparenz
        4. (4) Monitoring und Informationspflichten
      2. b) Data Governance
      3. c) Grundrechte-Folgenabschätzung (FRIA)
        1. (1) Wer?
        2. (2) Was?
        3. (3) Warum?
          1. i. Vornahme von Anpassungen und Durchführung zusätzlicher Maßnahmen
          2. ii. Bewertung der Akzeptanz von Restrisiken
        4. (4) Endergebnis
      4. d) Beratung des Betriebsrats
      5. e) Datenschutz-Folgenabschätzung
      6. f) Art. 25 Verpflichtungen entlang der KI-Wertschöpfungskette
  6. V. Besonderheiten
    1. 1. Urheberrecht, TDM und Generative AI im AI Act
      1. a) General Purpose AI im AI Act
        1. (1) Anbieter von Modellen und Anbieter von Systemen
        2. (2) Pflichten des Providers eines AI-Modells
        3. (3) Verpflichtungen der Provider eines General Purpose AI Systems
        4. (4) Urheberrecht und General Purpose AI Models
      2. b) Training und Trainingsdaten
        1. (1) Generative AI benötigt viele Daten
        2. (2) Memorization und Overfitting
        3. (3) Text- und Data-Mining
          1. i. Richtlinie 2019/790 zum Urheberrecht im digitalen Binnenmarkt (CDSM-Richtlinie)
          2. ii. TDM und Transformer-Modelle
          3. iii. Drei-Stufen-Test
          4. iv. Zusammenfassung
      3. c) Nutzung, Inputs und Outputs
        1. (1) Nutzung und Inputs
        2. (2) Outputs
    2. 2. AI in Finanzdienstleistungen
      1. a) Zwei Einschränkungen
      2. b) Eine zusätzliche (wesentliche) Belastung
      3. c) Wo es doch einfacher wird
    3. 3. Biometrische und Emotionserkennungssysteme
      1. a) Biometrische Identifizierung
      2. b) Biometrische Verifizierung
      3. c) Biometrische Kategorisierung
      4. d) Emotionserkennung
  7. Literaturverzeichnis
 
stats