Netz - Gebäude - Struktur - Infrastruktur

Startup Risk Classification Tool: AI Act

Jetzt Risk Classification starten

Hast du bereits ein KI-System gebaut oder planst du es?

Der AI Act definiert ein KI-System als: Ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.

Führt dein System eine der folgenden Funktionen aus?
  • Biometrische Fernidentifizierung in Echtzeit
  • Biometrische Kategorisierung
  • Risikobewertung & Profiling
  • Gesichtserkennung durch ungezieltes Auslesen von Bildern
  • Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
  • Ausnutzung von Vulnerabilität
  • Soziale Bewertung
  • Unterschwellige Beeinflussung

Dieses Tool ist nicht interessant für dich.

Soll deine KI in einem der folgenden Bereiche bzw. zu einem der folgenden Zwecke eingesetzt werden?
  • Kritische Infrastrukturen
  • Allgemeine und berufliche Bildung
  • Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit
  • Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen
  • Strafverfolgung
  • Migrations-, Asyl- und Grenzkontrollmanagement
  • Rechtspflege und demokratische Prozesse
  • Biometrische Daten

Wahrscheinlich hat dein Produkt keine Chance auf einen Marktgang. Das Risiko wird als nicht annehmbar eingestuft.

Stellt dein KI-System ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte einer Person dar?

Als Anbieter eines KI-Systems mit hohem Risiko musst du die in Artikel 16 aufgeführten Verpflichtungen einhalten. Startups mit Hochrisiko-KI-Systemen müssen ein Konformitätsbewertungsverfahren durchlaufen. Die Kosten dafür werden verhältnismäßig an deren Größe und Leistungsfähigkeit gemessen. Die EU-Kommission plant, das Verfahren für die Einreichung technischer Dokumentationen für Startups, die Hochrisiko-KI-Systeme anbieten oder betreiben, erheblich zu vereinfachen. Zu diesem Zweck wird ein standardisiertes Formular entwickelt, das von den betreffenden Unternehmen ausgefüllt werden muss. Durch das Ausfüllen dieses Formblatts soll die Anforderung an die Bereitstellung technischer Dokumentationen als erfüllt angesehen werden.

Bevor du dein KI-System auf den Markt bringen kannst, musst du es voraussichtlich in der EU-Datenbank registrieren lassen. Des Weiteren ist es notwendig, die Risiko-Bewertung zu dokumentieren und Unterlagen den zuständigen nationalen Behörden auf Anfrage vorlegen zu können. Die EU-Kommission plant, das Verfahren für die Einreichung technischer Dokumentationen für Startups, die Hochrisiko-KI-Systeme anbieten oder betreiben, erheblich zu vereinfachen. Zu diesem Zweck wird ein standardisiertes Formular entwickelt, das von den betreffenden Unternehmen ausgefüllt werden muss. Durch das Ausfüllen dieses Formblatts soll die Anforderung an die Bereitstellung technischer Dokumentationen als erfüllt angesehen werden. Sollte eine Überprüfung durch die Marktaufsichtsbehörde eine Fehleinstufung deines Systems aufdecken, gelten für dein System die spezifischen "Hochrisiko"-Anforderungen, und du könntest zu Geldstrafen verpflichtet werden. Die Regelungen zu Bußgeldern im Rahmen der KI-Verordnung enthalten spezifische Erleichterungen für Startups. Gemäß Artikel 71 Absatz 1 der KI-Verordnung soll bei der Festsetzung von Bußgeldern die spezielle wirtschaftliche Kapazität dieser Unternehmen berücksichtigt werden. Darüber hinaus legt Artikel 71 Absatz 5a der KI-Verordnung eine generelle Begrenzung der Bußgelder für KMUs und Startups fest. Im Falle von zwei möglichen Bußgeldern für ein Unternehmen muss stets das niedrigere ausgewählt werden. 

Führt dein System eine dieser Funktionen aus?
  • Interaktion mit Menschen
  • Generierung synthetischer Audio-, Video, Bild-, Textinhalte

Du musst Transparenzpflichten nach Artikel 50 einhalten: 

  • Sicherstellen, dass die Ergebnisse des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können. 

Du musst wohl keine rechtlichen Verpflichtungen nach dem AI Act erfüllen. Wir empfehlen dennoch einen freiwilligen Verhaltenskodex. 

Hinweis zum Tool
  1. Zur Erprobung von KI-Systemen unter realen Bedingungen vor deren Markteinführung zu erleichtern, ist die Einrichtung sogenannter KI-Reallaboren geplant. Startups erhalten privilegierten Zugang und müssen bloß ein vereinfachtes Bewerbungsverfahren durchlaufen, das auch für solche mit limitierten rechtlichen und administrativen Ressourcen einfach zu handhaben sein soll. Abgesehen von speziellen Ausnahmefällen, in denen Kosten entstehen könnten, ist die Nutzung dieser KI-Reallabore für KMUs und Startups grundsätzlich kostenlos.
  2. Im AI Act werden Mitgliedstaaten ermutigt, eine Reihe von Unterstützungsaktivitäten zu initiieren, um insbesondere Startups, Gründerinnen und Gründern Schulungs- und Sensibilisierungsprogramme zu ermöglichen, die das Verständnis und die Anwendung von KI-Technologien verbessern sollen. Darüber hinaus sollen spezielle Kommunikationsplattformen geschaffen werden, die einen Austausch zwischen Startups, Nutzerinnen und Nutzern sowie weiteren Akteuren ermöglichen und fördern. Diese Plattformen dienen als Raum für Diskussionen, Wissensaustausch und Vernetzung, um die Entwicklung und Implementierung von KI-Lösungen zu unterstützen.
  3. Sollte es sich bei deinem KI-System, um ein Allzweck-Modell handeln, musst du Verpflichtungen für AI-Modelle für allgemeine Zwecke gemäß Artikel 53 in jedem Fall einhalten. Dies bedeutet konkret:
  • Erstellung und Aufbewahrung der technischen Dokumentation für das Modell, die dem KI-Büro auf Anfrage zur Verfügung gestellt wird.
  • Erstellung und Aufbewahrung von Dokumentationen für Anbieter, die KI-Modelle integrieren, unter Berücksichtigung von Transparenz und Schutz des geistigen Eigentums.
  • Einführung von Maßnahmen zur Einhaltung des Urheberrechts der Union ein.
  • Veröffentlichung einer Zusammenfassung der Trainingsdaten für KI-Modelle nach einer vom KI-Büro bereitgestellten Vorlage.
Get Started Guide: AI Act

Noch Fragen? Dann lade dir gerne unseren Get Started Guide zum AI Act runter. Wir erklären in Kürze die wichtigsten Aspekte der Verordnung und veranschaulichen anhand von fiktiven Beispielen den risikobasierten Ansatz, verschiedene Anforderungen an Systeme und potenzielle Strafen bei Nichteinhaltung. 

Jetzt herunterladen
Mehr zum Thema Startups