Künstliche Intelligenz (KI) ist einer der wesentlichen Faktoren der Digitalisierung. Sie bietet schon heute viele Chancen – mit enormer Relevanz für Wirtschaft und Gesellschaft. Trotzdem kann KI auch Risiken mit sich bringen - v. a. für Demokratie, Grundrechte und den Rechtstaat. Mit europäischen und internationalen Gesetzesinitiativen schaffen wir einen Rechtsrahmen für mehr Vertrauen.
Künstliche Intelligenz (KI) ist treibende Kraft für Innovation, Digitalisierung und Forschung - die Entwicklung in diesem Bereich ist rasant. Damit gehen große Chancen einher - etwa in der medizinischen Diagnostik und der Landwirtschaft. Hier kann KI zum frühzeitigen Erkennen von Krankheiten und einem effizienten Umgang mit Umweltressourcen beitragen.
Sie verändert aber auch das Zusammenleben und vor allem die Berufswelt und das wirtschaftliche Verhalten. Solche Veränderungen lösen bei vielen Menschen Ängste und Sorgen aus. Fehlende Nachvollziehbarkeit und Transparenz von KI-Anwendungen können Gefühle des Ausgeliefertseins hervorrufen. Außerdem kann KI auch missbräuchlich dafür eingesetzt werden, um unsere gemeinsamen Werte in Deutschland und Europa – Demokratie, Grundrechte und Rechtstaatlichkeit – zu untergraben. Denkt man etwa an daten- und algorithmenbasierte Meinungssteuerung im Wahlkampf (sog. Microtargeting).
Es ist deshalb erforderlich, KI-Anwendungen einen rechtlichen Rahmen zu geben und damit das Vertrauen in diese Technologie zu stärken.
Weltweit wird an zahlreichen Ansätzen gearbeitet, den Umgang mit Künstlicher Intelligenz vertrauenswürdig auszugestalten. Zwei Regelungsinitiativen stechen dabei durch ihren bindenden Rechtscharakter heraus: Der Entwurf für eine sog. KI-Verordnung der Europäischen Union und der Vorschlag für die sog. KI-Konvention des Europarates.
Auf Initiative der Europäischen Kommission befassen sich die gesetzgebenden Organe der Europäischen Union, Rat und Europäisches Parlament, gegenwärtig mit einem Vorschlag für eine KI-Verordnung. Übergeordnetes Ziel der KI-Verordnung ist: Geeignete Rahmenbedingungen und Schutzstandards für den KI-Einsatz zu gewährleisten, die im Einklang mit den Europäischen Grundrechten stehen.
Die Verordnung verfolgt einen horizontalen, d. h. sektorübergreifenden Regulierungsansatz. Vom Anwendungsbereich sind die Entwicklung, das in Umlaufbringen und auch Nutzungen von KI-Systemen durch private und staatliche Handelnde gleichermaßen erfasst. Die KI-Verordnung reguliert dabei umso strenger, je größer das Risiko eines KI-Systems ist (risikobasierter Regulierungsansatz). Es sind vier Risikostufen vorgesehen: Verbote, Qualitätsanforderungen an Hochrisiko-KI-Systeme, Kennzeichnungspflichten, freiwillige Selbstverpflichtung.
Der Gesetzgebungsprozess dauert noch an. Nach Abschluss des Prozesses soll die KI-Verordnung voraussichtlich 2024 in Kraft treten.
Mit der KI-Konvention des Europarates soll ein internationaler Rechtsrahmen - ein globaler Standard - geschaffen werden. An dem Verhandlungsprozess sind nicht nur die 46 Mitgliedstaaten des Europarates beteiligt, sondern auch Beobachterstaaten wie die USA, Kanada, Japan, Israel und Mexiko. Staaten, die sich diesem Standard verpflichten, geben damit zu erkennen, dass die dort entwickelte und eingesetzte KI vertrauenswürdig ist. Dadurch kann ein international gültiger, rechtlich bindender Standard für vertrauenswürdige KI gesetzt werden. Die Verhandlungen wurden im Januar 2022 aufgenommen.
Inhaltlich stellt die KI-Konvention allgemeine Anforderungen an Design, Entwicklung und Einsatz von KI-Systemen auf und soll die Grundprinzipien für den Einsatz von KI festlegen. Mögliche Gefahren bei der Nutzung dieser Technologie werden aufgezeigt, wie z. B. mögliche Diskriminierung und Voreingenommenheit, und Mittel zur Vermeidung der Gefahren geregelt, etwa die Schaffung von Rechenschaftspflichten und das Festlegen von Verantwortungsgrundsätzen.
Weiter wird die Durchführung einer Risikobewertung vorgesehen. Diese soll den relevanten Akteuren helfen, die mit der Entwicklung oder dem Einsatz eines KI-Systems verbundenen Risiken für Menschenrechte, Demokratie und Rechtsstaatlichkeit zu identifizieren und zu bewerten. Außerdem sollen bestimmte KI-Praktiken verboten werden, die ein nicht mehr hinnehmbares Risiko für Menschenrechte, Demokratie und Rechtsstaatlichkeit mit sich bringen.
Die Verhandlungen im Europarat sollen durch die Annahme der KI-Konvention durch das Ministerkomitee des Europarates im Frühjahr 2024 abgeschlossen werden.
