KI unter Kontrolle? Wie die neue KI-Verordnung Vertrauen schaffen möchte

Am 18.02.2025 brachte der Referent Prof. Dr. André Steimers den Teilnehmenden das Thema künstliche Intelligenz näher. Vor Ort im Grashaus beteiligten sich 28 Zuschauer*innen an einer lebhaften Diskussion, online schalteten sich 20 weitere Interessierte dazu. Prof. Dr. André Steimers ist an der Hochschule in Koblenz tätig. Sein Themenschwerpunkt liegt unter anderem bei vertrauenswürdiger KI. Moderiert wurde die Veranstaltung von Eva Onkels.

Der Vortrag beginnt mit der Frage "Was ist Machine Learning?" und bietet eine Einführung in künstliche Intelligenz (KI). Als Beispiel wird ImageNet vorgestellt, eine KI zur Bilderkennung, die anhand von Millionen kategorisierter Bilder trainiert wird, um Muster zu erkennen und Objekte präzise zu identifizieren. Sie kann nicht nur mit großer Wahrscheinlichkeit zum Beispiel einen Hund als Hund erkennen, sondern auch die richtige Hunderasse bis in die kleinste Aufspaltung zuordnen. Darin sind die KIs schon ziemlich gut - und sie werden auch noch besser.

Prof. Dr. André Steimers erläutert, dass KI bereits im Alltag vieler Menschen präsent ist, etwa bei Übersetzungen, Internetsuchen oder Texterstellung. Es gibt aber noch viel mehr Anwendungsbereiche, als den meisten klar sei. Weitere Anwendungsbereiche umfassen Arbeitsplatzüberwachung, Unterstützung in der Pflege, Sicherheit in Schwimmbädern und selbstfahrende Fahrzeuge in speziellen Bereichen. In deutschen Schwimmbädern gibt es laufende Pilotprojekte, bei denen mit KI-überwachten Kameras frühzeitig erkannt werden soll, ob jemand ertrinkt. Selbstfahrende Fahrzeuge werden ebenfalls eingesetzt, jedoch vorwiegend in privaten Bereichen wie im Argarsektor, an Häfen und in Fabriken.

Der Referent betont, dass KI zwar eine wertvolle Unterstützung darstellt, aber auch Risiken birgt. Die EU-KI-Verordnung soll die Sicherheit und Fairness von KI-Systemen gewährleisten, basierend auf den Grundsätzen der Rechtmäßigkeit, Ethik und Robustheit. Diese Regulierung ist wichtig, da KIs Fehler machen oder unbeabsichtigt Vorurteile übernehmen können. Die Verordnung regelt Aspekte wie Privatsphäre, Fairness, Automatisierung, Aufgabenkomplexität, Transparenz und Sicherheit, um eine vertrauenswürdige KI-Entwicklung zu fördern. Beispielweise legt sie Regelungen fest, dass Daten nur zweckgebunden erhoben und verwendet werden dürfen, die Trainingsdaten einem gewissen Standard entsprechen müssen und Daten nur so lange gespeichert werden dürfen, wie es erforderlich ist.

Während der gesamten Veranstaltung stellten die Teilnehmenden im Grashaus und online viele Fragen, die beantwortet und diskutiert wurden.

• Unser Youtube-Kanal
• Kurzlink auf diesen Artikel: https://ogy.de/KI-VO