Künstliche Intelligenz am Arbeitsplatz souverän
einsetzen, steuern und kontrollieren:
ein KI-Cockpit für menschliche Aufsicht
Projekt
Das Forschungsprojekt „KI-Cockpit“ möchte die Frage beantworten, wie Transparenz und menschliche Kontrolle von KI-Technologien in der betrieblichen Praxis gelingen. Welche Informationen brauchen Beschäftigte in welcher Form, um das Verhalten eines KI-Systems gut einschätzen und überwachen zu können („Situation Awareness“)?
Wie kann menschliche Kontrolle effektiv, beispielsweise durch die Implementierung verschiedener Autonomiestufen oder „Stopp“-Tasten, umgesetzt werden. Lassen sich daraus allgemeine Regeln für die Gestaltung von KI und die konkrete Beteiligung der Beschäftigten bei der Einführung von KI-Anwendungen am Arbeitsplatz herleiten?
Kommende Veranstaltungen
Fieldlabs
Human Resources
Der Einsatz von Algorithmen und KI in den Bereichen Stellenbesetzung und Aufgabenverteilung ist besonders sensibel und gemäß des europäischen AI-Acts ein Hochrisiko-Bereich. Häufig kommt es beim Einsatz von KI zu unerwünschten Verzerrungen und Diskriminierungen. Das KI-Cockpit für den Bereich HR soll gewährleisten, dass mögliche Diskriminierungen möglichst früh entdeckt und vermieden werden. Beim Hinweis auf diskriminierende Prozesse werden die Anwender:innen über das KI-Cockpit informiert und in die Lage versetzt, als Human in Command die erforderlichen Maßnahmen ergreifen. Ziel dieses Fieldlabs ist es, einen Matching-Prozess zwischen Arbeitssuchenden und Arbeitgebern zu ermöglichen, der den hohen Anforderungen an Diversität und Gerechtigkeit im Bereich HR entspricht.
Kommune
Ein hohes Aufkommen an Berufspendler:innen stellt viele Kommunen täglich vor Herausforderungen in der Verkehrsleitplanung. KI-gestützte Assistenzsysteme werden in der Verkehrsleitplanung eingesetzt, um bei der Vermeidung von Staus zu helfen, Gefahrensituationen zu erkennen und die Parkraumverwaltung zu modernisieren. Das KI-Cockpit soll dabei für Transparenz sorgen, damit es für die Beschäftigten im Bereich Verkehr jederzeit nachvollziehbar ist, welche Entscheidungen das System getroffen hat. Diese systematischen Entscheidungen müssen nicht nur überblickt, sondern auch kontrolliert werden, um manuell steuernd eingreifen zu können. Die Herausforderung für das KI-Cockpit besteht hier in der Festlegung sog. Autonomiestufen, über die das Maß der Kontrolle über die KI-gestützten Entscheidungen nach Bedarf geregelt werden kann.
Pflege
Seit Jahren steigt in Deutschland die Zahl pflegebedürftiger Menschen — und damit auch der Bedarf an Pflegekräften. Die aufgrund des hohen Fachkräftemangels prekäre Lage in den Pflegeheimen macht ein Umdenken notwendig, um Pflegekräfte von eigentlich pflegefremden Tätigkeiten zu entlasten. Anhand eines Dashboards wollen wir die Kommunikation und Organisation der Arbeitsabläufe in einem Altenzentrum verbessern und gleichzeitig einen Überblick über bevorstehende Prozesse auf einzelnen Stationen geben. Das Dashboard stellt unter anderem KI-basierte Daten dar, die von den Pflegekräften mittels eines Messengers mit Speech-to-Text-Funktion im Arbeitsalltag generiert werden. Mit Hilfe des KI-Cockpits werden diese KI-basierten Datenflüsse für die Beschäftigten transparent und überprüfbar gemacht.
