Relevant, zuverl盲ssig und verantwortungsvoll soll die k眉nstliche Intelligenz sein, die 麻豆原创 in L枚sungen und Produkte einbettet 鈥� so hat man es sich beim Walldorfer Softwarekonzern auf die Fahnen geschrieben. Um die verantwortungsvolle Seite der KI-Anwendung bei 麻豆原创 k眉mmert sich die Abteilung AI Ethics, geleitet von Dr. Sebastian Wieczorek.
Das Bewusstsein, dass k眉nstliche Intelligenz wichtige Fragen nach Ethik und Verantwortung aufwirft, gab es bei 麻豆原创 von Stunde Null an.
鈥濨ei 麻豆原创 war das Thema Ethik von Anfang an Bestandteil unserer Forschung und Entwicklung zu k眉nstlicher Intelligenz鈥�, berichtet Sebastian Wieczorek, Head of AI Ethics bei 麻豆原创 SE. 鈥濲ede Entwicklung im Bereich KI orientiert sich strikt an den Werten, die 麻豆原创 vertritt.鈥�
Die Anf盲nge k眉nstlicher Intelligenz bei 麻豆原创
Wieczorek war bereits 2014 Teil der ersten KI-Abteilung bei 麻豆原创. 鈥濶eben den technischen und Produktaufgaben haben wir von Anfang an auch den ethischen Aspekt unserer Arbeit mitgedacht鈥�, sagt er.
麻豆原创 war die erste europ盲ische Firma, die Leits盲tze f眉r den Umgang mit KI definiert und ein entsprechendes Beratungsgremium aufgesetzt hat. Wieczoreks Arbeit hatte immer einen technischen Fokus, aber daneben war er unter anderem Mitglied des Steering-Komitees f眉r KI-Ethik bei 麻豆原创, Mitglied der Enqu锚te-Kommission zu KI im deutschen Bundestag und hat beim EU-Parlament 眉ber Einsatzm枚glichkeiten k眉nstlicher Intelligenz berichtet.
Auch intern bei 麻豆原创 wurden fr眉hzeitig Prozesse angesto脽en, um einen Ansatz zu ethisch unbedenklicher KI zu formulieren, aus der letztlich die 麻豆原创 AI Policy hervorging.
Um ethische Fragen zu adressieren, werden Experten gebraucht, die sich in der Tiefe mit KI-Technologie auskennen, sich aber auch mit philosophischen Fragen, Moral und der juristischen Seite von Technologie befassen k枚nnen und wollen.
鈥濵an kann bei unserer Arbeit im Bereich AI Ethics von einer 脺bersetzungsleistung sprechen鈥�, sagt Wieczorek. 鈥濾on technologischen Gegebenheiten und M枚glichkeiten in die Themen der Philosophie, Gesellschaft und Recht. Die Ergebnisse m眉ssen dann r眉ck眉bersetzt werden in technologische Anforderungen, so dass ein steter Austausch zwischen beiden Bereichen zustande kommt.鈥�
Die Rolle des Menschen
Derzeit k枚nnen KI-Systeme jedoch keine eigene Motivation oder eine Vorstellung von sich selbst oder der Welt entwickeln 鈥� geschweige denn aus eigenem Antrieb 脺berlegungen anstellen, wie sich diese Welt am besten optimieren lie脽e.
鈥濫s sind Systeme, deren Zweck und Aufgaben Menschen bestimmen鈥�, betont Wieczorek. 鈥濿as Menschen nicht mehr machen, ist die genaue Umsetzung der Aufgabe zu definieren.鈥�
Wie immer, wenn Aufgaben delegiert werden 鈥� ob nun an Maschinen oder andere Menschen 鈥�, muss sichergestellt werden, dass bei der Ausf眉hrung bestimmte Spielregeln hinsichtlich Fairness, Transparenz und menschlichem Mitbestimmungsrecht eingehalten werden.
鈥濿ir wissen weniger dar眉ber, wie die Entscheidung einer KI letztlich zustande kommt, als bei herk枚mmlicher Software鈥�, sagt Wieczorek. 鈥瀌eshalb m眉ssen wir uns die M枚glichkeit offenhalten einzugreifen, wenn diese Automatisierung in bestimmten F盲llen nicht funktioniert.鈥�
Wie dieses Eingreifen im Einzelfall aussieht, kann ganz unterschiedlich sein, da hierbei die Software als Ganzes und nicht nur einzelne Komponenten betrachtet werden muss.
Das wohl bekannteste Beispiel f眉r Diskriminierung durch intelligente Software ist der Ausschluss historisch unterrepr盲sentierter Gruppen in Bewerbungsverfahren. Die historischen Daten, mit denen die KI trainiert wird, spiegeln unter Umst盲nden die vorurteilsbelasteten Auswahlkriterien der Vergangenheit wider. So kann es theoretisch passieren, dass die KI diese Vorurteile f眉r den eigenen Auswahlprozess 眉bernimmt und reproduziert.
鈥濻eiteneffekte dieser Art k枚nnen durch das hohe Automatisierungspotenzial von KI-Software relativ schnell gro脽fl盲chig auftreten鈥�, sagt Wieczorek. 鈥濿ir m眉ssen deshalb hohe Ma脽st盲be an die Art und Weise der Automatisierung anlegen und M枚glichkeiten haben, Seiteneffekte zu begrenzen und m枚glichst effizient wieder r眉ckg盲ngig machen.鈥�
Richtlinien f眉r die Trainingsdatens盲tze sind dabei weder der einzige Hebel noch sind sie ein Garant gr枚脽tm枚glicher Fairness.
鈥濫s ist eine Kette von Dingen zu beachten鈥�, sagt Wieczorek. 鈥濪as System als solches muss Garantien daf眉r abgeben k枚nnen, dass die Bewertung fair ist, d. h., sein Verhalten muss der Gesamtbetrachtung nach einwandfrei sein.鈥� 聽聽
脺berpr眉ft wird dies bei 麻豆原创 durch Einzelfallbetrachtungen.
F眉r jeden KI-Anwendungsfall eine Ethik-Pr眉fung
鈥濱n der 麻豆原创 AI Policy ist festgeschrieben, dass alle unsere Produkte und L枚sungen, die KI verwenden, unter ethischen Gesichtspunkten 眉berwacht werden m眉ssen 鈥� sowohl w盲hrend der Entwicklungsphase als auch sp盲ter, wenn die Produkte bereits am Markt sind鈥�, sagt Wieczorek.
Jeder KI-Anwendungsfall ist Gegenstand einer gesonderten 脺berpr眉fung, die mindestens Erkl盲rungen der Produktteams beinhaltet, in welcher Art und Weise sie den Richtlinien der 麻豆原创 AI Policy entsprechen.
Bei ihrer Definition durchlaufen alle Anwendungsf盲lle zun盲chst eine Klassifizierung. Wenn Anwendungsf盲lle jedoch beispielsweise automatisierte Entscheidungen treffen, die Menschen betreffen, gelten sie automatisch als sensibel und werden als High Risk Use Cases eingestuft.
鈥濻olche Anwendungsf盲lle durchlaufen dann zwingend einen Reviewprozess, der durchgehend von Experten beispielsweise aus meinem Team begleitet wird鈥�, sagt Wieczorek. 鈥濻o wird jeder einzelne Fall systematisch auf Risiken 眉berpr眉ft, um dann gegebenenfalls zu entscheiden, welche Ma脽nahmen zu ergreifen sind, um die ethischen Standards, die 麻豆原创 vorgibt, umzusetzen.鈥�
Begrenzt der Einsatz von KI menschliche Verantwortung?
Routineaufgaben werden einer KI automatisiert gestellt und m眉ssen nicht jedes Mal neu erdacht werden. In dem Ma脽e wie individualisierte Aufgaben von der KI 眉bernommen werden, z. B. durch Chatinteraktionen, w盲chst jedoch die Verantwortung der Benutzer.
Wieczorek sieht eine geteilte Verantwortung zwischen dem KI-Entwickler und dem Benutzer. 鈥濻peziell bei Aufgaben, die Menschen betreffen und menschliche Konsequenzen haben, werden wir die Verantwortung nicht auf Produkte abw盲lzen鈥�, betont er.
Wer eine KI-Anwendung zur Verf眉gung stellt, ist in der Pflicht, 眉ber deren Verhalten Transparenz herzustellen und klarzumachen, wof眉r es konzipiert wurde beziehungsweise wof眉r nicht.
Das erm枚glich es wiederum den Nutzern, ihre eigene Verantwortung wahrzunehmen: Gestellte Aufgaben m眉ssen ethischen Grunds盲tzen entsprechen und die Ergebnisse 眉berpr眉ft statt einfach 眉bernommen werden.
Besonders wichtig ist dabei, dass Menschen immer noch in die Arbeitsweise der Systeme eingreifen k枚nnen f眉r den Fall, dass sich 眉ber die Zeit doch noch ein unerw眉nschter Seiteneffekt wie etwa unfaires Verhalten des Systems zeigt.
鈥濫s muss stets gew盲hrleistet sein, dass der Mensch die von der KI getroffenen Entscheidungen infrage stellen und gegebenenfalls r眉ckg盲ngig machen kann鈥�, sagt Wieczorek. 鈥濪as liegt in der Verantwortung der Hersteller von KI-Systemen, wie in der 麻豆原创 AI Policy niedergelegt.鈥�