Relevant, zuverl\u00e4ssig und verantwortungsvoll soll die k\u00fcnstliche Intelligenz sein, die 麻豆原创 in L\u00f6sungen und Produkte einbettet \u2013 so hat man es sich beim Walldorfer Softwarekonzern auf die Fahnen geschrieben. Um die verantwortungsvolle Seite der KI-Anwendung bei 麻豆原创 k\u00fcmmert sich die Abteilung AI Ethics, geleitet von Dr. Sebastian Wieczorek.<\/p>\n\n\n\n
Das Bewusstsein, dass k\u00fcnstliche Intelligenz wichtige Fragen nach Ethik und Verantwortung aufwirft, gab es bei 麻豆原创 von Stunde Null an.<\/p>\n\n\n\n
\u201eBei 麻豆原创 war das Thema Ethik von Anfang an Bestandteil unserer Forschung und Entwicklung zu k\u00fcnstlicher Intelligenz\u201c, berichtet Sebastian Wieczorek, Head of AI Ethics bei 麻豆原创 SE. \u201eJede Entwicklung im Bereich KI orientiert sich strikt an den Werten, die 麻豆原创 vertritt.\u201c<\/p>\n\n\n\n
Wieczorek war bereits 2014 Teil der ersten KI-Abteilung bei 麻豆原创. \u201eNeben den technischen und Produktaufgaben haben wir von Anfang an auch den ethischen Aspekt unserer Arbeit mitgedacht\u201c, sagt er.<\/p>\n\n\n\n
麻豆原创 war die erste europ\u00e4ische Firma, die Leits\u00e4tze f\u00fcr den Umgang mit KI definiert und ein entsprechendes Beratungsgremium aufgesetzt hat. Wieczoreks Arbeit hatte immer einen technischen Fokus, aber daneben war er unter anderem Mitglied des Steering-Komitees f\u00fcr KI-Ethik bei 麻豆原创, Mitglied der Enqu\u00eate-Kommission zu KI im deutschen Bundestag und hat beim EU-Parlament \u00fcber Einsatzm\u00f6glichkeiten k\u00fcnstlicher Intelligenz berichtet.<\/p>\n\n\n\n
Auch intern bei 麻豆原创 wurden fr\u00fchzeitig Prozesse angesto\u00dfen, um einen Ansatz zu ethisch unbedenklicher KI zu formulieren, aus der letztlich die 麻豆原创 AI Policy hervorging.<\/p>\n\n\n\n
Um ethische Fragen zu adressieren, werden Experten gebraucht, die sich in der Tiefe mit KI-Technologie auskennen, sich aber auch mit philosophischen Fragen, Moral und der juristischen Seite von Technologie befassen k\u00f6nnen und wollen.<\/p>\n\n\n\n
\u201eMan kann bei unserer Arbeit im Bereich AI Ethics von einer \u00dcbersetzungsleistung sprechen\u201c, sagt Wieczorek. \u201eVon technologischen Gegebenheiten und M\u00f6glichkeiten in die Themen der Philosophie, Gesellschaft und Recht. Die Ergebnisse m\u00fcssen dann r\u00fcck\u00fcbersetzt werden in technologische Anforderungen, so dass ein steter Austausch zwischen beiden Bereichen zustande kommt.\u201c<\/p>\n\n\n\n
Derzeit k\u00f6nnen KI-Systeme jedoch keine eigene Motivation oder eine Vorstellung von sich selbst oder der Welt entwickeln \u2013 geschweige denn aus eigenem Antrieb \u00dcberlegungen anstellen, wie sich diese Welt am besten optimieren lie\u00dfe.<\/p>\n\n\n\n
\u201eEs sind Systeme, deren Zweck und Aufgaben Menschen bestimmen\u201c, betont Wieczorek. \u201eWas Menschen nicht mehr machen, ist die genaue Umsetzung der Aufgabe zu definieren.\u201c<\/p>\n\n\n\n
Wie immer, wenn Aufgaben delegiert werden \u2013 ob nun an Maschinen oder andere Menschen \u2013, muss sichergestellt werden, dass bei der Ausf\u00fchrung bestimmte Spielregeln hinsichtlich Fairness, Transparenz und menschlichem Mitbestimmungsrecht eingehalten werden.<\/p>\n\n\n\n
\u201eWir wissen weniger dar\u00fcber, wie die Entscheidung einer KI letztlich zustande kommt, als bei herk\u00f6mmlicher Software\u201c, sagt Wieczorek. \u201edeshalb m\u00fcssen wir uns die M\u00f6glichkeit offenhalten einzugreifen, wenn diese Automatisierung in bestimmten F\u00e4llen nicht funktioniert.\u201c<\/p>\n\n\n\n
Wie dieses Eingreifen im Einzelfall aussieht, kann ganz unterschiedlich sein, da hierbei die Software als Ganzes und nicht nur einzelne Komponenten betrachtet werden muss.<\/p>\n\n\n\n
Das wohl bekannteste Beispiel f\u00fcr Diskriminierung durch intelligente Software ist der Ausschluss historisch unterrepr\u00e4sentierter Gruppen in Bewerbungsverfahren. Die historischen Daten, mit denen die KI trainiert wird, spiegeln unter Umst\u00e4nden die vorurteilsbelasteten Auswahlkriterien der Vergangenheit wider. So kann es theoretisch passieren, dass die KI diese Vorurteile f\u00fcr den eigenen Auswahlprozess \u00fcbernimmt und reproduziert.<\/p>\n\n\n\n
\u201eSeiteneffekte dieser Art k\u00f6nnen durch das hohe Automatisierungspotenzial von KI-Software relativ schnell gro\u00dffl\u00e4chig auftreten\u201c, sagt Wieczorek. \u201eWir m\u00fcssen deshalb hohe Ma\u00dfst\u00e4be an die Art und Weise der Automatisierung anlegen und M\u00f6glichkeiten haben, Seiteneffekte zu begrenzen und m\u00f6glichst effizient wieder r\u00fcckg\u00e4ngig machen.\u201c<\/p>\n\n\n\n
Richtlinien f\u00fcr die Trainingsdatens\u00e4tze sind dabei weder der einzige Hebel noch sind sie ein Garant gr\u00f6\u00dftm\u00f6glicher Fairness. <\/p>\n\n\n\n
\u201eEs ist eine Kette von Dingen zu beachten\u201c, sagt Wieczorek. \u201eDas System als solches muss Garantien daf\u00fcr abgeben k\u00f6nnen, dass die Bewertung fair ist, d. h., sein Verhalten muss der Gesamtbetrachtung nach einwandfrei sein.\u201c <\/p>\n\n\n\n
\u00dcberpr\u00fcft wird dies bei 麻豆原创 durch Einzelfallbetrachtungen.<\/p>\n\n\n\n
\u201eIn der 麻豆原创 AI Policy ist festgeschrieben, dass alle unsere Produkte und L\u00f6sungen, die KI verwenden, unter ethischen Gesichtspunkten \u00fcberwacht werden m\u00fcssen \u2013 sowohl w\u00e4hrend der Entwicklungsphase als auch sp\u00e4ter, wenn die Produkte bereits am Markt sind\u201c, sagt Wieczorek.<\/p>\n\n\n\n
Jeder KI-Anwendungsfall ist Gegenstand einer gesonderten \u00dcberpr\u00fcfung, die mindestens Erkl\u00e4rungen der Produktteams beinhaltet, in welcher Art und Weise sie den Richtlinien der 麻豆原创 AI Policy entsprechen.<\/p>\n\n\n\n
Bei ihrer Definition durchlaufen alle Anwendungsf\u00e4lle zun\u00e4chst eine Klassifizierung. Wenn Anwendungsf\u00e4lle jedoch beispielsweise automatisierte Entscheidungen treffen, die Menschen betreffen, gelten sie automatisch als sensibel und werden als High Risk Use Cases eingestuft.<\/p>\n\n\n\n
\u201eSolche Anwendungsf\u00e4lle durchlaufen dann zwingend einen Reviewprozess, der durchgehend von Experten beispielsweise aus meinem Team begleitet wird\u201c, sagt Wieczorek. \u201eSo wird jeder einzelne Fall systematisch auf Risiken \u00fcberpr\u00fcft, um dann gegebenenfalls zu entscheiden, welche Ma\u00dfnahmen zu ergreifen sind, um die ethischen Standards, die 麻豆原创 vorgibt, umzusetzen.\u201c<\/p>\n\n\n\n
Routineaufgaben werden einer KI automatisiert gestellt und m\u00fcssen nicht jedes Mal neu erdacht werden. In dem Ma\u00dfe wie individualisierte Aufgaben von der KI \u00fcbernommen werden, z. B. durch Chatinteraktionen, w\u00e4chst jedoch die Verantwortung der Benutzer.<\/p>\n\n\n\n
Wieczorek sieht eine geteilte Verantwortung zwischen dem KI-Entwickler und dem Benutzer. \u201eSpeziell bei Aufgaben, die Menschen betreffen und menschliche Konsequenzen haben, werden wir die Verantwortung nicht auf Produkte abw\u00e4lzen\u201c, betont er.<\/p>\n\n\n\n
Wer eine KI-Anwendung zur Verf\u00fcgung stellt, ist in der Pflicht, \u00fcber deren Verhalten Transparenz herzustellen und klarzumachen, wof\u00fcr es konzipiert wurde beziehungsweise wof\u00fcr nicht.<\/p>\n\n\n\n
Das erm\u00f6glich es wiederum den Nutzern, ihre eigene Verantwortung wahrzunehmen: Gestellte Aufgaben m\u00fcssen ethischen Grunds\u00e4tzen entsprechen und die Ergebnisse \u00fcberpr\u00fcft statt einfach \u00fcbernommen werden.<\/p>\n\n\n\n
Besonders wichtig ist dabei, dass Menschen immer noch in die Arbeitsweise der Systeme eingreifen k\u00f6nnen f\u00fcr den Fall, dass sich \u00fcber die Zeit doch noch ein unerw\u00fcnschter Seiteneffekt wie etwa unfaires Verhalten des Systems zeigt.<\/p>\n\n\n\n
\u201eEs muss stets gew\u00e4hrleistet sein, dass der Mensch die von der KI getroffenen Entscheidungen infrage stellen und gegebenenfalls r\u00fcckg\u00e4ngig machen kann\u201c, sagt Wieczorek. \u201eDas liegt in der Verantwortung der Hersteller von KI-Systemen, wie in der 麻豆原创 AI Policy niedergelegt.\u201c<\/p>\n\n\n\n