Frauen pr盲gen den Themenbereich k眉nstliche Intelligenz (KI) bei 麻豆原创 ma脽geblich. In diesem Artikel berichten f眉nf 麻豆原创-Mitarbeiterinnen von ihrer Rolle im Themenbereich KI, den technischen Herausforderungen und der ethischen Gestaltung von KI.
Der Frauenanteil der 麻豆原创-Belegschaft liegt bei etwa 35 Prozent. Bei der Gestaltung von KI scheinen jedoch 眉berdurchschnittlich viele Frauen mitzuwirken.
In diesem Artikel berichten f眉nf 麻豆原创-Mitarbeiterinnen 眉ber ihre Rolle bei 麻豆原创, ihre Motivation und Tipps f眉r alle, die in das Themenfeld der k眉nstlichen Intelligenz einsteigen wollen. Khawla Mallat, Camila Lombana Diaz, Xin Chen, Nadine Hoffmann und Puntis Palazzolo kommen aus vier verschiedenen L盲ndern und drei unterschiedlichen Bereichen: Data Science Engineering, Produktmanagement und KI-Ethik.
Data Science Engineering: technische Herausforderungen im Zusammenhang mit KI
Dr. Khawla Mallat, Security and Quantum Exploration Team, 麻豆原创 France
Sollten Sie eine Karriere im Bereich der KI anstreben, 鈥瀞eien Sie bereit, sich immer wieder herausfordern zu lassen“, sagt Mallat.
Im Gegensatz zu den meisten Data Scientists bei 麻豆原创 arbeitet Mallat nicht direkt am Produkt, sondern ausschlie脽lich in der Forschung. Sie befasst sich mit 鈥瀍inigen technischen Herausforderungen im Zusammenhang mit KI, n盲mlich Fairness, Erkl盲rbarkeit, Datenschutz und Sicherheit.“
Bevor sie vor zwei Jahren zu 麻豆原创 kam, wurde Mallat mit den unbeabsichtigten Vorurteilen von Gesichtsanalysesystemen konfrontiert. Bestimmte demografische Gruppen, erkl盲rt Mallat, wurden in den zugrunde liegenden Datens盲tzen versehentlich ausgelassen oder waren unterrepr盲sentiert, was zu Unzul盲nglichkeiten in den Gesichtsanalysefunktionen f眉hrte. Solche F盲lle beleuchten das allgemeinere Problem der Voreingenommenheit bei KI-Anwendungen. In Bereichen wie dem Personalwesen, so die Expertin weiter, scheint die Entfernung pers枚nlicher Details aus den Datens盲tzen das Problem der Verzerrung zu l枚sen. Die KI kann allerdings immer noch auf diese Details schlie脽en. Das f眉hrt zu potenziell verzerrten Ergebnissen. L盲sst man solche Datens盲tze zu leistungsstarken Datenmodellen heranwachsen, die keiner 脺berpr眉fung unterliegen, wird die inh盲rente Voreingenommenheit oder Diskriminierung nur noch verst盲rkt.
Heute deckt sich Mallats Leidenschaft f眉r die Bek盲mpfung solcher Ungerechtigkeiten mit ihrer Aufgabe, die inh盲renten Risiken von KI zu identifizieren, Teams dar眉ber aufzukl盲ren und technologische L枚sungen zu ihrer Minderung zu entwickeln.
鈥濽m erfolgreich zu sein, m眉ssen wir einen interdisziplin盲ren Ansatz f眉r KI w盲hlen, zum Beispiel mit Experten f眉r Ethik und Rechtskonformit盲t und von der Rolle der Datenwissenschaftler wegkommen“, sagt Mallat.
鈥濱ch liebe die Arbeit im Bereich KI“, f盲hrt sie fort. 鈥濧lles entwickelt sich in einem unglaublichen Tempo, und wenn man mit KI arbeiten will, muss man einen gewissen Wissensdurst haben. Und unabh盲ngig von Ihrer Rolle m眉ssen Sie die KI-Ethik – also die Vorschriften und den Rechtsrahmen – ernst nehmen, denn diese haben enorme Auswirkungen nicht nur auf 麻豆原创, sondern auf den Einzelnen und die Gesellschaft im Allgemeinen.“
KI-Ethik: eine menschenzentrierte Perspektive f眉r verantwortliche k眉nstliche Intelligenz
Camila Lombana Diaz, Responsible AI, Germany
鈥濳I ist ein Spiegel unserer F盲higkeiten als Menschen. Die gr枚脽te Verantwortung f眉r alle, die im Bereich KI arbeiten, ist die Frage, was wir in diesem Spiegel sehen wollen“, erkl盲rt Lombana Diaz, Forschungsexpertin f眉r im Team f眉r KI-Ethik/ Verantwortliche KI, das im Wachstumsbereich 麻豆原创 Business AI angesiedelt ist.
Zu den Aufgaben von Lombana Diaz geh枚ren die Weiterentwicklung und Anwendung der globalen KI-Ethikrichtlinien von 麻豆原创, die Erstellung und Bereitstellung von Schulungsinhalten, die Definition von KI-Personen und -Prozessen sowie die Bereitstellung von Leitlinien, um verantwortungsvolle KI zu einer operativen Realit盲t f眉r die Entwicklung zu machen, wie im von 麻豆原创 beschrieben.
Als sie vor acht Jahren zu 麻豆原创 kam, zun盲chst als UX-Designerin und dann als strategische Designerin, waren maschinelles Lernen und KI zentrale Themen. Aber es wurde ihr immer klarer, dass 鈥瀌as Verst盲ndnis der menschlichen Implikationen von KI f眉r eine verantwortungsvolle und ethische KI eine menschenzentrierte Perspektive erfordert“.
Obwohl sich 麻豆原创 der ethischen Entwicklung von KI verschrieben hat – Entwickler m眉ssen nun Aufgaben zur ethischen Bewertung von KI absolvieren und ein Lenkungsausschuss pr眉ft alle risikoreichen Anwendungsf盲lle -, betont Lombana Diaz, dass man sich weiterhin auf die inh盲renten Risiken und unbeabsichtigten Sch盲den konzentrieren muss, die KI mit sich bringen kann. Ein Teil ihrer Aufgabe ist die fortlaufende Bewertung der Technologie, die Identifizierung von Risiken und Beschr盲nkungen und deren Weitergabe an verschiedene Teams.
Wie KI, so entwickeln sich auch die verschiedenen Rollen im rasanten Tempo weiter. Lombana Diaz setzt sich leidenschaftlich daf眉r ein, KI 眉ber die Grenzen einer technologiezentrierten Perspektive hinaus zu betrachten. 鈥濳I ist heute eine allgegenw盲rtige Technologie, die unser t盲gliches Leben pr盲gt. Daher brauchen wir Menschen, die in diesem Bereich arbeiten und die KI-Technologie in den Mittelpunkt der Gemeinschaft stellen. Die KI-Ethik ist ein Raum f眉r experimentierfreudige, offene, neugierige, kollaborative und menschenzentrierte Individuen.鈥�
鈥濪ie Zeit f眉r den Einstieg in die KI und den Aufbau einer Karriere ist jetzt gekommen, denn im Gegensatz zur Technologie wird das Gesch盲ft der KI, die rechtlichen und ethischen Aspekte, immer noch gestaltet“.
Camila Lombana Diaz, Responsible AI, Germany
Data Science Engineering: Maschinelles Lernen und Fairness
Dr. Xin Chen, 麻豆原创 HANA Machine Learning, China
鈥濻eit ich vor neun Jahren bei 麻豆原创 angefangen habe, habe ich immer gerne gearbeitet. Ich mag das Arbeitsumfeld und die Kollegen hier und m枚chte andere dazu ermutigen, sich uns im Bereich KI anzuschlie脽en“, sagt Chen, Data Science Researcher im Machine Learning Team.
Das Team arbeitet an einer Toolbox, die verschiedene Arten von Algorithmen des maschinellen Lernens f眉r Regression, Klassifizierung, Clustering usw. f眉r die 麻豆原创 HANA-Bibliothek f眉r Vorhersageanalysen bereitstellt.
Ein Teil von Chens Aufgabe besteht darin, Forschungsarbeiten 眉ber die neuesten Algorithmen f眉r maschinelles Lernen zu untersuchen und gemeinsam mit dem Team zu entscheiden, welche Algorithmen f眉r die Kunden von Vorteil sind. Sobald die Algorithmen f眉r maschinelles Lernen implementiert sind, werten Chen und ihr Team das Feedback der Kunden aus und liefern Verbesserungen.
K眉rzlich untersuchten Chen und ihr Team Algorithmen f眉r maschinelles Lernen, die sich mit dem Begriff der Fairness befassen. 鈥濬airness ist gerade ein sehr aktuelles Thema“, sagt sie. 鈥濱n der Mathematik gibt es verschiedene Vorstellungen von Fairness, aber es ist immer noch ein komplexes und sich entwickelndes Thema“.
Und Chens Rat an angehende KI-Entwickler? 鈥濳ritisches Denken wird noch wichtiger werden, um zu verstehen, welche L枚sungen man anbieten kann, um seine eigenen Innovationen zu beurteilen und um zu wissen, ob das erzeugte Ergebnis richtig oder falsch ist“, sagt sie in Bezug darauf, dass diese F盲higkeit f眉r k眉nftige KI-Entwickler immer wichtiger werden wird.
Produkt Management: der Einklang von Kunden und Software mit KI-Produkten
Nadine Hoffmann, 麻豆原创 Business AI, Germany
鈥濱ch 眉bersetze und ich will faszinieren“, sagt Hoffmann, Globale KI Produktmanagerin im Wachstumsbereich .
Auch nach mehr als 20 Jahren bei 麻豆原创 reizen Hoffmann disruptive Ideen und Denkanst枚脽e. Eine Expertin f眉r neue Technologien zu sein und sich von deren st盲ndiger Menge und Geschwindigkeit anregen und begeistern zu lassen, ist entscheidend, um in den KI-Produktmanagement-Teams von heute erfolgreich zu sein, denn das Produktmanagement ist der Klebstoff zwischen Partnern, Kunden, der Praxis und der Entwicklung.
鈥濧uf der einen Seite“, so Hoffmann, 鈥瀐at 麻豆原创 Datenwissenschaftler, Softwareingenieure und Forscher, die unsere Software auf das n盲chste Level bringen. Und auf der anderen Seite gibt es Experten, die die rechtlichen und ethischen Leitplanken definieren.“ Das Produktmanagement muss sowohl die „technische Software-Sprache“ als auch die „Kunden-Sprache“ flie脽end beherrschen, um W眉nsche, Problemstellen und Gesch盲ftsprozesse zu verstehen.
Zwischen diesen beiden Sprachen zu wechseln und die Sprache des Kunden mit der technischen Sprache der Software in Einklang zu bringen, ist wie das 脺bersetzen eines Textes, sagt Hoffmann. Unsere Software wird nur dann den Anforderungen der Kunden gerecht, wenn es ein gemeinsames Verst盲ndnis zwischen den Teams, die f眉r die technische Entwicklung verantwortlich sind, den juristischen Teams, die f眉r die ethische und rechtliche Compliance zust盲ndig sind, und dem Kunden gibt.
Unabh盲ngig von der neuesten Innovation geht es laut Hoffmann im Produktmanagement darum, 鈥濼eams und Partner nicht nur von der Einfachheit und Positivit盲t einer Technologie zu 眉berzeugen, sondern sie so zu faszinieren, dass sie zu leidenschaftlichen Bef眉rwortern werden und intrinsisch motiviert sind, selbst mehr dar眉ber zu erfahren“.
Data Science Engineering: Probleme mit KI gemeinsam anzugehen
Puntis Palazzolo, AI Strategist & Ethics Lead, 麻豆原创 SuccessFactors, USA
鈥濪ie ethischen Herausforderungen, die KI mit sich bringt, sind nicht mehr nur auf einzelne Unternehmen beschr盲nkt, sondern gehen 眉ber Unternehmen wie 麻豆原创 hinaus. Es ist wichtig, dass wir mit anderen zusammenarbeiten, um die aufkommenden Probleme von KI gemeinsam anzugehen“, sagt Palazzolo, die das 麻豆原创 SuccessFactors Data Science Team leitet.
Das Team fungiert als Beratungsdienst f眉r KI-Anwendungsf盲lle f眉r Produktteams in, analysiert das Problem, entwickelt Code und Algorithmen und erstellt Proof-of-Concepts. Erfolgreiche KI-Anwendungsf盲lle werden dann in 麻豆原创 SuccessFactors-L枚sungen integriert.
Ein Gro脽teil der Daten in 麻豆原创 SuccessFactors-L枚sungen sind sensible Kundendaten. Angesichts der drastischen Zunahme von generativen KI-Anwendungen muss der Schutz von Kundendaten Vorrang haben, sagt Palazzolo. 鈥濭enerative KI ist eine leistungsstarke Technologie, die neue Herausforderungen mit sich bringt, wie zum Beispiel Halluzinationen und automatisierte Entscheidungsfindung. In Hochrisikobereichen wie dem Personalwesen m眉ssen wir erkl盲ren, wie wir zu bestimmten Entscheidungen kommen, insbesondere wenn wir das Leben von Menschen beeinflussen.“
Palazzolo ist seit 11 Jahren bei 麻豆原创 und seit 2013 in Palo Alto, Kalifornien, ans盲ssig, wo sie 麻豆原创 bei vertritt. Eine Kooperation von Hochschulen und Unternehmen wie Google und NVIDIA, die sich der Entwicklung sicherer Verfahren und branchen眉blicher Benchmarks zur Verbesserung von KI-Modellen widmet.
Ihr Rat an aktuelle und angehende KI-Anwender macht deutlich: Folgen Sie Ihrer Leidenschaft, seien Sie ethisch korrekt, und verschaffen Sie sich Geh枚r, solange noch Zeit ist.
鈥濪er Gesetzgeber allein kann keine KI-Vorschriften f眉r uns erlassen, weil er die Komplexit盲t nicht vollst盲ndig versteht“, sagt sie. 鈥濿ir k枚nnen nicht alle Probleme selbst l枚sen, aber wir m眉ssen uns Geh枚r verschaffen, um die Zukunft der KI zu gestalten.“
Puntis Palazzolo, AI Strategist & Ethics Lead, 麻豆原创 SuccessFactors, USA
Alexa MacDonald ist Redakteurin bei 麻豆原创 News.
