Kenza Ait Si Abbou Lyadini

Künstliche Intelligenz braucht menschliches Bewusstsein:

Wie wir Maschinen dazu bringen, das Richtige zu lernen

„Keine Panik, ist ja nur Technik …“ Kenza Ait Si Abbou Lyadini weiß, wovon sie spricht. Nach Stationen in Spanien, Berlin und China ist die Powerfrau aus Marokko heute Managerin für Robotik und künstliche Intelligenz. Für Aareon Live öffnet sie ein Fenster in andere Branchen, andere Länder und in die Zukunft: Was ist möglich? Was ist denkbar? Und was längst Realität? Bei aller Freude an der Technik sind KI und Robotik für die engagierte Ingenieurin nie Selbstzweck. Ihr Ansatz: Damit Maschinen nicht das Falsche lernen, braucht es Ethik und das Bewusstsein der Menschen. Die Technologie existiert. An uns ist es, sie zu verstehen, zu formen und klug zu nutzen – neugierig, engagiert und ohne falsche Scheu. Nach ihrem Impuls beantwortet die KI-Expertin die Fragen der Zuschauer im Livestream – interaktiv!

Kenza Ait Si Abbou Lyadini
Expertin für Robotik und künstliche Intelligenz (Foto: Hendrik Gergen)

Interessantes zu und von Kenza Ait Si Abbou Lyadini

„We need more diversity in Al development now!“, Kenza Ait Si Abbou Lyadini bei TEDxHamburg 2019

„How a bottom-up AI community is fueling Deutsche Telekom“, Kenza Ait Si Abbou Lyadini auf dem omni:us Machine Intelligence Summit 2019

Diskussions­veranstaltung „Digitalisierung ist weiblich!“ (08.03.2021)

Bundespräsident Frank-Walter Steinmeier und Elke Büdenbender haben am Internationalen Frauentag in Schloss Bellevue über die Wechselwirkung von Digitalisierung und Gleichstellung in Wirtschaft, Wissenschaft, Bildung, Kultur/Medien und Politik diskutiert. Auch KI-Expertin Kenza Ait Si Abbou Lyadini war Gast bei der Podiumsdiskussion.

   Mitschnitt des Livestreams

Vier Fragen an Kenza Ait Si Abbou Lyadini

1. Ihr Buch „Keine Panik, ist nur Technik“ gilt als Erziehungsratgeber, damit die Maschinen in unserem Leben endlich machen, was wir wollen. Wen muss man denn mehr erziehen: die Maschinen oder die Menschen?

Das ist eine sehr gute Frage. Ich würde hier gerne eine Analogie aus der Kindererziehung heranziehen. Wir erziehen unsere Kinder und bringen ihnen vieles bewusst bei, aber auch vieles unbewusst. Das merken wir erst, wenn die Kinder sich so verhalten wie wir, ohne dass wir es so wollten. Sie halten uns einen Spiegel vor die Augen. Dasselbe passiert mit den Maschinen. Wir programmieren sie, damit sie bestimmte Aufgaben für uns erledigen – und dabei schleichen sich viele Verzerrungen ein, ohne dass wir es merken. Das heißt, auch die Maschinen machen nur das, was wir ihnen beigebracht haben – sei es bewusst oder unbewusst. Der bewusste Teil ist die Aufgabe sowie der Weg zur Lösung der Aufgabe. Der unbewusste Teil steckt in der Art und Weise, wie wir die Maschine programmieren, aber auch in den Daten, mit denen wir die Maschine antrainieren.

2. Algorithmen können diskriminieren. Nicht selten reproduzieren sie Vorurteile und verstärken sie. Wie verhindern wir solche Echokammern? Anders gefragt: Wie stellt man sicher, dass künstliche Intelligenz nicht das Falsche lernt?

Wie oben erwähnt, lernen die Maschinen alles, was sie machen, von uns. Wenn wir Vorurteile haben und nicht darauf achten, dass wir sie im Entwicklungsprozess neutralisieren, dann werden die Maschinen diese Vorurteile reproduzieren. Gleichzeitig liegt die Schwierigkeit genau darin, diese Vorurteile zu identifizieren, damit man sie neutralisieren kann. Denn kognitive Verzerrungen entstehen dadurch, dass Menschen nur aus ihrer eigenen Perspektive denken und davon ausgehen, dass die ganze Welt genauso tickt. Das machen sie alles unbewusst. Was unbewusst ist, ist schwierig zu identifizieren. Aber auch da kann uns die künstliche Intelligenz helfen, unsere Verzerrungen (Bias) in den Daten zu finden. Datenwissenschaftler sind daran gewöhnt, Bias in den Daten zu identifizieren. Nur geht es meistens darum, Korrelationen in den Daten zu finden, die keinen Sinn ergeben. Die kognitiven Verzerrungen sind zwar eine Art von Bias, d. h. methodisch ist das Vorgehen ähnlich. Aber das funktioniert nur, wenn die Datenwissenschaftler in „unconscious bias“ geschult sind und die unterschiedlichen Dimensionen von Diskriminierungen etc. kennen, auseinanderhalten und korrigieren können. Sie müssen zusätzliche Aspekte in den Daten sehen – also auch gesellschaftliche Aspekte. Und da ist schon viel gefragt. Deswegen sind diverse Teams in meinen Augen sehr wichtig. Denn diverse Menschen bringen diverse Perspektiven mit rein – und das hilft beim Entdecken von Verzerrungen. Und mit divers meine ich auch eine Diversität der Fähigkeiten, d. h. Expert*innen in Soziologie sind genauso wichtig wie Programmier*innen.

3. Nicht wenige begegnen neuer Technik mit Skepsis, Furcht und Vorbehalten. Sie selbst haben das früher bei Ihrer Mutter erlebt. Was würden Sie ihr und anderen heute raten, um die Scheu vor dem Neuen abzulegen?

Menschen haben immer Angst vor dem, was sie nicht kennen. Wenn man sich aber mit dem Thema auseinandersetzt und ein bisschen davon versteht, dann verschwindet die Angst langsam. Technik bildet hier keine Ausnahme. Viele Menschen denken immer noch „das hat mit mir nichts zu tun“ und versuchen, es zu vermeiden. Aber die Technologie verändert unser Leben, unsere Berufe, unsere Welt. Je schneller sich jede Person mit dem Thema auseinandersetzt, desto besser kann sich diese Person auf ihre eigene Zukunft vorbereiten.

Genau um die Angst vor Technik abzubauen, habe ich mein Buch „Keine Panik ist nur Technik“ geschrieben. Damit möchte ich Menschen humorvoll und mit Beispielen aus dem Alltag ein grundlegendes Verständnis für künstliche Intelligenz vermitteln. Bevor ich das Buch geschrieben habe, gab ich viele Workshops an nicht Technolog*innen. In den Workshops habe ich gemerkt, wie wichtig Aufklärung ist. Nachdem die Workshop-Teilnehmenden verstanden hatten, was wirklich hinter der KI steckt (also Mathematik und Statistik) und sich sogar an die eine oder andere Methode aus dem Studium erinnert hatten, war die Angst weg. Man muss nicht alles gleichzeitig verstehen, aber wenn man etwas Kleines verstanden hat, dann wächst die Lust und Bereitschaft, mehr zu verstehen. Das funktioniert bei der KI genauso wie bei der Bedienung einer neuen Kaffeemaschine.

4. In einem Interview haben Sie gesagt, Algorithmen seien Arbeitsanweisungen für Maschinen – und damit wie Rezepte für unterschiedliche Gerichte. In Ihrer Einschätzung: Wie viele Unternehmen wissen, was sie kochen wollen? Und wie viele haben die richtigen Zutaten (sprich: Daten) dafür? Welche Branchen sind hier besonders weit fortgeschritten? Fehlt es grundsätzlich eher an Rezepten oder den Zutaten?

In meinen Augen sollten die Unternehmen immer wissen, wo die Reise langgeht. Natürlich mit Bezug auf ihr Kerngeschäft. Das ist also das Ziel bzw. das End-Gericht. Wie man hinkommt, kann auf unterschiedliche Art und Weise passieren. Es gibt die Standardwege, es gibt die Abkürzungen und es gibt die Sackgassen. Technologie kann dabei helfen, den Standardweg glatter zu machen oder die Abkürzung zu finden. In jedem Fall sollte die Sackgasse vermieden werden. Und heute ist es nun mal so, wer sich gegen Technologie entscheidet, geht das Risiko ein, in einer Sackgasse zu landen. Denn aus dem heutigen Leben ist Technologie nicht mehr wegzudenken. Es hilft am meisten, wenn man diese Tatsache für sich akzeptiert und schaut, wie man sich und seine Prozesse daran anpasst. Dafür hilft eine gute Strategie von Anfang an. Also kein blinder Aktionismus, bloß weil alle jetzt mit Daten rumhantieren. Man muss sich genau überlegen „was möchte ich erreichen“, sich langsam die Strukturen aufbauen, die Daten strukturiert und qualitativ sammeln und dann analysieren und verarbeiten.

Alle Unternehmen sammeln alle möglichen Daten, aber wenn die Qualität schlecht ist, kann man damit nichts anfangen. Und das ist meistens so, gerade in den „traditionellen“ Unternehmen. Bei denen sind viele Prozesse historisch gewachsen, es wird noch viel mit Papier oder Excel-Tabellen gearbeitet, die Daten sind unvollständig oder unstrukturiert und meistens noch analog und gar nicht digital. Am besten gelingt es den jungen Unternehmen, die schon beim Aufbau direkt auf Digitalisierung gesetzt haben und beispielsweise Datenbanken statt Excel-Tabellen nutzen. Zum Beispiel existieren viele E-Commerce-Betriebe nur digital. Von Anfang an sammeln sie Kundendaten und sind in der Lage, das Kundenerlebnis auf deren Webseite so zu optimieren, dass die Kunden immer wieder zurückkehren und erneut bei ihnen einkaufen. Das ermöglicht das Datamining.

Das Interview wurde erstmals veröffentlicht auf → Wohnungswirtschaft heute.