Direkt zum Hauptbereich

Ist die Künstliche Intelligenz diskriminierend?

Das Wort Diskriminierung entsteht zumeist in Bezug auf Menschen. Aber ist dies wirklich möglich, dass die Künstliche Intelligenz diskriminierend handelt? Und wie ist dies überhaupt möglich und wie ist es ersichtlich, dass eine Maschine diskriminierend handelt?

Als erstes definieren wir den Begriff Künstliche Intelligenz. SAP definiert die Künstliche Intelligenz wie gefolgt: "Künstliche Intelligenz ist der Übergriff für Anwendungen, bei denen Maschinen menschenähnliche Intelligenzleistungen erbringen. Darunter fallen das maschinelle Lernen oder Machine Learning, das Verarbeiter natürlicher Sprache (NLP - Natural Language Processing) und Deep Learning. Die Grundidee besteht darin, durch Maschinen eine Annäherung an wichtige Funktionen des menschlichen Gerhirns zu schaffen - Lernen, Urteilen und Problemlösen."


Wie werden die menschenähnliche Intelligenzleistungen genau erschaffen? 
Die Künstliche Intelligenz wird mit Daten gefüttert und durch die Erkennung von verschiedenen Muster, lehrt sie zu lernen, zu urteilen und zu problemlösen.
Somit ist klar, dass die Künstliche Intelligenz entweder mit zu viel Daten oder zu wenig Daten gefüttert wurde, dass sie diskriminierend handelt.
Was heisst dies ganz genau? Einerseits, wenn ich die Maschine mit mehr Daten füttere, somit entstehen mehr Bedingungen und dadurch handelt sie diskriminierend, da mehrere Kriterien erfüllt werden müssen.
Anderseits, wenn ich zu wenig Daten der Maschine zur Verfügung stelle, kennt die Künstliche Intelligenz nicht alle Rahmenbedingungen und handelt somit auch diskriminierend. Zusammenfassend kann gesagt werden, dass die Diskriminierung nicht in der Künstlichen Intelligenz entsteht sondern in den Algorithmen. Wenn die Algorithmen nicht neutral sind, d.h. wenn die Vorurteile von uns Menschen in die Algorithmen miteinfliessen, entsteht eine Diskriminierung. Weiter ist zu beachten, wenn z.B. eine Person nur weiss sieht, dann die Trainings der Künstlichen Intelligenz eher auf weisse Personen ausgelegt ist als auf dunklere Hautfarbe, dann ist die Wahrscheinlichkeit hoch, dass die Maschine bei dunklere Hautfarbe unzuverlässiger funktioniert als bei hellere Hauttypen.

Wie ist die Diskriminierung der Künstlichen Intelligenz ersichtlich?
Die nicht vorhandene Neutralität der Künstlichen Intelligenz wurde anhand verschiedenen Beispielen entdeckt. Ich möchte euch zwei Beispiele aufzeigen.

Verarbeitung von Bewerbungen bei Amazon 
Amazon verwendet Bewerbungsroboter um die Bewerbungen zu verarbeiten. Die Aufgabe der Maschine bestand darin, mit den erhaltenen Daten die Bewerbungen nach bestimmten Merkmalen und Schlüsselworten in Bezug auf die ausgeschriebene Stelle zu untersuchen. Beim Sortieren der Bewerbungsunterlagen wurden Frauen grösstenteils benachteiligt, weil das System technikaffine Männer im Blick hatte. Dies aus dem Grund, weil in der Technik-Branche mehr Männer als Frauen arbeiten. Somit nahm die Maschine an, dass für die ausgeschriebene Stelle eher Männer in Frage kommen als Frauen und sortierte die Bewerbungsunterlagen der Frauen aus. 

Suchmaschine von Google-Cloud
Im Google-Cloud können unsere Fotos hochgeladen werden. Falls ein bestimmtes Bild gesucht wird, können anhand bestimmte Suchbegriffe nach dem Bild gesucht werden wie z.B. Hund, wenn ein Hund auf dem Bild ersichtlich war. 
Im 2015 kam es zu einer Verwechslung. Die Suchmaschine konnte Schwarze Menschen nicht zu 100% von Gorillas unterscheiden. 
Aufgrund dieser Verwechslung kann in Google Fotos nicht mehr nach Affen gesucht werden, um eine unbewusste Diskriminierung zu vermeiden. 


Kommentare

Kommentar veröffentlichen

Beliebte Posts aus diesem Blog

Neue Spielregeln für Internet-Giganten?

Die Künstliche Intelligenz ist heute bereits ein Teil der Gegenwart. Wie ich bereits in den vergangenen Blogs erwähnt habe, ist die Künstliche Intelligenz eine Chance sowie ein Gefahr für die Menschheit.  In Zukunft werden sich noch mehr Möglichkeiten bieten bei der Nutzung der Künstlichen Intelligenz.  Vor 20 Jahren wurden die Digital-Regeln der EU definiert. Diese Regeln sind heute nicht mehr zeitgemäss.  Der Erfolg in diesem Bereich ist abhängig von Nutzerdaten und somit bestehen bereits Marktbarrieren für zukünftige Unternehmen. Um solche Wettbewerbsverzerrungen zu verhindern, greift die EU-Kommission durch und schlägt eine Reform im digitalen Raum vor. Die vorgeschlagenen Bestimmungen werden die Nutzer sowie ihre Grundrechte im Internet besser schützen können. Die Kommissionsvizepräsidentin, Margrethe Vestager möchte, dass wir als Nutzer, als Kunden, als Unternehmen eine breite Auswahl an sicheren Diensten online haben, genau wie wir das in der physischen Welt tun....
Kommentar veröffentlichen
Mehr anzeigen

Die hemmungslose Kultur

Immer wieder stelle ich mir die Frage, ob wir uns zu einer Kultur entwickeln, die immer negativer und schamloser wird. Vor einigen Jahren, als Social Media noch kein Teil unseres alltäglichen Lebens war, waren die Möglichkeiten Kritik zu üben entweder persönlich oder über längere Wege, wie E-Mails, Zeitungen, Briefe, etc. Aber eine Person zu kritisieren, die wir nicht persönlich kennen, kam nicht wirklich in Frage. Jetzt haben wir die Möglichkeiten von Social Media, und es ist wahrnehmbar, wie die Hemmschwelle für kritisierende Worte plötzlich rapide sinkt. Passiert dies aus dem Grund, dass wir denken, dass wir die Person kennen, nur weil wir einen kleinen Einblick in ihr Leben erhalten? Berechtigt uns dieser kleiner Einblick eine Person im öffentlichen Netz zu kritisieren und zu demütigen, obwohl wir sie nicht persönlich kennen? Sind Kritik oder Demütigung im öffentlichen Netz weniger kränkend als in der realen Welt? Ich denke nicht. Immer wieder hört man, dass eine Influenceri...
Kommentar veröffentlichen
Mehr anzeigen