Es ist acht Jahre her, dass Google sich entschuldigen musste, nachdem seine KI-Software ein schwarzes Paar fälschlicherweise als „Gorillas“ bezeichnet hatte.
Der frühere Geschäftsführer Yonatan Zunger sagte damals, das Unternehmen arbeite an „längerfristigen Lösungen“, um die Anerkennung farbiger Menschen zu verbessern.
Allerdings hat der Technologieriese die Funktion zur Suche nach Gorillas oder anderen Primaten aus Angst vor einem erneuten Vorfall entschieden ausgeschaltet gelassen.
KI-Erkennungssoftware sortiert und analysiert Fotos, sodass Benutzer durch die Suche nach Schlüsselwörtern schnell Zehntausende Bilder filtern können.
Die New York Times nutzte 44 Bilder, um die KI-Software des Unternehmens zu testen. Bei der Suche in Google Fotos nach Katzen und Kängurus wurden die richtigen Bilder identifiziert.
Bei der Suche nach Gorillas, Pavianen, Schimpansen, Orang-Utans und Affen konnte die Software jedoch keine Bilder finden, obwohl sie Fotos dieser Tiere enthielt.
Das gleiche Problem wurde bei Apple Photos festgestellt, wo zwar mehrere spezifische Tiere lokalisiert werden konnten, für Primaten jedoch keine Ergebnisse erzielt wurden.
Verletzungsgefahr
Google-Sprecher Michael Marconi sagte, das Unternehmen habe die Möglichkeit der App, alles als Affen oder Affen zu kennzeichnen, abgeschaltet, da der Nutzen „das Schadensrisiko nicht überwiegt“.
Jacky Alcine, der das Problem zuerst bei Google zur Sprache brachte, sagte, er werde „für immer kein Vertrauen in diese KI haben“, nachdem er erfahren hatte, dass das Problem nicht behoben worden sei.
Dr. Margaret Mitchell von der Ethical AI-Gruppe von Google sagte zuvor, sie unterstütze die Entscheidung von Google, das Gorilla-Label aus seiner Erkennungssoftware zu entfernen.
Dr. Mitchell, der nicht mehr bei Google arbeitet, sagte: „Man muss darüber nachdenken, wie oft jemand einen Gorilla kennzeichnen muss, anstatt schädliche Stereotypen aufrechtzuerhalten.“
Die Vorteile überwiegen nicht den potenziellen Schaden, wenn man es falsch macht.“
„Es genügt ein Fehler, um massive soziale Auswirkungen zu haben“, sagte sie und bezeichnete ihn als „die vergiftete Nadel im Heuhaufen“.
Rassenvoreingenommen
Letztes Jahr wurde in New York eine Sammelklage eingereicht, in der behauptet wurde, der Blutsauerstoffsensor der Apple Watch sei rassistisch gegenüber Schwarzen voreingenommen.
In der Klage, die vom Kläger Alex Morales im Namen aller New Yorker Verbraucher eingereicht wurde, die während der Verjährungsfrist eine Apple Watch gekauft hatten, wurde behauptet, dass das Design der Apple Watch-Serie Menschen mit dunklerer Haut einem „erhöhten Risiko für Hypoxämie“ aussetze.
Apple wollte sich gegenüber der New York Times nicht dazu äußern, dass seine Fotosoftware nicht nach Primaten suchen könne.
Der Telegraph bat Google und Apple um einen Kommentar.