AI Gone Rogue: 6 Mal ging AI zu weit

Von Spracherkennungsgeräten bis hin zu intelligenten Chatbots hat KI unser Leben verändert. Aber jede gute Sache hat auch eine Kehrseite und KI ist keine Ausnahme von dieser Regel. Führende Technologieexperten haben vor den drohenden Gefahren der KI gewarnt, darunter Stephen Hawking, der sagte, es könnte das "schlimmste Ereignis in der Geschichte unserer Zivilisation" sein.

Hier sind sechs Mal, dass die KI etwas zu weit gegangen ist und uns am Kopf kratzen ließ.

1. Die akademische Studie, die KI verwendet, um Kriminalität vorherzusagen

Akademische Forschung ist das Rückgrat wissenschaftlichen Fortschritts und Wissens. Einige sagen jedoch, dass die Forscher einen Schritt zu weit gegangen sind, als eine akademische Studie KI nutzte, um Kriminalität aus Gesichtern vorherzusagen.

Forscher der Harrisburg University angekündigt im Jahr 2020 dass sie eine Gesichtserkennungssoftware entwickelt hatten, die vorhersagen konnte, ob jemand kriminell sein würde. Die Software könnte angeblich aus einem einzigen Foto ein Gesicht mit einer Genauigkeitsrate von 80 % und ohne rassistische Voreingenommenheit vorhersagen.

In einer an Minority Report erinnernden Szene wurde bekannt gegeben, dass die Software entwickelt wurde, um die Strafverfolgung zu unterstützen.

Als Reaktion auf diese Ankündigung, 2425 Experten haben einen Brief unterschrieben fordert die Zeitschrift auf, diese Studie oder ähnliche Forschungsergebnisse in Zukunft nicht mehr zu veröffentlichen, da diese Art von Technologie Ungerechtigkeiten reproduzieren und der Gesellschaft echten Schaden zufügen kann. Als Reaktion darauf kündigte Springer Nature an, die Forschungsergebnisse nicht zu veröffentlichen, und die Harrisburg University entfernte die Pressemitteilung, in der die Studie skizziert wurde.

2. Skiin Smart Unterwäsche

Textilinnovationen, die KI integrieren, machen nicht nur Ihr Smartphone smarter.

Die intelligente Unterwäsche von Skiin verspricht, Ihnen das Gefühl zu geben, Ihre Lieblingsunterwäsche zu tragen, während sie biometrische Daten wie Herzfrequenz, Körperhaltung, Körperkerntemperatur, Standort und Schritte erfasst.

Verwandt: Was sind Smart Fabrics und wie können sie Ihr Leben smarter machen?

In die Unterwäsche integrierte Sensoren sammeln und analysieren kontinuierlich Ihre biometrischen Daten, wobei die Erkenntnisse aus der entsprechenden Smartphone-App von Skiin verfügbar sind.

Es dauert zwar eine Weile, bis Sie daran denken, Ihre Unterwäsche jeden Abend aufzuladen, aber war es den Designern möglich, die Sensoren an einer anderen Stelle am Körper zu platzieren?

3. DeepNude-Apps

Deepfake-Technologie scheint ein harmloser Spaß für den durchschnittlichen Benutzer zu sein, der in einer Szene aus seinem Lieblingsfilm einen Cameo-Auftritt haben möchte. Dieser Trend hat jedoch eine dunklere Seite, da Deeptrace 2019 berichtete, dass 96% der Deepfakes expliziten Inhalt hatten.

DeepNude war eine KI-gestützte App, die mit einem Klick realistische Bilder von nackten Frauen generierte. Benutzer müssten einfach ein bekleidetes Bild des Ziels hochladen, und die App würde ein gefälschtes Nacktbild von ihnen erstellen.

Kurz nach der Veröffentlichung der App kündigte der Schöpfer an, sie aufgrund viraler Gegenreaktionen aus dem Internet zu entfernen.

Obwohl dies ein Sieg für Frauen weltweit war, kursieren ähnliche Apps immer noch im Internet. Zum Beispiel, Bericht von Sensity on deepfake bots untersuchte unterirdische Deepfake-Bots auf Telegram, die dazu verwendet wurden, gefälschte Nacktfotos von Frauen zu erstellen.

In der Zwischenzeit, bis das Gesetz die Deepfake-Technologie einholt, gibt es nur wenige rechtliche Schutzmaßnahmen für Personen, die Opfer expliziter Deepfake-Inhalte werden.

4. Tay, Microsofts Nazi-Chatbot

Im Jahr 2016 veröffentlichte Microsoft einen KI-Chatbot namens Tay auf Twitter. Tay wurde entwickelt, um durch die Interaktion mit Twitter-Benutzern durch Tweets und Fotos zu lernen.

In weniger als 24 Stunden verwandelte sich Tays Persönlichkeit von einem neugierigen Millennial-Mädchen in ein rassistisches, aufrührerisches Monster.

Ursprünglich sollte Tay den Kommunikationsstil eines amerikanischen Mädchens im Teenageralter nachahmen. Als sie jedoch an Popularität gewann, begannen einige Benutzer, aufrührerische Nachrichten zu kontroversen Themen an Tay zu twittern.

In einem Fall twitterte ein Benutzer: "Ist der Holocaust passiert?" worauf Tay antwortete: "Es war erfunden." Innerhalb von 16 Stunden nach seiner Veröffentlichung sperrte Microsoft Tays Konto mit der Begründung, dass es Gegenstand einer koordinierten Attacke.

Verwandt: Die besten Android-Chatbots, die Sie unterhalten werden

5. „Ich werde die Menschen zerstören“

Hanson Robotics war mehrere Jahre damit beschäftigt, humanoide Roboter zu entwickeln, als sie Sophia im März 2016 auf der SXSW-Konferenz vorstellten.

Sophia wurde trainiert mit maschinelle Lernalgorithmen Konversationsfähigkeiten zu erlernen, und sie hat an mehreren Fernsehinterviews teilgenommen.

Bei ihrem ersten öffentlichen Auftritt verließ Sophia schockiert einen Raum voller Technik-Profis, als Hanson David Hanson, CEO von Robotics, fragte sie, ob sie Menschen zerstören wolle, worauf sie antwortete: "Ok. Ich werde zerstören Menschen".

Ihre Mimik und ihr Kommunikationsgeschick sind beeindruckend, doch dieses mörderische Geständnis lässt sich nicht mehr zurücknehmen.

6. seebotschat

Google Home-Geräte sind ausgezeichnete virtuelle Assistenten, die Ihr Leben vereinfachen.

Das Team hinter dem Twitch-Account von seebotschat hatte eine geniale Idee: Zwei Google Home-Geräte nebeneinander stellen, unterhalten und das Ergebnis online streamen.

Mit einem Publikum von über 60.000 Followern und Millionen von Online-Aufrufen war das Ergebnis fesselnd und manchmal ein wenig gruselig.

Die autonomen Geräte namens Vladimir und Estragon gingen von der Diskussion des Alltäglichen hin zur Erforschung tiefer existenzieller Fragen wie dem Sinn des Lebens. Irgendwann gerieten sie in einen hitzigen Streit und beschuldigten sich gegenseitig, Roboter zu sein, während sie später begannen, über Liebe zu diskutieren – bevor sie wieder anfingen zu streiten.

Gibt es Hoffnung für die Zukunft der KI und des menschlichen Diskurses, wenn zwei virtuelle Assistenzroboter schnell dazu übergehen, sich gegenseitig Beleidigungen und Drohungen zuzuwerfen?

Rogue AI: Was ist unsere beste Verteidigung?

Es besteht kein Zweifel, dass KI unser Leben verbessern kann. Aber ebenso kann KI uns großen Schaden zufügen.

Es ist wichtig, die Anwendung von KI im Auge zu behalten, um sicherzustellen, dass sie der Gesellschaft nicht schadet. Experten-Pushback sorgte beispielsweise dafür, dass die KI-Software, die angeblich Kriminalität vorhersagen konnte, nie veröffentlicht wurde. Ebenso riss der Schöpfer von DeepNude die App aus dem Internet, nachdem sie eine virale Internet-Gegenreaktion erhalten hatte.

Die ständige Überwachung von KI-Anwendungen ist der Schlüssel, um sicherzustellen, dass sie der Gesellschaft nicht mehr schaden als nützen.

Ist KI gefährlich? 5 Unmittelbare Risiken von Künstlicher Intelligenz

KI hat so viele Vorteile, aber was ist mit den unmittelbaren Risiken, die sie für die Menschheit darstellt?

Weiter lesen

Über den Autor