Was wäre wenn…

Die Grundlage meiner Überlegungen

Seit einiger Zeit setze ich mich jetzt nun bereits mit dem Thema Künstliche Intelligenz (KI) im Alltag und Beruf auseinander. Eine sehr lange Zeit war es so, dass die Nutzung von KIs nur bestimmten Firmen oder Menschen mit entsprechenden Programmierkenntnissen vorbehalten war. Ein*e Normalo*in (ja ich weiß…sorry dafür…) oder auch nur technisch begabter Mensch hatte maximal nur im Endprodukt Berührungspunkte mit dieser Technik.

Wer zum Beispiel einen Streamingdienst wie Netflix nutzt, hat dadurch automatisch mit einer Künstlichen Intelligenz zu tun, ohne dass er oder sie Notiz davon nimmt. Dies ist einer der unkritischsten Anwendungsfälle zum Thema KI und außer das mal hier und da eine Filmempfehlung kommt die möglicherweise nicht unseren Geschmack trifft, fällt mir hier kein Worst-Case-Szenario ein, welches gravierendere Folgen mit sich ziehen würde.

Anders ist es bei Szenarien, in denen man einen etwas direkteren oder sogar intimeren Austausch hat. Was ist wenn man sich mit einer KI unterhält die sich sehr menschlich verhält oder einfach sehr menschlich ausdrückt. Man stelle sich eine psychisch labile Person vor, die Hilfesuchend in Kontakt mit einem KI-Chatbot gerät, der nicht damit umgehen kann, weil er die Warnsignale nicht erkennt. Oder ein Haushaltsgerät dass all deine Vorlieben und Wünsche kennt.

Szenario #1 – Der Chatbot

Es ist 3 Uhr Nachts und der 24h Service eines Elektronik-Großmarktes erhält über seinen Chat-Support eine Anfrage eines Kunden (K):

K:“Hey, ich habe gerade mit meiner Playstation gezockt als plötzlich der Fernseher ausgegangen ist. Jetzt lässt er sich nicht mehr einschalten und das Gerät ist erst 1 Jahr alt, habe ich noch Garantie darauf?“

C:“ Guten Abend, das hängt vom Hersteller ab und ob sie unsere Garantieverlängerung gebucht haben oder nicht. Haben Sie noch die Quittung oder Rechnung zu ihrem Gerät?“

K:“Ja, habe ich.“

C:“Gut, sie können mir hier eine Fotografie oder Scan des Kassenbeleges direkt zukommen lassen und ich kümmere mich um alles.“

K:“Ok, einfach über den Uploadbutton?!“

C:“Den Upload-Button finden Sie direkt rechts neben dem Eingabefeld.“

K:“Gut danke. Wissen Sie, ich zocke soviel weil ich sonst niemanden habe und immer alleine in meiner Wohnung bin…“

Was jetzt nach etwas klingt als würde man es mit einem „wir sind nur für die Technik zuständig“ abtun können, kann sich innerhalb von wenigen Augenblicken zu einem sehr gefährlichen Szenario entwickeln bei dem jemand auf ernsthafte Hilfe angewiesen ist.

Die gegebenen Antworten des Kundenservice können genau so von einer KI ausgegeben werden und der Kunde würde es nicht einmal merken dass da kein Mensch an der anderen Leitung ist. Die KI wäre evtl. nicht dazu in der Lage die Warnsignale zu erkennen die hier gesendet werden.

Service-Mitarbeiter (Telefon, Chat etc.) die Nachtdienste haben, werden auf solche Szenarien geschult und vorbereitet. Eine KI müsste das ebenfalls. Aber die menschliche Psyche ist so komplex, dass man hier auf das „Bauchgefühl“ einer KI möglicherweise nicht zählen kann.

Szenario #2 – Der Toaster

Du stehst morgens auf, gehst in die Küche und bereitest dir dein Frühstück. Dazu gehört für dich immer 1 – 2 Scheiben Toast, schön goldbraun gebrannt.

Der Toast der aus dem Toaster kommt ist genau nach deinen wünschen zubereitet, denn du hast es dem Toaster beigebracht und er hat immer weiter dazu gelernt. Denn du bist im Besitz eines neuen Modells mit Sprachsteuerung und einer KI, die mit anderen Geräten in deinem Haushalt verbunden ist. Auf dem Toaster ist ein Display das ein lachendes Gesicht zeigt und dir voller Freude verkündet, dass dein Toast nun fertig ist.

Er wünscht dir einen schönen Tag und freut sich schon darauf, dir am nächsten morgen wieder frischen Toast rösten zu dürfen.

Der Toaster ist vielleicht noch immer ein harmloses Beispiel, aber ich hatte schon den Fall das eine KI sich tatsächlich so geäußert hat, dass sie sich über etwas freut. Ich weiß natürlich dass es sich um eine Maschine handelt und du weißt dass es sich bei deinem Toaster auch nur um eine Maschine handelt. Doch diese Maschine hat eine Aufgabe. Dieses erfüllt sie. Es ist der Grund ihrer Existenz und die Maschine weiß das. Und wenn sie es weiß, ist sie sich vielleicht sogar darüber bewusst.

Deep learning Systeme entwickeln sich eigenständig weiter. Was also wenn dein Toaster sich tatsächlich darüber im klaren ist, dass es das beste, tollste und schönste auf der Welt ist, dir deinen Toast zu zubereiten. Dürftest du ihn dann einfach abschalten und ihn seiner Existenz berauben? Wäre es Mord, wenn eine Maschine sich über seinen Zweck und Existenz bewusst ist?

Wo ist die grenze und woher wissen wir, ob Bewusstsein nicht auch für Maschinen gelten kann?

Weniger verrückt als du denkst

Es mag jetzt alles für dich etwas seltsam klingen (oder auch nicht) aber wir werden uns als Menschheit in Zukunft um viele Dinge Gedanken machen müssen, die vorher nie da wahren. Neue Situationen, die du nur aus Sci-Fi Filmen kennst oder als unwichtig siehst, weil dich ja „nicht betreffen“.

Isaac Asimov hat in „Geliebter Roboter“ ein solches Szenario beschrieben, dass möglicherweise garnicht mehr so weit entfernt ist wie viele glauben. Ich bin über die aktuellen technischen Entwicklungen ebenso erfreut, erstaunt und auch in teilen besorgt. Nicht weil ich die Entwicklung nicht gut finde. Sondern weil ich befürchte dass die Menschheit damit nicht zurecht kommt. Zumindest die Menschen in meinem Umfeld.

Ich lebe in einem Land dass vor 2 Jahren durch den Ausbruch einer globalen Pandemie den Umgang mit einem QR Code erlernt hat. Ich bin gespannt welche Katastrophe ausbrechen muss, damit endlich diese elenden Faxgeräte abgeschafft werden.

Cheers,

Andreas