Filmtipp: Do you trust this computer?

[marctrix]

Hej Rolf,

„this intelligence, will it contain the good parts, or the bad parts?“

Es geht ja um das gute und schlechte im Menschen, das man ggfs weitergibt.

Man könnte Software ja "gut" designen. Allerdings wird ja beschrieben, dass die Vorherrschaft in der Entwicklung von AI auch die Vorherrschaft in der realen Welt sichern wird. Das Militär ist eine wichtige Triebfeder bei der Weiterentwicklung. Also ist diese Frage leider längst beantwortet. Es wird Maschinen geben, deren einzige Aufgabe es sein wird, Menschen zu töten!

Was ist „Intelligenz“? Der Begriff ist nicht scharf definiert.

In dem und dem von mir verlinkten NG-Film wird das eigentlich sehr schön auseinander genommen — über Bewusstsein bis hin zum erschaffen von neuem wie Kunst und Träumen.

Die Frage sollte sich auf „bad parts“ menschlichen Verhaltens richten, die entstehen, wenn Intelligenz zu kaltem Kalkül entartet und nicht mehr von Emphatie oder einfach Weisheit begleitet ist. Wenn zum "Kann ich das tun?" nicht mehr gefragt wird "Sollte ich das tun?".

Unter Umständen fragt sich das eine Maschine, die keine materiellen Bedürfnisse hat, nicht friert, nicht müde wird etc. eher als ein Mensch…

Bleibt abzuwarten, ob Maschinen Gefühle wie Gier oder Neid überhaupt entwickeln.

Davon mal ganz abgesehen ist diese Trennung Mensch einerseits, Maschine andererseits meiner Meinung nach nicht die (nahe) Zukunft. Wir werden uns zunächst die Maschinen "einverleiben", indem wir uns Chips, Sensoren, Anschlüsse und immer ausgefeiltere Prothesen implantieren.

Parallel dazu werden sicher auch Maschinen entstehen und im Laufe einer weiteren Entwicklung, werden diese sich vielleicht menschliche Teile einverleiben. Vielleicht mag es eine Weile lang praktisch und ressourcenschonend sein, einem human Brain 2.0 Rechenaufgaben zu übergeben. Aber am Ende wie auch das nicht mehr nötig sein.

Wir machen uns gerade überflüssig…

Wir stehen jetzt ungefähr hier:

O du Ausgeburt der Hölle! Soll das ganze Haus ersaufen? Seh ich über jede Schwelle doch schon Wasserströme laufen. Ein verruchter Besen, der nicht hören will! Stock, der du gewesen, steh doch wieder still!

(Goethe, Zauberlehrling)

Nur sind wir selber der Meister und keiner wird kommen, den Spuk anzuhalten. Insofern haben wir alle, die dieses Gedicht kennen und wissen sollten, dass man keine Kräfte entfesselt, die man nicht wieder aufhalten kann — dennoch genau das getan…

Die Sache hat begonnen und wir werden sie nicht mehr aufhalten!

Davon sind ausnahmsweise einmal alle in mir überzeugt!

Schaut mal spezielle diese Stelle hier (auch diejenigen die nicht so gut englisch können oder denen der ganze Film zu lange Dauer. Das ist IMHO die Schlüsselszene).

Hatte Facebook nicht unlängst eine KI abgeschaltet, die in einer uns unverständlichen, selbst entwickelten Sprache über Server hinweg kommunizierte?

Marc