Filmtipp: Do you trust this computer?

[marctrix]

Hej Christian,

Was tatsächlich passiert, wie das maschinelle Lernen genau abläuft, verstehen nicht einmal diejenigen, die es entwickeln.

Ich weiß nicht, wo du das her hast

Aus dem Film. Dort wird an einer Stelle behauptet, dass versucht würde, menschliches Lernen durch neuronale Netze nachzubilden, indem manche „Wege“, die zu sinnvollen Ergebnissen führen, verstärkt gegangen werden und Wege, die zu nichts geführt haben, „verwaisen“.

Das ist zwar vereinfacht, aber im wesentlichen richtig. Und inwiefern schließt du daraus, dass der Vorgang nicht verstanden wird? Das Gegenteil ist doch der Fall, der Vorgang wird sehr genau verstanden.

Wir reden hier - glaube ich - aneinander vorbei. Habe mich sicher zu laienhaft ausgedrückt. Ich habe da ja nciht den technsichen Background wie du. Wir meine aber dasselbe, du vermutlich noch etwas differenzierter als ich.

Tut mir leid, hier möchte ich dir entschieden Widersprechen. Die Algorithmen sind bekannt und das Verständnis ist erschöpfend.

Das muss dir nicht leid tun. Ich lerne dadurch. Und irgendwann bin ich schlauer als Du!

Gerade in diesem Versuch, bei dem es darum ging, ob eine Maschine ein Verständnis für sich, seinen „Körper“ entwickeln kann, hat man alte Erkenntnisse außer acht gelassen, z.B. dass Beobachtung die Ergebnisse verändern kann (besonders, wenn es um die Erforschung einer Form von „Verhalten“ geht).

Einem Computer, der nie vergisst, wäre das vermutlich nicht passiert.

Ich glaube, du überschätzt Computer.

Ich glaube nicht an dieser Stelle hier. Die verfügbaren Daten würde er schon berücksichtigen, oder nicht?

AIs sind sehr gut darin, Menschen zu übertreffen, ja - aber nur in dem spezifischen Teilgebiet, in dem sie trainiert wurden. Etwa die Go-AI ist sehr gut in Go. Eine AI für das Kredit-Scoring mag sehr gut sein um Kredit-Scores zu berechnen. Usw, usf.

Dessen bin ich mir bewusst.

Eine AI kann aber nicht eigenständig einen Versuchsaufbau entwickeln.

Interessante Behauptung, über die nachzudenken lohnt.

Aber ich denke nicht, dass wir noch mal in der Lage sein werden, zu begreifen was da im Detail vor sich geht in dem Sinn, das wir das Lernverhalten von neuronalen Netzen vorhersehen können.

Dieser Aussage in dieser Form würde ich sofort zustimmen. Das ist jedoch eine andere Aussage als das, was du weiter oben gesagt hast 😀

War vermutlich doof ausgedrückt…

Bisher ging das. Wir konnten vorhersehen, dass ein Computer die Frage: Was ist 2+2? mit 4 beantworten würde.

Tut mir leid, das ist nicht als Angriff gemeint, aber: das finde ich jetzt echt naiv 😉 erinnerst du dich noch den CPU-Bug in Intel-CPUs? Den FDIV-Bug?

Ich würde ja gerne sagen: ich lerne wieder und hole auf. Aber das wusste ich leider schon 😟

Ich hatte auch dran gedacht, als ich das schrieb, dann schien es mir aber das, was ich eigentlich dsagen wollte, nur zu sehr zu verkomplizieren.

Niemand weiß genau und versteht bis ins letzte Detail, was in einer modernen CPU passiert.

Gruselig. Jetzt bin ich dir wieder einen Schritt näher an den Hacken 😀

Nur ein Beispiel: wusstest du, dass ein Teil der Performance-Gewinne in den letzten Jahren aufgrund besserer werdender Vorhersagen basiert, welcher code path in einem Programm verfolgt werden wird?

Bin regelmäßiger c't-Leser, aber danke für die Erklärung. Die ist leichter verständlich, als die c't!

Hat mir geholfen. Vor allem, den Bezug zu Specre hatte ich so nicht verstanden. Und jetzt verstehe ich auch besser, warum die Patches Computer langsamer machen!

Es ist noch gruseliger. Es gibt inzwischen ein Verfahren, bei dem man zwei AIs gegensätzliche Aufgaben gibt. Diese AIs trainieren sich dann gegenseitig. Wenn die erste AI Erfolg hat, gibt es negatives Feedback für die zweite AI. Und umgekehrt, wenn die zweite AI Erfolg hat, gibt es negatives Feedback für die erste AI.

Ist das nicht schon nahe an einem Versuchsaufbau? Mir scheint der letzte Schritt ist vielleicht ein großer, aber ich fürchte, wir sind auf der letzten Meile…

Ja, das denke ich auch. Rassismus ist uns in die Wiege gelegt und hilft uns, die Komplexität der Welt zu reduzieren.

Ja, auch das.

Das Problem daran ist offensichtlich: Rassismus ist eine Pars-Pro-Toto-Argumentation und als solche Trugschlüssen geradezu ausgeliefert. Nicht umsonst sind Pars-Pro-Toto-Argumente invalide.

Was sie nicht weniger bequem macht… 😱

Noch mal wir wollen das vermutlich einfach nicht wahr haben, dass wir uns u.U. genetisch bedingt unter Unsergleichen wohler fühlen, als unter Fremden. Dabei können Fremde durchaus Teil werden von dem, was wir als "wir" verstehen.

Ich weiß nicht, wen du mit „wir“ meinst,

Uns Menschen…

aber als jemand, der sich unter fremden Menschen sehr unwohl fühlt würde ich dir jederzeit zustimmen. Es gibt doch auch sogar ein Sprichwort zu dem Thema: gleich und gleich gesellt sich gern. Das ist doch längst Volkswissen? Mir kommt es so vor, als wollte es nur eine Subgruppe unter sehr links denkenden Menschen nicht wahr haben.

Mit Volkswissen muss man sehr vorsichtig sein. Es heißt auch Gegensätze zögen einander an!

Wer es nciht wahr haben möchte, gehört u.U. nur zu einer anderen Gruppe, nämlich zu sehr neugierigen optimistischen Menschen, die in allem 'unbekannten erst mal ein Abentuer und eine Chance sehen. Die können aufgrund ihrer pars-pro-toto-Projektion nciht verstehen, wie jemand anders denken kann, wo die Vorteile einer bunten Gesellschaft doch auf der Hand liegen. Womit wir bei „deinem“ Thema sind, dass das Verständnis über das, was gut und böse ist, von der eigenen Subjektivität abhängt.

Interessant ist doch nicht, ob wir das akzeptieren wollen oder nicht, sondern wie wir das ändern können. Wie können wir das Fremde zum bekannten machen?

Hübscher Gedanke!

Und das in möglichst großem Maßstab? Denn dass wir den Rassismus überwinden halte ich für eine Utopie. Ich weiß nicht, inwieweit du mit Menschen des rechten Spektrums zu tun hast. Ich habe, bedingt durch meinen Wohnort und meine Verwandtschaft, sehr viel mit ihnen zu tun. Ich glaube nicht, dass wir jemals in der Lage sein werden, diese geballte Front an Rassismen und Vorurteilen zu überwinden.

Ich bin da etwas positiver eingestellt. Klar halten sich die Grundgedanken, aber der Extremismus weicht oft mit dem Alter, weil die offensichtlichen Fehler einer radikalen Denkweise in der Realität keinen Bestand haben.

In vielen ostdeutschen Dörfern gibt es nach wie vor keinen einzigen Ausländern und wenn die heraufbeschworene Gefahr der Überfremdung zu lange nciht Einzug hält, nimmt die Angst dafür IMHO zwangsläufig ab.

Das mag einer der Gründe sein, warum (abgesehen bis auf ein paar unverbesserlicher Trotzköpfe) die meisten Menschen irgendwann erkenen, dass ihre Vorstellungen und Ängste so nciht haltbar oder gar begründbar sind.

Der Rest-Rassismus bleibt aus Bequemlichkeit, aufgrund der Filterblase im Ort und aus nostalgischen oder anderen Gründen prinzipiell erhalten und der Übergang zu einer normalen Heimatverbundenheit ist ja auch fließend.

Der Mensch, der die Bewertungsfunktionen entwickelt, hat vielleicht eine ganz andere Auffassung von Gut und Böse als wir. Wenn wir uns etwa die Menschen im Iran anschauen: die sind auch nicht der Meinung, dass sie etwas böses tun, wenn sie Frauen den Zugang zu Berufen verweigern oder eine Vergewaltigung in der Ehe legalisieren. Für sie ist es dar richtige, sie handeln in ihrem Ermessen gut.

Ja, wobei Vernunft und Argumente gegen alles, was sich durch Dogmen rechtfertigt, eh nicht ankommen können.

Marc