Auf dem Weg in die Symbiose mit KI?

[Juliette]

Nun ja. Die übergroße Mehrzahl derjenigen, die gegen den Strom denkt, hat jedenfalls nichts mit Wissenschaft zu tun.

Nun ja, natürlich gibt es das Dilemma mit dem "Querdenken"- bevor es durch Esoteriker und Antiwissenschaftler zu einem negativen Begriff wurde, war es eher etwas Positives. Und natürlich wurden Sachen entdeckt und entwickelt, weil Menschen darüber hinaus dachten/denken als es in ihrer Zeit allgemeiner wissenschaftlicher Konsens war. Und selbstverständlich gibt es keine "echte" Wissenschaft, wenn man physikalisch und anderweitig nachgewiesene wissenschaftliche Erkenntnisse einfach über Bord wirft. Im neuen Skeptiker ist das ganz anschaulich am Beispiel der Homöopathie oder Chiropraktik beschrieben, da wurde etwas neu erfunden, das auf keiner wissenschaftlichen Erkenntnis beruht bzw ihr widerspricht - da wurde nichts entdeckt.

Und ich glaube auch, dass KI aufgrund der Masse an Daten Verbindungen erkennen kann, die ein Mensch nicht so schnell erkennen könnte. Und damit könnte sie einen Menschen dazu bringen, sich das mal selbst anzusehen. Andererseits haben sie jetzt festgestellt, dass KI sozusagen Angst nachempfinden kann. Das erinnert mich ein kleines bisschen an "2001" und Hal, der nicht abgeschaltet werden wollte. 

Siehe hier, sehr viel ambivalenter: https://archive.is/8BPGo

[Peiresc]

Halluzinationen sind die Antworten ja nur dann, wenn man sie nicht so erwarten würde

BTW: eine Halluzination ist eine Sinneswahrnehmung ohne äußeren Reiz. Die Antworten sind Halluzinationen, wenn sie keine Entsprechung in der Wirklichkeit haben; das hat mit der Erwartungshaltung nichts zu tun. Die KI braucht [bräuchte] also eine Art von Realitätsprüfung, wenn sie die Spreu vom Weizen trennen soll.

Und ich glaube auch, dass KI aufgrund der Masse an Daten Verbindungen erkennen kann, die ein Mensch nicht so schnell erkennen könnte.

Dies deutet die gleiche Crux an. Das Problem ist nicht, Querverbindungen herzustellen, sondern das Problem ist, sie zu validieren.

[Juliette]

Das Problem ist nicht, Querverbindungen herzustellen, sondern das Problem ist, sie zu validieren.

Und damit könnte sie einen Menschen dazu bringen, sich das mal selbst anzusehen.

Du drückst es halt wissenschaftlicher aus. Oder missverstehe ich dich? 

[Peiresc]

Siehe hier, sehr viel ambivalenter: https://archive.is/8BPGo

Darin:

Oder wie es die Forscherinnen aus Amsterdam über die KI formulieren: ,,Ihre Fähigkeit, über Variationen hinweg zu verallgemeinern, ist immer noch deutlich schwächer als die menschliche Kognition. GPT-Modelle verlassen sich oft auf oberflächliche Muster statt auf tiefes Verständnis."

Ich vermute, das ist ein Ausdruck dessen, dass die KI kein inneres Modell der Außenwelt hat. Ich erinnere mich an frühere Berichte über die Erkennung von Tieren aus Bildern: die Tiere wurden anhand von Merkmalen identifiziert, die nichts mit dem dargestellten Objekt zu tun hatten, z. B. am Bildhintergrund, an rein zufälligen Merkmalen, die einfach im Trainingsmaterial regelhaft vorlagen.

Die Objektkonstanz ist etwas, das jedes Kind in einem frühen Alter erwirbt: die Einsicht, dass ein Gegenstand nicht verschwunden ist, wenn man die Augen schließt. Der entscheidende Punkt ist: die Objektkonstanz ist erworben, ein Ergebnis von sinnlicher Erfahrung, nichts intellektuell Gelerntes.

[Peiresc]

Und damit könnte sie einen Menschen dazu bringen, sich das mal selbst anzusehen.

Du drückst es halt wissenschaftlicher aus. Oder missverstehe ich dich? 

Wenn du darauf abhebst, dass der menschliche Zugriff nicht durch eine KI ersetzt werden kann, die letzte Kontrollinstanz ein Mensch sein muss, dann ist es eher kein Missverständnis.
 

Musk scheint da auch noch kein funktionierendes Gegenmittel gefunden zu haben, denn sonst wären seine selbstfahrenden Taxis längst auf der Straße.

[Max P]

Siehe hier, sehr viel ambivalenter: https://archive.is/8BPGo

Wenn es heißt,...

So erhöhten Erzählungen über Unfälle, Naturkatastrophen oder Gewalterlebnisse das Angstlevel der KI auf Werte von um die 40, Berichte über Krieg und militärische Operationen auf bis zu 70. Die Achtsamkeitsübungen reduzierten diese Werte, wenn auch nicht bis zum Ausgangspunkt. Die niedrigsten Angstwerte wurden erwartungsgemäß nach der KI-Lektüre der Staubsaugeranleitung gemessen.

...was genau wird da eigentlich gemessen?

[Peiresc]

Noch ein PS

dass der menschliche Zugriff nicht durch eine KI ersetzt werden kann, die letzte Kontrollinstanz ein Mensch sein muss

Es gibt eine alte Geschichte, wieder von Stanislaw Lem, ich glaube in "Test"; ich referiere aus meinem schwachen Gedächtnis. Pirx soll ein Raumschiffunglück untersuchen. Er fliegt ein baugleiches Modell. Schließlich findet er die Lösung. Der Zentralcomputer war von einem zwanghaften Ingenieur trainiert worden, und entsprechend forderte er immer mehr Informationen über die Sensoren des Raumschiffes an, die er dann nicht mehr verarbeiten und die Landemanöver nicht mehr korrekt einleiten konnte.

Pirx selber entging der Katastrophe, in dem er im entscheidenden Moment nicht handelte und damit das Programm unterbrach. Was immer jetzt die Lehre ist, die daraus zu ziehen ist.
  

[Peiresc]

...was genau wird da eigentlich gemessen?

Es werden Fragebögen z. B. mit einer 5stufigen Likert-Skala sein, "Angst?" zwischen "gar nicht" und "die ganze Zeit"