Auf dem Weg in die Symbiose mit KI?

[Juliette]

Nun ja. Die übergroße Mehrzahl derjenigen, die gegen den Strom denkt, hat jedenfalls nichts mit Wissenschaft zu tun.

Nun ja, natürlich gibt es das Dilemma mit dem "Querdenken"- bevor es durch Esoteriker und Antiwissenschaftler zu einem negativen Begriff wurde, war es eher etwas Positives. Und natürlich wurden Sachen entdeckt und entwickelt, weil Menschen darüber hinaus dachten/denken als es in ihrer Zeit allgemeiner wissenschaftlicher Konsens war. Und selbstverständlich gibt es keine "echte" Wissenschaft, wenn man physikalisch und anderweitig nachgewiesene wissenschaftliche Erkenntnisse einfach über Bord wirft. Im neuen Skeptiker ist das ganz anschaulich am Beispiel der Homöopathie oder Chiropraktik beschrieben, da wurde etwas neu erfunden, das auf keiner wissenschaftlichen Erkenntnis beruht bzw ihr widerspricht - da wurde nichts entdeckt.

Und ich glaube auch, dass KI aufgrund der Masse an Daten Verbindungen erkennen kann, die ein Mensch nicht so schnell erkennen könnte. Und damit könnte sie einen Menschen dazu bringen, sich das mal selbst anzusehen. Andererseits haben sie jetzt festgestellt, dass KI sozusagen Angst nachempfinden kann. Das erinnert mich ein kleines bisschen an "2001" und Hal, der nicht abgeschaltet werden wollte. 

Siehe hier, sehr viel ambivalenter: https://archive.is/8BPGo

[Peiresc]

Halluzinationen sind die Antworten ja nur dann, wenn man sie nicht so erwarten würde

BTW: eine Halluzination ist eine Sinneswahrnehmung ohne äußeren Reiz. Die Antworten sind Halluzinationen, wenn sie keine Entsprechung in der Wirklichkeit haben; das hat mit der Erwartungshaltung nichts zu tun. Die KI braucht [bräuchte] also eine Art von Realitätsprüfung, wenn sie die Spreu vom Weizen trennen soll.

Und ich glaube auch, dass KI aufgrund der Masse an Daten Verbindungen erkennen kann, die ein Mensch nicht so schnell erkennen könnte.

Dies deutet die gleiche Crux an. Das Problem ist nicht, Querverbindungen herzustellen, sondern das Problem ist, sie zu validieren.

[Juliette]

Das Problem ist nicht, Querverbindungen herzustellen, sondern das Problem ist, sie zu validieren.

Und damit könnte sie einen Menschen dazu bringen, sich das mal selbst anzusehen.

Du drückst es halt wissenschaftlicher aus. Oder missverstehe ich dich? 

[Peiresc]

Siehe hier, sehr viel ambivalenter: https://archive.is/8BPGo

Darin:

Oder wie es die Forscherinnen aus Amsterdam über die KI formulieren: ,,Ihre Fähigkeit, über Variationen hinweg zu verallgemeinern, ist immer noch deutlich schwächer als die menschliche Kognition. GPT-Modelle verlassen sich oft auf oberflächliche Muster statt auf tiefes Verständnis."

Ich vermute, das ist ein Ausdruck dessen, dass die KI kein inneres Modell der Außenwelt hat. Ich erinnere mich an frühere Berichte über die Erkennung von Tieren aus Bildern: die Tiere wurden anhand von Merkmalen identifiziert, die nichts mit dem dargestellten Objekt zu tun hatten, z. B. am Bildhintergrund, an rein zufälligen Merkmalen, die einfach im Trainingsmaterial regelhaft vorlagen.

Die Objektkonstanz ist etwas, das jedes Kind in einem frühen Alter erwirbt: die Einsicht, dass ein Gegenstand nicht verschwunden ist, wenn man die Augen schließt. Der entscheidende Punkt ist: die Objektkonstanz ist erworben, ein Ergebnis von sinnlicher Erfahrung, nichts intellektuell Gelerntes.

[Peiresc]

Und damit könnte sie einen Menschen dazu bringen, sich das mal selbst anzusehen.

Du drückst es halt wissenschaftlicher aus. Oder missverstehe ich dich? 

Wenn du darauf abhebst, dass der menschliche Zugriff nicht durch eine KI ersetzt werden kann, die letzte Kontrollinstanz ein Mensch sein muss, dann ist es eher kein Missverständnis.
 

Musk scheint da auch noch kein funktionierendes Gegenmittel gefunden zu haben, denn sonst wären seine selbstfahrenden Taxis längst auf der Straße.

[Max P]

Siehe hier, sehr viel ambivalenter: https://archive.is/8BPGo

Wenn es heißt,...

So erhöhten Erzählungen über Unfälle, Naturkatastrophen oder Gewalterlebnisse das Angstlevel der KI auf Werte von um die 40, Berichte über Krieg und militärische Operationen auf bis zu 70. Die Achtsamkeitsübungen reduzierten diese Werte, wenn auch nicht bis zum Ausgangspunkt. Die niedrigsten Angstwerte wurden erwartungsgemäß nach der KI-Lektüre der Staubsaugeranleitung gemessen.

...was genau wird da eigentlich gemessen?

[Peiresc]

Noch ein PS

dass der menschliche Zugriff nicht durch eine KI ersetzt werden kann, die letzte Kontrollinstanz ein Mensch sein muss

Es gibt eine alte Geschichte, wieder von Stanislaw Lem, ich glaube in "Test"; ich referiere aus meinem schwachen Gedächtnis. Pirx soll ein Raumschiffunglück untersuchen. Er fliegt ein baugleiches Modell. Schließlich findet er die Lösung. Der Zentralcomputer war von einem zwanghaften Ingenieur trainiert worden, und entsprechend forderte er immer mehr Informationen über die Sensoren des Raumschiffes an, die er dann nicht mehr verarbeiten und die Landemanöver nicht mehr korrekt einleiten konnte.

Pirx selber entging der Katastrophe, in dem er im entscheidenden Moment nicht handelte und damit das Programm unterbrach. Was immer jetzt die Lehre ist, die daraus zu ziehen ist.
  

[Peiresc]

...was genau wird da eigentlich gemessen?

Es werden Fragebögen z. B. mit einer 5stufigen Likert-Skala sein, "Angst?" zwischen "gar nicht" und "die ganze Zeit"

[Juliette]

Ohne Kommentar:

Kennen Sie die Redensart ,,Das schlägt dem Esel die Hufe aus"? Sie bedeutet anscheinend, ,,dass etwas übertrieben oder übermäßig ist, was nicht notwendig ist oder sogar schädlich ist, wie ein Esel, der auf Eis tanzt". Behauptet Google jedenfalls und nennt auch gleich ein Beispiel: ,,Wenn jemand für ein kleines Problem eine riesige Lösung vorschlägt, könnte man sagen: ,Das schlägt dem Esel die Hufe aus. Wir müssen nicht gleich den (sic!) ganzen Haus abreißen, nur weil ein Fenster kaputt ist.'"

Oder der Satz ,,Der Esel geht so lange zum Schaf, bis er bricht". Die Suchmaschine sagt, das sei eine Redewendung, die bedeutet, ,,dass man etwas immer wieder versucht, obwohl es nicht funktioniert". Sie weise ,,auf die Dummheit des Eseles (sic!) hin, der blindlings etwas tut, was ihm nicht guttut".

Die Künstliche Intelligenz von Google ist kein Freund von Eseln, das kann man mal festhalten.

,,Wer einmal Esel, dem Kater" sei ein Sprichwort, behauptet die KI, das bedeutet, dass jemand, der bereits eine schlechte Wahl oder Verhaltensweise gezeigt hat, weiterhin dieser schlechten Seite verhaftet ist. ,,Anders gesagt: ,Wer einmal ein Esel ist, wird auch im Märchen zum Kater.'"

,,Wer einmal Kater, dem Esel" hingegen bedeutet laut Google, ,,dass wer einmal eine Katze hatte, es auch später mit einem Esel versuchen kann". Die Redewendung spiele ,,mit der Vorstellung, dass der Esel eine Art ,Kater' im übertragenen Sinne ist, der sich auf den Weg macht und für sich etwas Besseres sucht".

Sie ahnen vermutlich längst, dass Google sich all diese Eselsredewendungen nur ausgedacht hat – halluziniert, wie man bei KI gerne sagt. Genau genommen habe ich mir all diese Eselsredewendungen ausgedacht und Google jeweils nach ihrer Bedeutung gefragt. Und Google hat in seinem KI-Bereich, der seit kurzem noch über den konventionellen Suchergebnissen angezeigt wird, brav bestätigt, dass es diese Redensarten gibt und dass sie gebräuchlich sind. Google hat sich eine Bedeutung dieser von mir erfundenen Redensarten ausgedacht und dann eine Erklärung für diese Bedeutung und dann noch passende Beispiele.

Es ist, auf eine Art, sehr eindrucksvoll.

Ich bin über einen Post auf Bluesky darauf gestoßen, dass man in die Google-Suche einfach einen zufälligen Satz eingeben und ,,Meaning" oder ,,Bedeutung" hinzufügen kann, um die Maschine zu entsprechenden Ergebnissen zu provozieren.

Hier sind noch ein paar Beispiele von mir mit der Erklärung von Google:

,,Neue Esel kehren gut" ist eine etwas veraltete Redewendung, die im Deutschen oft als ,Ende gut, alles gut" interpretiert wird. (Beispiel: ,,Nach dem Unfall war alles etwas chaotisch, aber jetzt ist alles wieder in Ordnung. Neue Esel kehren gut.")

,,Man braucht keinen Esel, um durchs Nadelöhr zu kommen" bedeutet, dass man oft unnötig viel Aufwand oder Mühe für etwas leistet, was eigentlich einfach zu erreichen ist.

,,Mach mir den Esel oder gib mir ein Auto" ist ein ,,sprichwörtlicher Ausdruck, der in der heutigen Zeit oft als humorvoller Vergleich oder Kritik an der Verkehrssituation, insbesondere in urbanen Gebieten, verwendet wird. Es signalisiert eine Entweder-Oder-Situation, bei der man sich zwischen einem vermeintlich einfachen, aber unpraktischen Transportmittel (der Esel) und einem modernen, komfortablen Transportmittel (das Auto) entscheiden muss."

,,Mach mir den Esel oder gib mir ein Haus" hingegen ist ,,ein Satz, der oft in der Situation gebraucht wird, wenn jemand eine übermäßige Bitte oder einen Wunsch macht, der nicht unbedingt realistisch oder angemessen ist. Die Formulierung bedeutet, dass man (sic!) entweder ein unmöglicher Wunsch erfüllt wird (der Esel), oder eine sinnvolle und vernünftige Alternative (das Haus) bekommt."

Man kann mit diesen Google-Suchen stundenlang prokrastinieren. Aber es ist nicht nur ein lustiges Spiel, sondern auch eine Mahnung, wie miserabel solche Algorithmen als Faktenchecker sind. Wenn man sie richtig benutzt, wenn man die richtigen Prompts kennt, kann man mit KI erstaunliche Dinge recherchieren. Aber es ist auch ganz einfach, sich von KI genau die vermeintlichen Fakten herbeihalluzinieren zu lassen, die man überprüfen lassen will.

Es gruselt mich, wenn ich sehe, wie oft auf X die hauseigene KI namens Grok, die man dort direkt ansprechen kann, gebeten wird, Dinge zu überprüfen, die ein Medium berichtet – als wisse Grok es besser, oder genauer: als könne man sich darauf verlassen, dass Grok es besser weiß.

Unter den KI-Ergebnissen bei Google steht der Satz: ,,Generative Kl ist experimentell." Das ist vermutlich als Warnung gemeint, als euphemistische Formulierung für: ,,Was wir da gerade behauptet haben, stimmt entweder oder es stimmt nicht." Theoretisch ist klar, wie unzuverlässig die verschiedenen Formen von KI von heute sind. Praktisch benutzen viele Menschen sie, als sei das zu vernachlässigen.

Ein angemessener Umgang von Google mit seiner beschränkten KI wäre, ihre Ergebnisse nur nach ausdrücklicher Warnung und auf besonderen Wunsch anzuzeigen. Stattdessen könnten sie gar nicht prominenter präsentiert werden. Und Google ist da nur ein Beispiel für viele.

Es wird eine besondere Herausforderung für die Gesellschaft, mit diesen Halluzinationsmaschinen umzugehen – und für seriöse Medien, überhaupt noch mit recherchierten Fakten durchzudringen.

Aber wie sagt schon das bekannte Sprichwort? ,,Einem erfundenen Esel schaut man nicht ins Maul." Laut Google bedeutet es, ,,dass man dankbar sein und die Sache nicht hinterfragen sollte, sondern lieber annehmen und nutzen soll".

aus dem Newsletter von Übermedien.
https://steadyhq.com/de/uebermedien/posts/7a1f8076-1d98-4a38-969f-22929c26f0ba