Auf dem Weg in die Symbiose mit KI?

[HAL9000]

Der Schriftsatz eines Anwalts wurde vom Gericht abgelehnt, weil da 4 erfundene Urteile drin waren

Konsequenterweise müsste nicht nur der Schriftsatz abgelehnt werden, sondern in Zukunft auch dieser Anwalt.

In meinem beruflichen Umfeld bin ich ja nur mit winzigen und vergleichsweise unbedeutenden Auswüchsen dieser
Problematik konfrontiert. Aber ich hatte schon mehrere Diskussionen mit Kunden, die mit "ChatGPT (et al, Anm.)
hat geschrieben, dass mein Problem so zu beheben ist..." zu mir kamen und sich das als Unsinn, oder zumindest
als unscharf herausgestellt hat.
Ich verwende diese Tools auch, aber nur, um z.B. Texte, oder mitgeschnittene Meetings zusammenzufassen,
oder Anregungen für eine Dankes-E-Mail zum Dienstjubiläum zu erhalten. Den Output kontrolliere ich dann
natürlich trotzdem noch und übernehme das nicht 1:1.

Wenn aber sogar Anwälte und Wissenschafter (da gab es ja auch Fälle mit halluzinierten Studien) anfangen,
damit ihr Hirn auszulagern, ist das tatsächlich einigermaßen dystopisch.

[Juliette]

So sieht es laut ChatGPT im Bauch einer Schwangeren aus:



https://bsky.app/profile/vaginamuseum.bsky.social/post/3lxere5oif22q

[HAL9000]

So sieht es laut ChatGPT im Bauch einer Schwangeren aus:

Ein klarer Beweis, dass Geschlecht ein Kontinuum ist und nicht binär. Isso!

[Juliette]

Auf jeden Fall versuchen viele Betrüger, mithilfe von KI eine Symbiose mit Bankkonten einzugehen:

https://www.1e9.community/magazin/betr%C3%BCger-kapern-ki-suchmaschinen-macht-k%C3%BCnstliche-intelligenz-das-internet-zum-minenfeld

Für immer mehr Menschen ersetzt Künstliche Intelligenz die klassische Internetsuche. Anstatt sich bei Google durch einzelne Seiten zu klicken, werden ChatGPT, Perplexity oder You.com befragt. Diese liefern eine konkrete Antwort, lassen bei Unklarheiten nachfragen und können das Thema gemeinsam mit dem Nutzer vertiefen. Doch auch die meistgenutzte Suchmaschine Google selbst wird zunehmend zu einer KI-Antwortmaschine. Bei vielen Suchanfragen erscheint nun eine ,,Übersicht mit KI", die mit einem der Gemini-Modelle erstellt wird. Zudem arbeitet Google an einem dedizierten KI-Modus, der die klassische Suchergebnisliste durch eine Chatoberfläche ersetzt. Diese Entwicklung ist jedoch nicht ohne Risiken, wie sich bereits seit Monaten auf teils absurde, teils verstörende Weise zeigt.

[HAL9000]

Auf jeden Fall versuchen viele Betrüger, mithilfe von KI eine Symbiose mit Bankkonten einzugehen

Erschreckend. Die meisten der Methoden kannte ich schon. Das mit den Indirect Prompt Injections
war mir neu. Was könnte man daraus lernen? E-Mails nur mehr als Plain Text.
Was lernt man insgesamt daraus: Das Auslagern des Gehirns wird zunehmend gefährlicher.
Und nachdem teilweise sogar die Macher dieser Tools nicht wissen, was da intern wirklich
passiert und wie die Ergebnisse entstehen, bin ich eher skeptisch, ob man das überhaupt
in den Griff bekommen kann.

[Juliette]

Super Idee: Autonome, selbstschießende Polizeiautos:

In China wurde jetzt das erste selbstschießende autonome Polizeiauto vorgestellt.

https://archive.is/woXel#selection-2191.209-2191.290

[Juliette]

Das mit den Indirect Prompt Injections
war mir neu.

Das erinnert mich entfernt an die auf den ersten Blick unsichtbaren Spamlinks in Forenbeiträgen, die nur für die Suchmaschinenrankings eingefügt werden.

[Schwuppdiwupp]

Ich lese gerade dieses Buch: Peter Grandl: "Reset - Die Wahrheit stirbt zuerst"

Die Handlung ist vielleicht nicht sooo weit hergeholt ...

[Juliette]

Die Handlung ist vielleicht nicht sooo weit hergeholt ...

GWUP-Mitglied Johannes C. Zeller warnt in diesem Beitrag vor übertriebener Panik:

https://www.wissenschaftskommunikation.de/wie-spricht-man-ueber-ki-ohne-alarmismus-zu-befeuern-91167/

Wobei mir nicht die KI als solche Angst macht, sondern einerseits die Dummheit und/oder Skrupellosigkeit der damit arbeitenden Menschen und andererseits die Tatsache, dass jeder Depp oder Verbrecher sich ihrer bedienen kann.

[HAL9000]

Wobei mir nicht die KI als solche Angst macht, ...

Mir auch weniger. Ist wie mit dem Messer: Man kann damit eine Scheibe Brot abschneiden
und diese einem Bedürftigen geben, oder ihn damit abstechen.
Die Hauptgefahr, die ich sehe ist das Erodieren von dem, was man als Wahrheit/Realität versteht.
Glauben zu Viele (weil sie zu faul/dumm/ideologisch verpeilt sind) an KI-Fakes, entkoppeln sich
immer mehr von der Realität und sind noch weniger erreichbar, als jetzt schon.