Auf dem Weg in die Symbiose mit KI?

[HAL9000]

Der Schriftsatz eines Anwalts wurde vom Gericht abgelehnt, weil da 4 erfundene Urteile drin waren

Konsequenterweise müsste nicht nur der Schriftsatz abgelehnt werden, sondern in Zukunft auch dieser Anwalt.

In meinem beruflichen Umfeld bin ich ja nur mit winzigen und vergleichsweise unbedeutenden Auswüchsen dieser
Problematik konfrontiert. Aber ich hatte schon mehrere Diskussionen mit Kunden, die mit "ChatGPT (et al, Anm.)
hat geschrieben, dass mein Problem so zu beheben ist..." zu mir kamen und sich das als Unsinn, oder zumindest
als unscharf herausgestellt hat.
Ich verwende diese Tools auch, aber nur, um z.B. Texte, oder mitgeschnittene Meetings zusammenzufassen,
oder Anregungen für eine Dankes-E-Mail zum Dienstjubiläum zu erhalten. Den Output kontrolliere ich dann
natürlich trotzdem noch und übernehme das nicht 1:1.

Wenn aber sogar Anwälte und Wissenschafter (da gab es ja auch Fälle mit halluzinierten Studien) anfangen,
damit ihr Hirn auszulagern, ist das tatsächlich einigermaßen dystopisch.

[Juliette]

So sieht es laut ChatGPT im Bauch einer Schwangeren aus:



https://bsky.app/profile/vaginamuseum.bsky.social/post/3lxere5oif22q

[HAL9000]

So sieht es laut ChatGPT im Bauch einer Schwangeren aus:

Ein klarer Beweis, dass Geschlecht ein Kontinuum ist und nicht binär. Isso!

[Juliette]

Auf jeden Fall versuchen viele Betrüger, mithilfe von KI eine Symbiose mit Bankkonten einzugehen:

https://www.1e9.community/magazin/betr%C3%BCger-kapern-ki-suchmaschinen-macht-k%C3%BCnstliche-intelligenz-das-internet-zum-minenfeld

Für immer mehr Menschen ersetzt Künstliche Intelligenz die klassische Internetsuche. Anstatt sich bei Google durch einzelne Seiten zu klicken, werden ChatGPT, Perplexity oder You.com befragt. Diese liefern eine konkrete Antwort, lassen bei Unklarheiten nachfragen und können das Thema gemeinsam mit dem Nutzer vertiefen. Doch auch die meistgenutzte Suchmaschine Google selbst wird zunehmend zu einer KI-Antwortmaschine. Bei vielen Suchanfragen erscheint nun eine ,,Übersicht mit KI", die mit einem der Gemini-Modelle erstellt wird. Zudem arbeitet Google an einem dedizierten KI-Modus, der die klassische Suchergebnisliste durch eine Chatoberfläche ersetzt. Diese Entwicklung ist jedoch nicht ohne Risiken, wie sich bereits seit Monaten auf teils absurde, teils verstörende Weise zeigt.

[HAL9000]

Auf jeden Fall versuchen viele Betrüger, mithilfe von KI eine Symbiose mit Bankkonten einzugehen

Erschreckend. Die meisten der Methoden kannte ich schon. Das mit den Indirect Prompt Injections
war mir neu. Was könnte man daraus lernen? E-Mails nur mehr als Plain Text.
Was lernt man insgesamt daraus: Das Auslagern des Gehirns wird zunehmend gefährlicher.
Und nachdem teilweise sogar die Macher dieser Tools nicht wissen, was da intern wirklich
passiert und wie die Ergebnisse entstehen, bin ich eher skeptisch, ob man das überhaupt
in den Griff bekommen kann.

[Juliette]

Super Idee: Autonome, selbstschießende Polizeiautos:

In China wurde jetzt das erste selbstschießende autonome Polizeiauto vorgestellt.

https://archive.is/woXel#selection-2191.209-2191.290

[Juliette]

Das mit den Indirect Prompt Injections
war mir neu.

Das erinnert mich entfernt an die auf den ersten Blick unsichtbaren Spamlinks in Forenbeiträgen, die nur für die Suchmaschinenrankings eingefügt werden.

[Schwuppdiwupp]

Ich lese gerade dieses Buch: Peter Grandl: "Reset - Die Wahrheit stirbt zuerst"

Die Handlung ist vielleicht nicht sooo weit hergeholt ...

[Juliette]

Die Handlung ist vielleicht nicht sooo weit hergeholt ...

GWUP-Mitglied Johannes C. Zeller warnt in diesem Beitrag vor übertriebener Panik:

https://www.wissenschaftskommunikation.de/wie-spricht-man-ueber-ki-ohne-alarmismus-zu-befeuern-91167/

Wobei mir nicht die KI als solche Angst macht, sondern einerseits die Dummheit und/oder Skrupellosigkeit der damit arbeitenden Menschen und andererseits die Tatsache, dass jeder Depp oder Verbrecher sich ihrer bedienen kann.

[HAL9000]

Wobei mir nicht die KI als solche Angst macht, ...

Mir auch weniger. Ist wie mit dem Messer: Man kann damit eine Scheibe Brot abschneiden
und diese einem Bedürftigen geben, oder ihn damit abstechen.
Die Hauptgefahr, die ich sehe ist das Erodieren von dem, was man als Wahrheit/Realität versteht.
Glauben zu Viele (weil sie zu faul/dumm/ideologisch verpeilt sind) an KI-Fakes, entkoppeln sich
immer mehr von der Realität und sind noch weniger erreichbar, als jetzt schon.

[Juliette]

Super Idee: Autonome, selbstschießende Polizeiautos:

In China wurde jetzt das erste selbstschießende autonome Polizeiauto vorgestellt.

https://archive.is/woXel#selection-2191.209-2191.290

Oh, war wohl ein Fake:

https://kobuk.at/2025/09/nein-in-china-gibt-es-keine-selbstschiessenden-polizeiautos/

  

[Max P]

Super Idee: Autonome, selbstschießende Polizeiautos:

In China wurde jetzt das erste selbstschießende autonome Polizeiauto vorgestellt.

ja, zutrhttps://archive.is/woXel#selection-2191.209-2191.290

Oh, war wohl ein Fake:

https://kobuk.at/2025/09/nein-in-china-gibt-es-keine-selbstschiessenden-polizeiautos/

  

Naja, zuzutrauen wäre es dem Regime... 

[Juliette]

Naja, zuzutrauen wäre es dem Regime...

Ja. Und irgendwie denkt man doch, dass die FR Meldungen etwas besser kontrolliert...

Ob das ,,KameraOne" künftig zum vorsichtigeren Umgang mit unbeaufsichtigten automatischen Tools bewegen wird, darf allerdings bezweifelt werden. Das Unternehmen hat schon im Mai angekündigt, dass sie für ihre Clips nun vermehrt auf KI setzen wollen. Aber selbstverständlich nur ...

    unter menschlicher redaktioneller Aufsicht, [...] um die Produktivität zu steigern, das Inhaltserlebnis zu verbessern, ohne die journalistischen Standards zu beeinträchtigen [...].

[Juliette]

Über diesen Artikel anlässlich Jimmy Kimmels:

https://archive.is/DctX6

bin ich auf diesen gekommen:

https://archive.is/g5J91

Neue Schlagworte haben oft den unwiderstehlichen Reiz eines Blicks in eine Zukunft, die sich längst manifestiert, aber noch nicht herumgesprochen hat. ,,Zero Click Future" ist so eine Phrase, die gerade die Runde macht, zumindest unter Leuten, die sich mit digitalen Technologien und künstlicher Intelligenz beschäftigen. Es geht dabei darum, dass sehr bald schon sogenannte KI-Assistenten unseren Zugang zur digitalen Welt ermöglichen und damit auch kontrollieren. ...
Wenn wir Preis- und Qualitätsvergleiche, Kaufimpulse und Restaurantsauswahl, Informationsgewinnung und Weltverständnis alles einem digitalen Agenten überlassen, wird dieser zum Gatekeeper und Nadelöhr. Was die KI nicht für richtig und wichtig für uns bewertet, wird in Zukunft von uns ferngehalten werden. Das wird ganze Branchen und Produktionsweisen umkrempeln. So richtig deutlich sagt das aber niemand.

Leider wählt der Mensch meistens den Weg der Bequemlichkeit. Schöne neue Welt.

[eLender]

Mal ein anderer Aspekt bei der Sache, die mich mehr verunsichert, als der elektronische Kollege (der mich eh nicht ersetzen könnte). Da bläht sich eine riesen Blase auf, die irgendwann platzen wird. Ich hatte mich mit dem Zeugs länger beschäftigt und immer mehr Zweifel bekommen, dass das wirklich so eine riesen Sache wird (anfangs war ich noch optimistischer). Es kommen zwei Dinge zusammen.

Würden die großen Technologiekonzerne nicht so viel Geld in den Bau neuer KI-Rechenzentren stecken, stünden die USA bereits in diesem Jahr vor einer Rezession, heißt es weiter. Die KI-Industrie rette zwar derzeit die US-Wirtschaft, diese Art von Wachstum könne aber nur aufrechterhalten werden, wenn auch die Ausgaben ständig stiegen.

Hinzu komme, dass ein Großteil des Wachstums durch den Bau neuer Einrichtungen von menschlichen Arbeitnehmern entstehe, wohingegen der KI-Technologie- und -Dienstleistungssektor noch keinen sinnvollen Beitrag zum Bruttoinlandsprodukt (BIP) geleistet habe.

https://www.golem.de/news/deutsch-bank-warnt-nur-ki-blase-halte-us-wirtschaft-noch-zusammen-2509-200576.html

Wenn man die Entwicklung auf Icks zu dem Thema ein wenig verfolgt hat (und sich die kritischen Kommentatoren ausgesucht hat), ist das keine so große Überraschung. Da wird viel Geld herumgeschoben, ob das jemals wieder reinkommt, ist eher fragwürdig. Dazu ist das auch noch mit der amerikanischen Ökonomie verbunden (d.h. es wird sich global auswirken). Das muss man dazu denken:

Die USA, der größte Staatsschuldner der Welt, sind nach Ansicht der meisten Ökonomen und Investoren auf fiskalischem Crashkurs. Drastische Warnungen häufen sich. Jamie Dimon etwa, der Chef der weltgrößten privaten Bank J.P. Morgan und Doyen der Wall Street, sprach schon vor der Wahl 2024 von einer drohenden "Rebellion" der Finanzmärkte, weil die Haushaltsfinanzierung auf ein "Kliff" zusteuerten. Im Mai prognostizierte er ein Fiasko, weil es zu einem "Riss" am Bondmarkt kommen werde: "Das wird passieren." Seinen Bankenaufsehern sage er: "Ihr werdet in Panik geraten."

https://www.n-tv.de/wirtschaft/Warum-der-Welt-der-Finanzkollaps-droht-article26047792.html

Bis jetzt war ich ja nie Anhänger der Crash-Propheten und auch kein Prepper. Habe aber vorsichtshalber nochmal ein paar Paletten Tütensuppen ins Lager geschafft. Damit überlebe ich alles