Denkpause bei Künstlicher Intelligenz?

[Max P]

Tech-Experten um Musk und Wozniak fordern "Denkpause" bei KI

Die Entwicklung von künstlicher Intelligenz schreitet rasant voran. Jetzt haben jedoch bekannte Tech-Größen wie Elon Musk und Steve Wozniak eine Pause bei der Entwicklung gefordert. Es brauche erst ethische und rechtliche Grundlagen, sonst drohe eine "Katastrophe".

https://web.de/magazine/wirtschaft/tech-experten-musk-wozniak-denkpause-ki-37985666

Ich wollte die Meldung erst in den Musk-Faden stellen, hielt es dann aber doch unabhängig von den Motiven Musks eher für ein eigenständiges Thema geeignet.

[Schwuppdiwupp]

Meines Erachtens kommt dieser Gedanke viel zu spät. Die Büchse der Pandora ist bereits geöffnet und wird - wie immer - von niemanden mehr geschlossen.

[Max P]

Ich würde vor allem gerne wissen, welche Folgen KI mittel- bis langfristig haben könnte. Mir ist bei der ganzen Sache auch unheimlich zumute, aber mir fehlt völlig die Expertise, das zu beurteilen oder auch nur mehr als vage Befürchtungen zu formulieren. Andererseits, vielleicht wird das auch alles nicht so heiß gegessen, wie's gekocht wird? Ich weiß es nicht.

[Scipio 2.0]

Vielleicht werden wir demnächst alle ins Maschinenkollektiv integriert...

[PeterPan]

Ich würde vor allem gerne wissen, welche Folgen KI mittel- bis langfristig haben könnte.

Im Web-Artikel wird doch auch ein Artikel bei Golem verlinkt. Der Artikel selbst bezieht sich auf ein Paper von Microsoft Research mit dem Titel "Sparks of Artificial General Intelligence: Early experiments with GPT-4" (ist auch verlinkt). Der Hype und die Idee vom Moratorium scheint mit der Studie und der Veröffentlichung von ChatGPT-4 hochzukommen.

Ich habe jetzt die Studie selbst nicht gelesen, aber die Kurzfassung von Golem ist für mich verständlich und gut. Es liest sich nicht so, dass die Singularität oder ein Maschinengott geboren wird.


Mein Blick in die Glaskugel verrät mir, dass ich die ersten computergenerierten Medien erwarte. Die ersten Filme, Sendungen, Videospiele oder Comicserien die vllt. sogar aus Buchmaterial und Skizzen generiert und dann von Menschen zu einem Ganzen gebracht werden scheint möglich. Mehr und schneller können solche Inhalte generiert werden. Es gibt bereits erste 3D Applikationen, aber es würde auch zuerst 2D reichen wie bei Comics.

Bisher läuft es ja hauptsächlich im "Digitalem". Die letzte Sache wäre es eine solches Softwareprodukt in Maschinen einzubinden. Erst dann kann dich die KI mit seinen kalten Roboterhänden würgen.

edit.
Etwas vergessen. Ein tolles Interview mit einem Professor (Geoffrey Hinton) der von Anfang an dabei war:

Full interview: "Godfather of artificial intelligence" talks impact and potential of AI
https://www.youtube.com/watch?v=qpoRO378qRY

[sailor]

Hmm, kann diese "Denkpause" insb. von "Eggsberrdn" wie Melon Usk vieleicht damit zusammenhängen, dass sie keine Anteile bei Open AI haben und nun fürchten dass diese Konkurrenz davonsprintet ohne, dass Rendite an die Eggsberrdn fliesst? Just heute kam nämlich die Meldung, dass SAP bei Aleph Alpha mit einer Summe unter 100 Mio in der zweiten Finanzierung einsteigt. Bei der ersten Geberrunde kamen 23 mio insgesamt zusammen^^

AI wird in Sparten wie Text, Bild und Musik immer besser, vor allem trainieren die jetzigen Massennutzer die Algos schön. Problematisch wird eine Fusion, weil Anforderungen dann kollidieren, dann bräuchte man eine Koordinations-AI, welche die einzelnen "Spezialisten" austariert...

[Maierling]

Hmm, kann diese "Denkpause" insb. von "Eggsberrdn" wie Melon Usk vieleicht damit zusammenhängen, dass sie keine Anteile bei Open AI haben und nun fürchten dass diese Konkurrenz davonsprintet ohne, dass Rendite an die Eggsberrdn fliesst?

Aktuell liegt Musk bei einer seiner Lieblingsideen mit der KI zurück, den selbstfahrenden Autos. Klar das eine Denkpause  zum aufholen für ihn gut ist. Hier soll er von Google und Intel überholt worden sein.
https://www.adac.de/rund-ums-fahrzeug/ausstattung-technik-zubehoer/autonomes-fahren/technik-vernetzung/aktuelle-technik/

[PeterPan]

Hmm, kann diese "Denkpause" insb. von "Eggsberrdn" wie Melon Usk vieleicht damit zusammenhängen, dass sie keine Anteile bei Open AI haben und nun fürchten dass diese Konkurrenz davonsprintet ohne, dass Rendite an die Eggsberrdn fliesst?

Ich glaube er ist da schon länger kritisch. Er war selbst einer der Erstfinanzierer von OpenAI. Wobei er da glaube nicht mehr dabei ist. Ärgerlich für ihn bestimmt. Seine Roboter, selbstfahrenden Fahrzeuge und der Kauf von Twitter lassen ihn hinter der Zeit und arm aussehen. Er ist zurzeit nicht cool.

Elon Musk ist einer von den Longtermists, die insbesondere AI und AGI als problematisch für die Menschheit ansieht. Deshalb will er auch auf den Mars und sieht es als Problem an das die menschliche Bevölkerung stagnieren könnte.

Effective altruism's most controversial idea
https://www.vox.com/future-perfect/23298870/effective-altruism-longtermism-will-macaskill-future

Why Elon Musk fears artificial intelligence (2018)
https://www.vox.com/future-perfect/2018/11/2/18053418/elon-musk-artificial-intelligence-google-deepmind-openai

Ich bin mehr irritiert von der Aussage, dass nun Arbeitsplätze verschwinden. Es ist nicht so das es einen Mangel an Tätigkeiten oder Aufgaben gibt. Nur über den Lohn lässt sich streiten.

Verständnis für Sicherheitsrisiken sehe ich schon. Die Large Language Models sind ein Softwaretool, das missbraucht werden kann. Cyberkriminalität könnte florieren mit solch einem Programm. Zusätzlich wirken die 6 Monate nutzlos. Durch Zufall haben wir ein Monster (echte KI) geboren und es im Internet freigesetzt. Klingt für mich absurd.

[Max P]

Ich bin mehr irritiert von der Aussage, dass nun Arbeitsplätze verschwinden.

Natürlich werden Arbeitsplätze verschwinden. Texter, Graphikdesigner, Webseitenersteller, Programmierer und noch viele Tätigkeiten mehr werden über kurz oder lang von KI abgelöst werden. 

[Max P]

Auch eine Gefahr:

"Hallo Mama, mein Handy ist kaputt, das ist meine neue Nummer"
Wenn Leute schon auf sowas reinfallen, wie wird das dann, wenn AI realistische Videocalls fälschen kann, in der die Tochter heulend von ihrem Unfall erzählt und um Geld bittet? Wir brauchen Regeln und Gesetze.

https://twitter.com/florianaigner/status/1642487878499352577

[PeterPan]

Natürlich werden Arbeitsplätze verschwinden. Texter, Graphikdesigner, Webseitenersteller, Programmierer und noch viele Tätigkeiten mehr werden über kurz oder lang von KI abgelöst werden.

Hab mich ungenau ausgedrückt. Es ging mir um diese Passage:

Contemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?

Wo genau ist das Problem alle Arbeiten zu automatisieren? Nur weil gewisse Tätigkeiten verschwinden oder sich verändern heißt es nicht, dass wir als Menschheit auch unsere Interessen verlieren. Im offenen Brief gibt es sogar eine Arbeit die ausgeführt werden kann. Millionen Menschen werden versuchen zu entschlüsseln was die KI macht.

Einfach weglassen. Insbesondere da Musk versucht mit automatisierten Fahrzeugen allen Berufsfahrern den Job wegzunehmen.

Übrigens würde ich die aufgelisteten Berufe nicht unbedingt als Vergangen ansehen. Jeder dieser Berufe wird der KI zuarbeiten, damit Unbekannte Fälle abgedeckt werden. Auch wird sich eine neue Nische öffnen. Medien werden von diesen Berufen in Kleinmanufaktur mit Hilfe von KI gefertigt.


Irritierend an dem Moratorium ist auch dieses Verhältnis von Extremen. 6! Monate Zeit um Sicherheitsrisiken zu beseitigen, Plan für Arbeitslosigkeit erarbeiten und danach wieder voll durchstarten Richtung Singularität.

Sollte tatsächlich eine Art Virus auf das Internet losgelassen werden, weil nach 6 Monaten die Singularität im Griff ist? Bitte Staat, nimm uns die KI weg und bau ein Hochsicherheitslabor wie für Seuchen, aber diesmal für KI. Anders kann ich es nicht lesen.

[Max P]

Wo genau ist das Problem alle Arbeiten zu automatisieren?

Miete zahlen, Brötchen kaufen, Stromrechnung begleichen? Also, ich mein ja nur.

Hätten wir wenigstens ein garantiertes Mindesteinkommen (von einem Wirtschafts- und Gesellschaftssystem, in dem keiner gezwungen wäre, seine Arbeitskraft und Lebenszeit in Blow- und Lowjobs zu verkaufen, ganz zu schweigen), wäre Automatisierung von Arbeit in der Tat kein Problem.
 

[Scipio 2.0]

Vielleicht arbeiten wir in Zukunft alle weitgehend in sozialen Berufen und/oder die Wochenarbeitszeit sinkt deutlich?

Nur mal so als Anregung zum nachdenken.

[Max P]

Vielleicht arbeiten wir in Zukunft alle weitgehend in sozialen Berufen und/oder die Wochenarbeitszeit sinkt deutlich?

Nur mal so als Anregung zum nachdenken.

Nicht jeder kann in sozialen Berufen arbeiten, abgesehen davon, dass man die teilweise auch von einer KI ausführen lassen wird (z.B. Pflegeroboter). Nein, KI wird solange harte soziale Verwerfungen nach sich ziehen, solange Arbeit und (menschenwürdiges) Einkommen miteinander verklammert sind. Insofern ist KI spätestens seit der Erfindung mechanischer Webstühle im 18. Jhd. natürlich gar nichts Neues.

[Peiresc]

olange Arbeit und (menschenwürdiges) Einkommen miteinander verklammert sind. Insofern ist KI spätestens seit der Erfindung mechanischer Webstühle im 18. Jhd. natürlich gar nichts Neues

Also, nur mal so nebenbei: die Zeit vor Erfindung der mechanischen Webstühle war in puncto Lebensqualität für 99% der Menschheit keineswegs angenehmer.