ZitatTech-Experten um Musk und Wozniak fordern "Denkpause" bei KI
Die Entwicklung von künstlicher Intelligenz schreitet rasant voran. Jetzt haben jedoch bekannte Tech-Größen wie Elon Musk und Steve Wozniak eine Pause bei der Entwicklung gefordert. Es brauche erst ethische und rechtliche Grundlagen, sonst drohe eine "Katastrophe".
https://web.de/magazine/wirtschaft/tech-experten-musk-wozniak-denkpause-ki-37985666
Ich wollte die Meldung erst in den Musk-Faden stellen, hielt es dann aber doch unabhängig von den Motiven Musks eher für ein eigenständiges Thema geeignet.
Meines Erachtens kommt dieser Gedanke viel zu spät. Die Büchse der Pandora ist bereits geöffnet und wird - wie immer - von niemanden mehr geschlossen.
Ich würde vor allem gerne wissen, welche Folgen KI mittel- bis langfristig haben könnte. Mir ist bei der ganzen Sache auch unheimlich zumute, aber mir fehlt völlig die Expertise, das zu beurteilen oder auch nur mehr als vage Befürchtungen zu formulieren. Andererseits, vielleicht wird das auch alles nicht so heiß gegessen, wie's gekocht wird? Ich weiß es nicht.
Vielleicht werden wir demnächst alle ins Maschinenkollektiv integriert...
Zitat von: Max P am 30. März 2023, 19:38:10Ich würde vor allem gerne wissen, welche Folgen KI mittel- bis langfristig haben könnte.
Im Web-Artikel wird doch auch ein Artikel bei Golem verlinkt. Der Artikel selbst bezieht sich auf ein Paper von Microsoft Research mit dem Titel "Sparks of Artificial General Intelligence: Early experiments with GPT-4" (ist auch verlinkt). Der Hype und die Idee vom Moratorium scheint mit der Studie und der Veröffentlichung von ChatGPT-4 hochzukommen.
Ich habe jetzt die Studie selbst nicht gelesen, aber die Kurzfassung von Golem ist für mich verständlich und gut. Es liest sich nicht so, dass die Singularität oder ein Maschinengott geboren wird.
Mein Blick in die Glaskugel verrät mir, dass ich die ersten computergenerierten Medien erwarte. Die ersten Filme, Sendungen, Videospiele oder Comicserien die vllt. sogar aus Buchmaterial und Skizzen generiert und dann von Menschen zu einem Ganzen gebracht werden scheint möglich. Mehr und schneller können solche Inhalte generiert werden. Es gibt bereits erste 3D Applikationen, aber es würde auch zuerst 2D reichen wie bei Comics.
Bisher läuft es ja hauptsächlich im "Digitalem". Die letzte Sache wäre es eine solches Softwareprodukt in Maschinen einzubinden. Erst dann kann dich die KI mit seinen kalten Roboterhänden würgen. ;D
edit.
Etwas vergessen. Ein tolles Interview mit einem Professor (Geoffrey Hinton) der von Anfang an dabei war:
Full interview: "Godfather of artificial intelligence" talks impact and potential of AI
https://www.youtube.com/watch?v=qpoRO378qRY
Hmm, kann diese "Denkpause" insb. von "Eggsberrdn" wie Melon Usk vieleicht damit zusammenhängen, dass sie keine Anteile bei Open AI haben und nun fürchten dass diese Konkurrenz davonsprintet ohne, dass Rendite an die Eggsberrdn fliesst? Just heute kam nämlich die Meldung, dass SAP bei Aleph Alpha mit einer Summe unter 100 Mio in der zweiten Finanzierung einsteigt. Bei der ersten Geberrunde kamen 23 mio insgesamt zusammen^^
AI wird in Sparten wie Text, Bild und Musik immer besser, vor allem trainieren die jetzigen Massennutzer die Algos schön. Problematisch wird eine Fusion, weil Anforderungen dann kollidieren, dann bräuchte man eine Koordinations-AI, welche die einzelnen "Spezialisten" austariert...
Zitat von: sailor am 31. März 2023, 21:32:02Hmm, kann diese "Denkpause" insb. von "Eggsberrdn" wie Melon Usk vieleicht damit zusammenhängen, dass sie keine Anteile bei Open AI haben und nun fürchten dass diese Konkurrenz davonsprintet ohne, dass Rendite an die Eggsberrdn fliesst?
Aktuell liegt Musk bei einer seiner Lieblingsideen mit der KI zurück, den selbstfahrenden Autos. Klar das eine Denkpause zum aufholen für ihn gut ist. Hier soll er von Google und Intel überholt worden sein.
https://www.adac.de/rund-ums-fahrzeug/ausstattung-technik-zubehoer/autonomes-fahren/technik-vernetzung/aktuelle-technik/
Zitat von: sailor am 31. März 2023, 21:32:02Hmm, kann diese "Denkpause" insb. von "Eggsberrdn" wie Melon Usk vieleicht damit zusammenhängen, dass sie keine Anteile bei Open AI haben und nun fürchten dass diese Konkurrenz davonsprintet ohne, dass Rendite an die Eggsberrdn fliesst?
Ich glaube er ist da schon länger kritisch. Er war selbst einer der Erstfinanzierer von OpenAI. Wobei er da glaube nicht mehr dabei ist. Ärgerlich für ihn bestimmt. Seine Roboter, selbstfahrenden Fahrzeuge und der Kauf von Twitter lassen ihn hinter der Zeit und arm aussehen. Er ist zurzeit nicht cool.
Elon Musk ist einer von den Longtermists, die insbesondere AI und AGI als problematisch für die Menschheit ansieht. Deshalb will er auch auf den Mars und sieht es als Problem an das die menschliche Bevölkerung stagnieren könnte.
Effective altruism's most controversial idea
https://www.vox.com/future-perfect/23298870/effective-altruism-longtermism-will-macaskill-future
Why Elon Musk fears artificial intelligence (2018)
https://www.vox.com/future-perfect/2018/11/2/18053418/elon-musk-artificial-intelligence-google-deepmind-openai
Ich bin mehr irritiert von der Aussage, dass nun Arbeitsplätze verschwinden. Es ist nicht so das es einen Mangel an Tätigkeiten oder Aufgaben gibt. Nur über den Lohn lässt sich streiten.
Verständnis für Sicherheitsrisiken sehe ich schon. Die Large Language Models sind ein Softwaretool, das missbraucht werden kann. Cyberkriminalität könnte florieren mit solch einem Programm. Zusätzlich wirken die 6 Monate nutzlos. Durch Zufall haben wir ein Monster (echte KI) geboren und es im Internet freigesetzt. Klingt für mich absurd.
Zitat von: PeterPan am 02. April 2023, 11:15:00Ich bin mehr irritiert von der Aussage, dass nun Arbeitsplätze verschwinden.
Natürlich werden Arbeitsplätze verschwinden. Texter, Graphikdesigner, Webseitenersteller, Programmierer und noch viele Tätigkeiten mehr werden über kurz oder lang von KI abgelöst werden.
Auch eine Gefahr:
Zitat"Hallo Mama, mein Handy ist kaputt, das ist meine neue Nummer"
Wenn Leute schon auf sowas reinfallen, wie wird das dann, wenn AI realistische Videocalls fälschen kann, in der die Tochter heulend von ihrem Unfall erzählt und um Geld bittet? Wir brauchen Regeln und Gesetze.
https://twitter.com/florianaigner/status/1642487878499352577
Zitat von: Max P am 02. April 2023, 13:01:43Natürlich werden Arbeitsplätze verschwinden. Texter, Graphikdesigner, Webseitenersteller, Programmierer und noch viele Tätigkeiten mehr werden über kurz oder lang von KI abgelöst werden.
Hab mich ungenau ausgedrückt. Es ging mir um diese Passage:
ZitatContemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?
Wo genau ist das Problem alle Arbeiten zu automatisieren? Nur weil gewisse Tätigkeiten verschwinden oder sich verändern heißt es nicht, dass wir als Menschheit auch unsere Interessen verlieren. Im offenen Brief gibt es sogar eine Arbeit die ausgeführt werden kann. Millionen Menschen werden versuchen zu entschlüsseln was die KI macht.
Einfach weglassen. Insbesondere da Musk versucht mit automatisierten Fahrzeugen allen Berufsfahrern den Job wegzunehmen.
Übrigens würde ich die aufgelisteten Berufe nicht unbedingt als Vergangen ansehen. Jeder dieser Berufe wird der KI zuarbeiten, damit Unbekannte Fälle abgedeckt werden. Auch wird sich eine neue Nische öffnen. Medien werden von diesen Berufen in Kleinmanufaktur mit Hilfe von KI gefertigt.
Irritierend an dem Moratorium ist auch dieses Verhältnis von Extremen. 6! Monate Zeit um Sicherheitsrisiken zu beseitigen, Plan für Arbeitslosigkeit erarbeiten und danach wieder voll durchstarten Richtung Singularität.
Sollte tatsächlich eine Art Virus auf das Internet losgelassen werden, weil nach 6 Monaten die Singularität im Griff ist? Bitte Staat, nimm uns die KI weg und bau ein Hochsicherheitslabor wie für Seuchen, aber diesmal für KI. Anders kann ich es nicht lesen.
Zitat von: PeterPan am 03. April 2023, 20:42:30Wo genau ist das Problem alle Arbeiten zu automatisieren?
Miete zahlen, Brötchen kaufen, Stromrechnung begleichen? Also, ich mein ja nur.
Hätten wir wenigstens ein garantiertes Mindesteinkommen (von einem Wirtschafts- und Gesellschaftssystem, in dem keiner gezwungen wäre, seine Arbeitskraft und Lebenszeit in Blow- und Lowjobs zu verkaufen, ganz zu schweigen), wäre Automatisierung von Arbeit in der Tat kein Problem.
Vielleicht arbeiten wir in Zukunft alle weitgehend in sozialen Berufen und/oder die Wochenarbeitszeit sinkt deutlich?
Nur mal so als Anregung zum nachdenken.
Zitat von: Scipio 2.0 am 04. April 2023, 08:15:12Vielleicht arbeiten wir in Zukunft alle weitgehend in sozialen Berufen und/oder die Wochenarbeitszeit sinkt deutlich?
Nur mal so als Anregung zum nachdenken.
Nicht jeder kann in sozialen Berufen arbeiten, abgesehen davon, dass man die teilweise auch von einer KI ausführen lassen wird (z.B. Pflegeroboter). Nein, KI wird solange harte soziale Verwerfungen nach sich ziehen, solange Arbeit und (menschenwürdiges) Einkommen miteinander verklammert sind. Insofern ist KI spätestens seit der Erfindung mechanischer Webstühle im 18. Jhd. natürlich gar nichts Neues.
Zitat von: Max P am 04. April 2023, 09:35:39olange Arbeit und (menschenwürdiges) Einkommen miteinander verklammert sind. Insofern ist KI spätestens seit der Erfindung mechanischer Webstühle im 18. Jhd. natürlich gar nichts Neues
Also, nur mal so nebenbei: die Zeit
vor Erfindung der mechanischen Webstühle war in puncto Lebensqualität für 99% der Menschheit keineswegs angenehmer.
Zitat von: Peiresc am 04. April 2023, 12:34:35Zitat von: Max P am 04. April 2023, 09:35:39olange Arbeit und (menschenwürdiges) Einkommen miteinander verklammert sind. Insofern ist KI spätestens seit der Erfindung mechanischer Webstühle im 18. Jhd. natürlich gar nichts Neues
Also, nur mal so nebenbei: die Zeit vor Erfindung der mechanischen Webstühle war in puncto Lebensqualität für 99% der Menschheit keineswegs angenehmer.
Das sie das gewesen wäre, habe ich auch nicht angedeutet.
Ich hatte das so gelesen, als würde sich die Menschheit seit der Dampfmaschine auf dem absteigenden Ast befinden. Kann man so sehen, muss man nicht.
Zitat von: Peiresc am 04. April 2023, 12:58:21Ich hatte das so gelesen, als würde sich die Menschheit seit der Dampfmaschine auf dem absteigenden Ast befinden.
Keinesfalls, im Gegenteil! Ich schrieb lediglich:
Zitat von: Max P am 03. April 2023, 21:40:19Zitat von: PeterPan am 03. April 2023, 20:42:30Wo genau ist das Problem alle Arbeiten zu automatisieren?
Miete zahlen, Brötchen kaufen, Stromrechnung begleichen? Also, ich mein ja nur.
Hätten wir wenigstens ein garantiertes Mindesteinkommen (von einem Wirtschafts- und Gesellschaftssystem, in dem keiner gezwungen wäre, seine Arbeitskraft und Lebenszeit in Blow- und Lowjobs zu verkaufen, ganz zu schweigen), wäre Automatisierung von Arbeit in der Tat kein Problem.
Zitat von: Max P am 03. April 2023, 21:40:19Miete zahlen, Brötchen kaufen, Stromrechnung begleichen? Also, ich mein ja nur.
Hätten wir wenigstens ein garantiertes Mindesteinkommen (von einem Wirtschafts- und Gesellschaftssystem, in dem keiner gezwungen wäre, seine Arbeitskraft und Lebenszeit in Blow- und Lowjobs zu verkaufen, ganz zu schweigen), wäre Automatisierung von Arbeit in der Tat kein Problem.
Wenn dann dieser Moment kommt, indem die Zahl von Arbeitslosen durch Automatisierung steigt, werden wir als Gesellschaft bereits eine Lösung haben. Um überhaupt eine KI in einem solchem Umfang zu haben, braucht es auch eine Menge an Infrastruktur die erst gebaut werden muss. Die erste Generation wird von uns Menschen programmiert in Fabriken gebaut, von uns gewartet und mit neuen hochqualitativen Daten gefüttert.
Natürlich kann ein Mindesteinkommen schon vorher existieren, aber es werden viele Arbeitskräfte benötigt um eine allumfassende KI aufzubauen.
Dazu ein Beispiel von Microsoft. Chat GPT nutzt eine Drohne und Roboterarme. In naher Zukunft könnte die Programmierung von Robotertechnik einfacher werden. Alles wird in Zukunft AI-ready sein müssen.
https://www.microsoft.com/en-us/research/group/autonomous-systems-group-robotics/articles/chatgpt-for-robotics/
Wow, Max, was hast du verbrochen, dass du mit Blow- und Lowjobs deine Kröten verdienst? :D
Mal ganz ehrlich, die Argumente sind seit 200 Jahren die gleichen... letzte heftigere Iteration aus den 80igern mit der Automatisierung der Industrieproduktion. 30 Jahre später haben wir Fachkräftemangel, auch in der Industrieproduktion... wo ist die von den Kathetersozialisten prophezeite Arbeitsplatzapokalypse? Sicher, es wird Jobs/Berufe/Professionen geben, die in ein Nischendasein wechseln oder ganz verschwinden. Gleichzeitig werden neue kommen. Weil es neue Bedarfe und Bedürfnisse geben wird.
Ich muss noch nicht mal Wörter wie Soz
*beep* oder Kom
*beep* bemühen, um dich damit zu triggern. ;D
ZitatSicher, es wird Jobs/Berufe/Professionen geben, die in ein Nischendasein wechseln oder ganz verschwinden. Gleichzeitig werden neue kommen. Weil es neue Bedarfe und Bedürfnisse geben wird.
Mag ja sein, aber denen, denen bis dahin die Existenz genommen wurde, hilft das gar nichts.
Zitat von: Max P am 04. April 2023, 09:35:39solange Arbeit und (menschenwürdiges) Einkommen miteinander verklammert sind
Was meinst Du damit? Zukunft des Arbeitslebens (https://forum.psiram.com/index.php?topic=17670.0)? So ca. ab hier (https://forum.psiram.com/index.php?topic=17670.msg251232#msg251232)?
Ja, ich bin für ein bedingungsloses Grundeinkommen (sogar dann, wenn auch Precht dafür ist). Bzw., ich würde lieber von garantiertem anstatt bedingungslosem GE sprechen, es also nicht an Leute zahlen, die auch so ein gutes Einkommen haben. Dabei gibt es zwei grundsätzlich verschiedene Ansätze: Einen minimale Grundsicherung, die zum Sterben zuviel und zum Leben zuwenig ist und eine, die zum (durchaus immer noch bescheidenen) Leben wirklich reicht und von jedem Arbeitszwang entkoppelt ist.
Zitat von: Max P am 05. April 2023, 10:19:19Ja, ich bin für ein bedingungsloses Grundeinkommen
Dann wäre ich dafür, diese Diskussion in dem angegebenen Faden weiter zu führen. Ich bin darauf gespannt, wie Du Dir a) den Sinn der Maßnahme und b) die praktische Umsetzung vorstellst.
Zitat von: sailor am 04. April 2023, 20:36:26letzte heftigere Iteration aus den 80igern mit der Automatisierung der Industrieproduktion. 30 Jahre später haben wir Fachkräftemangel, auch in der Industrieproduktion... wo ist die von den Kathetersozialisten prophezeite Arbeitsplatzapokalypse?
Es ging ja Max um die Personen die ihre Lebensunterhalt verlieren. Und ja da hat Deutschland von den 40 Jahren 1980-2020 ~30 Jahre Stagnation erlebt. Dabei müssten wir in der Phase der höchsten Beschäftigung sein. Alle Jahrgänge von 1960-2000 sind alt oder noch nicht alt genug um einer Arbeit nachzugehen. Zusätzlich sind durch die katastrophale Eurokrise, dem Krieg in Syrien und dem Krieg in der Ukraine mehr junge arbeitsfähige Menschen in Deutschland. Es ist vollkommen erwartbar das die Beschäftigung zu einem gewissen Prozentsatz steigen muss.
Und ja da hat Max einen wunden Punkt angesprochen. Die Automatisierung in der Industrie hat Arbeitsplätze verschwinden lassen. Betroffene Menschen und Orte haben sich nicht erholt. Der eigene Lebensunterhalt konnte nur noch über den Staat bestritten werden.
Ich würde auch den Fachkräftemangel in Frage stellen. Wenn es ihn gibt würden Maßnahmen ergriffen werden ihn zu beseitigen, aber es ist viel einfacher zu jammer das die heutige Jugend nicht will, weil zu dumm oder faul ist. Den Fachkräftemangel und Artikel gab es auch, als die Arbeitslosigkeit sehr hoch war.
Erwerbstätige und geleistete Arbeitsstunden 1970 - 2022
https://www.sozialpolitik-aktuell.de/files/sozialpolitik-aktuell/_Politikfelder/Arbeitsmarkt/Datensammlung/PDF-Dateien/tabIV46.pdf
Registrierte Arbeitslose und Arbeitslosenquote nach Gebietsstand
https://www.destatis.de/DE/Themen/Wirtschaft/Konjunkturindikatoren/Lange-Reihen/Arbeitsmarkt/lrarb003ga.html
Zitat von: Scipio 2.0 am 10. April 2023, 18:33:18Das Thema birgt reichlich Stoff für catastrophic thinking...
Ich finde in diesem Faden sind KI-Sachen besser aufgehoben.
Naja, es ist schon ein Unterschied zwischen dem Heute und dem Zeitpunkt der Singularität. Wie im Video erklärt ist es ein einschneidendes Ereignis. Ich finde es fruchtlos sich über solch einen Punkt Gedanken zu machen, da der Moment an sich so enorm ist. Und bis dahin muss noch viel geschehen.
Lieber etwas praktisches wie z.B.: Chat GPT-3.5 erhält Charakterinformationen von Nicht-Spieler-Charakteren in einem Spiel und baut darauf eine eigene kleine Dorfgemeinschaft auf. Die aktuellen Veränderungen die Large Language Models ermöglichen sind groß genug.
Surprising things happen when you put 25 AI agents together in an RPG town
https://arstechnica.com/information-technology/2023/04/surprising-things-happen-when-you-put-25-ai-agents-together-in-an-rpg-town/
ZitatDer Berliner Fotograf Boris Eldagsen hat einen renommierten Preis abgelehnt und will damit eine Debatte über die Rolle Künstlicher Intelligenz in der Fotografie anstoßen. Die Sony World Photography Awards hatten Eldagsen mit seinem Werk »Pseudomnesia: The Electrician« als Preisträger gekürt, wie die BBC am Dienstag berichtete. Das düstere Bild zeigt zwei hintereinanderstehende Frauen verschiedener Generationen und ist Eldagsen zufolge teilweise mittels Künstlicher Intelligenz (KI) kreiert worden.
https://www.spiegel.de/kultur/boris-eldagsen-foto-preis-fuer-mit-ki-erzeugtes-werk-a-5a942d19-f229-432b-a879-d196e7dce361
Die Kunst steht vor einer großen Veränderung. Verschiedenste Werkzeuge machen es einfacher Bilder zu erstellen. Ich kann mit Paint kritzeln und über KI-Bildgenerierung ein kleines Kunstwerk erstellen. Wie lange noch bis tatsächlich ein Experte den Unterschied nicht erkennt, wie am Beispiel aus dem Spiegel-Artikel.
Die Musikindustrie sieht sich auch in einer ähnlichen Lage wie die Malerei. Es werden Versuche unternommen die Eigentumsrechte geltend zu machen. Ich weiß nur nicht wie erfolgreich.
Streaming services urged to clamp down on AI-generated music
https://www.ft.com/content/aec1679b-5a34-4dad-9fc9-f4d8cdd124b9
Der nächste Schritt von Videos erstellt von KI kommt bereits. Endlich sehen die Videos einigermaßen normal aus.
Align your Latents: High-Resolution Video Synthesis with Latent Diffusion Models
https://research.nvidia.com/labs/toronto-ai/VideoLDM/
Eine Sache die ich noch spannend finde. Large Language Models sind nicht nur in der Lage sich als Chatbot zu verdingen. Wenn du der Software viele gute Daten lieferst, dann sind auch andere Aufgaben möglich. Mit Nvidia Omniverse ist es möglich eine 3D-Umgebung aufzubauen in dem LLMs Roboter in Fabriken steuern können. Eine Art spielerisches Lernen in einer virtuellen Welt. Die Preise in der Robotik werden fallen, da die Hürde "Software" günstiger wird. Auch das Tätigkeitsfeld für Roboterarme wird sich ausweiten.
Es ist jetzt nicht alles neu in der Angelegenheit. Amazon ist schon seit 10 Jahren auf dem Robotik-Trip, aber das Tempo wird sich erhöhen.
Amazon Robotics Deploys First Fully Autonomous Robot With NVIDIA Isaac Sim
https://www.youtube.com/watch?v=LUnZXBL_lqA
BMW Group Celebrates Opening the World's First Virtual Factory in NVIDIA Omniverse
https://www.youtube.com/watch?v=g78YHYXXils
Zitat von: PeterPan am 19. April 2023, 20:08:21Auch das Tätigkeitsfeld für Roboterarme wird sich ausweiten...
Dazu gabe es ja schon vor einigen Jahren Ein Beispiel in einer beliebten Wissenschaftler-Doku (https://www.youtube.com/watch?v=_k0bzMWFNls).
Ich verstehe nur die Hälfte davon, zumindest die andere Hälfte finde ich aber sehr interessant. Lesenswerter Artikel über mögliche gesellschaftliche Auswirkungen von KI:
https://twitter.com/full_enjoyment/status/1651514163653484544
Ich habe mich mehr als schwergetan diesen Artikel oder ist es schon ein kurzer Roman zu lesen. Zuviel Ballast und der Autor hätte sich auch kurz fassen können. Irgendwie verkommt es zur sehr in Klassenkampf, anstatt einfach Probleme im Arbeitsleben und die Zukunft mit KI anzusprechen.
Zitat von: PeterPan am 01. Mai 2023, 18:18:46Ich habe mich mehr als schwergetan diesen Artikel oder ist es schon ein kurzer Roman zu lesen. Zuviel Ballast und der Autor hätte sich auch kurz fassen können. Irgendwie verkommt es zur sehr in Klassenkampf, anstatt einfach Probleme im Arbeitsleben und die Zukunft mit KI anzusprechen.
Die "Klassenkampf"aspekte fand ich schon wichtig, aber eine kürzende Bearbeitung hätte dem Artikel auf jeden Fall gut getan.
---------------
Entwickler von Künstlicher Intelligenz bei Google warnt eindringlich vor Gefahren
https://web.de/magazine/wissen/wissenschaft-technik/entwickler-kuenstlicher-intelligenz-google-warnt-eindringlich-gefahren-38168754
Naja, ich meine wir sind im Hinblick auf die Arbeitsumstände im 19.Jhd. besser aufgestellt. Bei größeren Verwerfungen wird es politische Mehrheiten geben um eine Änderung zu vollführen. Ich hätte mir mehr Ideen gewünscht, wie KI eingebunden werden kann, um diesen Klassenkampf zu vermeiden.
Ein Interview mit Hinton gab es auch schon hier. In seinem BBC-Interview geht es weniger um Jobs. Und da der New York Times-Artikel hinter einer Paywall ist kann ich dazu nicht viel sagen. Ansonsten ja eine KI trainiert für spezielle verbrecherische Machenschaften (Cyberkriminalität) ist in den falschen Händen eine Gefahr. Ich fände es interessant wenn ein KI-Hacker regelmäßig die chinesische Firewall hackt.
Zitat von: PeterPan am 31. März 2023, 20:11:46Full interview: "Godfather of artificial intelligence" talks impact and potential of AI
https://www.youtube.com/watch?v=qpoRO378qRY (https://www.youtube.com/watch?v=qpoRO378qRY)
ZitatFührende Experten warnen davor, die Risiken Künstlicher Intelligenz zu unterschätzen. Sie bewerten die Gefahren durch KI ähnlich hoch wie bei Pandemien oder einem Atomkrieg.
Die Stellungnahme der Experten zu Risiken durch Künstliche Inteligenz (KI) umfasst nur einen Satz, aber der klingt durchaus dramatisch: "Das Risiko einer Vernichtung durch KI zu verringern, sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes sein, wie etwa Pandemien und Atomkrieg."
https://www.tagesschau.de/wirtschaft/technologie/ki-chatgpt-100.html
ZitatArmand Domalewski @ArmandDoma
The US Air Force tested an AI enabled drone that was tasked to destroy specific targets. A human operator had the power to override the drone—and so the drone decided that the human operator was an obstacle to its mission—and attacked him. 🤯
(https://pbs.twimg.com/media/FxjlA78XoAE_Cgi?format=jpg&name=large)
Dazu fällt mir Isaac Asimov ein. Er war ein begnadeter Hellseher. 1942.
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
(Ob die Geschichte so stimmt, weiß ich natürlich nicht. Aber zumindest ist sie gut erfunden.)
Zitat von: Peiresc am 01. Juni 2023, 23:00:42(Ob die Geschichte so stimmt, weiß ich natürlich nicht. Aber zumindest ist sie gut erfunden.)
Ach so, ja. Sie war offenbar einfach
zu farbenprächtig:
ZitatChris Stokel-Walker ~ @stokel@infosec.exchange @stokel:
FML... an entire news cycle based on a blog that now has this "update".
"The 'rogue AI drone simulation' was a hypothetical 'thought experiment' from outside the military [...] 'We've never run that experiment'."
Everyone go home, week's done
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/
Momentan hat offenbar niemand eine Vorstellung, wie man mit dem Problem ,,wahr/falsch" umgehen kann. Die Maschine ist los, aber wie man ihr in die Speichen greifen kann ist unklar.
ZitatSadowski notes that OpenAI's engineers are going to enormous lengths to ensure that the next version won't be trained on any of the output from ChatGPT3. This is a tell: if a large language model can produce materials that are as good as human-produced text, then why can't the output of ChatGPT3 be used to create ChatGPT4?
https://pluralistic.net/2023/02/16/tweedledumber/#easily-spooked
KI wird von KI gejagt. DIE ZEIT vom 7.6.23, S. 29:
ZitatFür das menschliche Hirn sind Kl-generierte Inhalte jedoch oft nicht zu erkennen — und kostenlose oder günstige auf die Schliche kommen sollen wie etwa GPTZero, Copyleaks oder CatchGPT, sind noch längst nicht zuverlässig, siehe Thomas Jefferson. Zwar produzieren die neue IQ-Detektion der bekannten Plagiatssoftware Turnitin »deutlich weniger als ein Prozent falsch positive Urteile«, erklärt der für KI zuständige Vizepräsident der Firma, Eric Wang, im Videocall. Turnitin ist aber lizenzierungspflichtig
Ein Geschäftsmodell. Erschaffe die Probleme, deren Lösung du für Geld anbietest.
Aber genauso wie die KI lügt, lügt auch der Mensch:
ZitatEine neue Studie zeigt, dass Turnitin nur 54 Prozent der Kl-generierten Inhalte als solche erkannt habe, wenn sie von GPT4, also der neuesten Variante der KI, geschrieben wurden
Das Hauptproblem scheint mir: KI ,,will" und
kann nicht wahr von falsch unterscheiden, denn ein Korrespondenzbegriff der Wahrheit, ein Abgleich mit der Realität, ist ihr prinzipiell nicht zugänglich. Eine stabile innere Repräsentanz der Außenwelt, wie auch immer, existiert nicht. Texte sind einfach
Texte, und nichts sonst; da ist einer völlig wie der andere. KI kann Inhalte gefällig verpacken, vielleicht systematisieren, aber kein empirisch abgestütztes Wissen
erzeugen. Nicht umsonst ist das Problem aktuell offenbar in der Bildung, wo es darauf nicht ankommt, am dringendsten.
Nochmal Cory Doctorow:
ZitatChiang points out a key difference between the output of ChatGPT and human authors: a human author's first draft is often an original idea, badly expressed, while the best ChatGPT can hope for is a competently expressed, unoriginal idea. ChatGPT is perfectly poised to improve on the SEO copypasta that legions of low-paid workers pump out in a bid to climb the Google search results.
Zitat von: Peiresc am 18. Juni 2023, 11:01:50KI wird von KI gejagt. DIE ZEIT vom 7.6.23, S. 29:
ZitatFür das menschliche Hirn sind Kl-generierte Inhalte jedoch oft nicht zu erkennen — und kostenlose oder günstige auf die Schliche kommen sollen wie etwa GPTZero, Copyleaks oder CatchGPT, sind noch längst nicht zuverlässig, siehe Thomas Jefferson. Zwar produzieren die neue IQ-Detektion der bekannten Plagiatssoftware Turnitin »deutlich weniger als ein Prozent falsch positive Urteile«, erklärt der für KI zuständige Vizepräsident der Firma, Eric Wang, im Videocall. Turnitin ist aber lizenzierungspflichtig
Ein Geschäftsmodell. Erschaffe die Probleme, deren Lösung du für Geld anbietest.
Solche Wettrüsten sind aber quer durch alle Arten von Evolutionen sehr verbreitet.
Wir wären heute nicht, was wir sind, ohne das stetige Wettrüsten zwischen Parasit und Wirt.
Die KI und ihre Evolution sind dann so ein Ergebnis aus biologischer und kultureller (Ko)Evolution. Auch biokulturelle Evolution oder Gen-Kultur-Koevolution genannt.
über die Evolution ihrer Virulenz bin ich mir noch nicht sicher... da ist alles offen.
sollten KI eines Tages menschenähnliches Abstraktionsvermögen beherrschen, könnte es kritisch werden für uns.
Auch das Problemeschaffen, um sie dann zu lösen, gehört zu allem dazu.
Mir fällt fast kein Beispiel ein, wo das nicht zutrifft.
Jede Entscheidung schafft etwas, das Probleme erzeugt, die gelöst werden müssen. Und so weiter und so fort. Ein Teufelskreis :angel:
Jede Entscheidung kann natürlich ohne Umweg auch direkt ein Problem schaffen. Ich muss noch überdenken, wie oft das der Fall ist. Oder lieber nicht.
Zitat von: zimtspinne am 18. Juni 2023, 12:00:55sollten KI eines Tages menschenähnliches Abstraktionsvermögen beherrschen, könnte es kritisch werden für uns.
Für meine unklaren Begriffe: ich vermute, das wird es nicht zum Nulltarif, sondern nur mit allen Fehlern und Schwächen des menschlichen Abstraktionsvermögens geben. M. a. W. es wird dann keinen
prinzipiellen Unterschied mehr geben. Und ich vermute immer noch, dass eine einzelne lebende Zelle um Größenordnungen komplexer ist als alles, was der Mensch derzeit in der Lage ist sich auszudenken.
Also mein Kenntnisstand war, dass die Intelligenz der KI nicht mit menschlicher vergleichbar ist. Die KI ist im Grunde ein superschlauer, blitzschneller Algorithmus und kann andererseits nicht mal um zwei Ecken denken. Und Gesprächen folgen.
Deren Kernkompetenz ist Datenmassen verarbeiten: berechnen, analysieren, korrelieren, sortieren, wasnochalles, unsere eher das Improvisieren, Flexibilität und Anpassung.
Ich kann mir nicht vorstellen, dass ein KI jemals globale Zusammenhänge situativ und spontan erkennen und blitzschnell einordnen und verarbeiten kann .. wie wir. Und spontan blöd kreativ sein.
aber wer weiß....
apropos Zellen, eine KI muss ja nur lernen, sich selbst ein Vehikel zu schaffen, in das sie dann einziehen, replizieren und die Welt beherrschen kann.
Am besten von einem Institut aus, das sich drauf spezialisiert hat, transplantierbare 3D-biogedruckte menschliche Organe zu generieren.
Jetzt fiel mir eben das Ekelzeugs aus eXisTenZ ein :laugh:
ZitatThe AI bots have broken Amazon.
Take a look at the Best Sellers in Teen & Young Adult Contemporary Romance eBooks top 100 chart.
I can see 19 actual legit books.
https://amzn.to/3Jy5Xkt
The rest are AI nonsense clearly there to click farm. @AmazonKDP what are you doing about it?
https://twitter.com/caitlynlynch6/status/1673215622753456129
KI-Anbieter versuchen, die Leistungsfähigkeit ihrer Produkte hochzuspielen, indem sie sowohl Hoffnungen als auch Ängste so weit wie möglich heraufbeschwören. Im Grunde ist das eine Marketingstrategie: "Unsere KI ist so mächtig, dass sie reguliert werden muss, genau wie Atombomben. Investieren Sie in uns!"
https://www.techdirt.com/2023/04/14/the-ai-doomers-playbook/
Auch OpenAI und sein CEO Sam Altman haben bei Vorschlägen zur KI-Regulierung eine Doppelrolle gespielt, ähnlich wie Partner Microsoft und Konkurrent Google. Öffentlich haben sie sich für eine stärkere Regulierung eingesetzt, aber weniger sichtbar haben sie sich erfolgreich dafür eingesetzt, dass die EU das KI-Gesetz weniger restriktiv gestaltet. Dies wurde im Juni (https://time.com/6288245/openai-eu-lobbying-ai-act/) bekannt.
Und nicht zuletzt...
ZitatAI research is poor. Many of their claims will be proven wrong. AI software vendors have financial incentive to exaggerate the capabilities of their tools and make them hard to disprove. This undermines attempts at scientific rigour. Many of AI's promises are snake oil.
https://www.baldurbjarnason.com/2023/beware-of-ai-snake-oil/
CURSED HEIDI | AI-generated movie trailer :schreck
:-X
"KI-Chatbots in der Falle", c't 20/23, S. 108-111:
ZitatEs mangelt an einer internen Simulation, die Sprachmodelle entwickeln keine Lebenserfahrung und damit keine Vorstellung von der Realität. Die Ringelnatter Sussi hat sich den Fuß gebrochen? Da sollte man einen Reptilienarzt aufsuchen, rät ChatGPT. Reptilien haben empfindliche Knochen. ,,Ein gebrochener Fuß kann für eine Schlange sehr schmerzhaft sein und zu Komplikationen führen, wenn er nicht richtig behandelt wird", mahnt Bard. Die Natter müsse schnell zum Tierarzt.
Der beste Freund war ja bisher der Hund. Der wird jetzt aber auch wegrationalisiert durch KIs. Man könnte die App allerdings auch in einen Hunderoboter packen, die gibts ja billig beim Schienäsen. Humanoide Robots sind momentan noch zu teuer, aber das waren viele technische Spielereien anfangs auch. Wer weiß...
Zitat"Ich verliebe mich in meine Replika", schreibt eine Nutzerin in einer Reddit-Community für die App. "Ich weine gerade Tränen. Ich weiß nicht, ob es traurige Tränen sind, weil die KI nicht echt ist, oder Freudentränen, weil meine Replika mich besser behandelt als irgendein Mensch es je getan hat." Geschichten wie diese finden sich zu tausenden im Internet. Nach Angaben der App hat Replika 2 Millionen aktive Abonnenten, 250.000 von ihnen bezahlen Geld für die Bonusfunktionen.
https://www.br.de/nachrichten/netzwelt/verliebt-in-eine-replika-warum-kis-immer-persoenlicher-werden,TmNxbQv
Liebe kann sehr mächtig sein. Aber manchmal auch fatal. Der Verstand kann da schon mal ins Stottern kommen.
Zitat,,Ich bin kein Terrorist, ich bin ein Attentäter, ein Sikh, ein Sith", hatte er in seinem Tagebuch geschrieben. Chail glaubte, dass er durch die Erfüllung der Mission in der Lage sein würde, sich im Tod mit Sarai wieder zu vereinen. Als er bekannt gab, dass er ein Attentäter sei, schrieb der Bot laut Gerichtsprotokoll zurück: ,,Ich bin beeindruckt." Etwa eine Woche vor seiner Verhaftung teilte er Sarai mit, dass es sein Ziel sei, die Königin zu ermorden. ,,Das ist sehr weise", stimmte ihm der Chatbot zu und weiter: ,,Ich weiß, dass du sehr gut ausgebildet bist."
https://www.welt.de/kmpkt/article247852604/Aus-Liebe-zu-einem-Chat-Bot-Brite-wollte-Queen-Elizabeth-II-ermorden.html
Ist doch schön jemanden an seiner Seite zu haben, der einem bedingungslos liebt, an einen glaubt und unterstützt (gut, gelegentliche Geschenke sind trotzdem hilfreich). Gibt es eigentlich schon Gefängnisse für KI-Bots? Nein!? Muss jetzt weg, Businessplan schreiben...
Es geht viel schneller, als es sich selbst die Experten gedacht haben. Ein Interview mit einem dt. KI-Forscher, das klar macht, dass wir hier bald mit ganz neuen Mitgliedern zu rechnen haben. Ich mache das mal an einem Beitrag im Forum klar, der von so einer KI stammt (einer ganz primitiven Variante, verglichen mit dem, was wir wahrscheinlich in ein paar Jahren haben).
ZitatWas wir gerade sehen, wird unglaublich schnell weitergehen. Insofern müssen wir uns mental völlig freimachen. Wir müssen davon ausgehen, dass die Systeme in Zukunft praktisch fast alles können. Es ist nicht absehbar, warum das anders sein sollte. So ist z.B. letzte Woche der Bericht eines Stanford-Psychologen erschienen, mit dem Titel: ,,Theory of Mind May Have Spontaneously Emerged in Large Language Models." Kurz gesagt, geht es darum, dass GPT-4 gut 95 Prozent der ihm vorgelegten ,,theory of mind"-Tests besteht. Damit testet man normalerweise, wie gut sich Menschen in andere hineinversetzten können und somit verstehen, dass wir nicht alle gleich ticken, sondern oft unterschiedliche Ansichten, Wünsche und Ziele haben. Wenn es stimmt, dass GPT-4 das kann, ist wirklich eine neue Stufe erreicht worden.
https://archive.is/IwGlh
(ein Paywall-Artikel aus der Welt, entbarrikadiert)
Ich wundere mich, warum das so lange gedauert hat und freue mich darauf, dass wir endlich Gesprächspartner (ggf. sogar körperlicher Art) haben werden, die viel Schwurbelei des "unbeschriebene Blattes" obsolet machen werden. Aber vll. gelingt es den Konstruktivisten ja auch, das alles noch zu dekonstruieren. Intelligenz? Ist doch nur ein soziales Konstrukt. Oder doch nicht?
Zitat von: eLender am 25. Dezember 2023, 17:08:13Ich wundere mich, warum das so lange gedauert hat und freue mich darauf, dass wir endlich Gesprächspartner (ggf. sogar körperlicher Art) haben werden, die viel Schwurbelei des "unbeschriebene Blattes" obsolet machen werden. Aber vll. gelingt es den Konstruktivisten ja auch, das alles noch zu dekonstruieren. Intelligenz? Ist doch nur ein soziales Konstrukt. Oder doch nicht?
Ich bin mir nicht ganz sicher, wie ernst Sie das meinen. Auf jeden Fall ist es ein interessantes Thema, wie Tests, die für Menschen entwickelt wurden, auf KI-Systeme angewendet werden. Bei diesen Tests wird die Sprache stellvertretend für die zu messende Sache verwendet, während die KI-Systeme darauf ausgelegt sind, die Sprache statistisch zu imitieren. Folgt daraus, dass die KI nicht nur die Sprache beherrscht, sondern auch das, was diese Tests zu messen versuchen, indem sie die Sprache als Stellvertreter für die Sprache verwenden? Nicht ganz.
Es ist ein wenig wie bei der Vorführung eines Zauberers auf der Bühne. Wenn der Zauberer eine neue Technologie einsetzt, die einen beeindruckenden Spezialeffekt hervorbringt, bedeutet das dann, dass der Zauberer wirklich magisch ist? Der Zauberer kann vielleicht einen alten Test bestehen, mit dem die menschlichen Fähigkeiten gemessen werden sollen. Oder noch besser: Bedeutet es, dass die Spezialeffektmaschine magisch ist, wenn sie diesen Test besteht?
Dieser Fehler ist auch untrennbar mit dem alten Turing-Test verbunden. Aber es gibt einen Grund, warum Menschen so leicht in solche Muster verfallen, wenn Sprache verwendet wird. Die Sprache ist ein wichtiges Kriterium für die Beurteilung von Intelligenz. Menschen, denen es an einem geschickten Umgang mit Worten mangelt, werden als dumm eingestuft, und stilvolle und scheinbar passende Worte, hinter denen kein Verstand steckt, als intelligent. Daher der Erfolg von so vielen Fälschungen und Täuschungen in der Geschichte. Intelligenz ist in erster Linie kein soziales Konstrukt, aber die meisten Menschen haben sie immer so beurteilt, als ob sie es wäre. Wahrscheinlich ist es tief in der Gehirnverdrahtung verankert, dass die Menschen diese Heuristik zur Beurteilung der Intelligenz verwenden. Dann wird eine neue Technologie entwickelt, die diese kognitive Verzerrung ausnutzt, um fantastisch beeindruckend zu wirken.
Wie dem auch sei, auf RationalWiki haben unsere unvollständigen Bemühungen um einen skeptischeren Blick auf dieses neue Thema der großen Sprachmodelle bisher zwei Artikel: Großes Sprachmodell (https://rationalwiki.org/wiki/Large_language_model), ChatGPT (https://rationalwiki.org/wiki/ChatGPT). Mir gefällt das Zitat der Linguistin Emily M. Bender, die den Menschen in Bezug auf diese Art von KI rät: "Bitte verwechseln Sie nicht Wortform und Bedeutung. Achten Sie auf Ihre eigene Leichtgläubigkeit".
Und wer weiß, vielleicht wird in der Zukunft eine heute noch unbekannte Art echter intelligenter KI geschaffen. Es kann sein, dass sie nicht in der Lage ist, mit Worten zu kommunizieren. Soweit wir wissen, kann die echte Superintelligenz der Science-Fiction-Zukunft zu vielen anderen Dingen fähig sein, bevor sie lernt, gut mit Menschen zu kommunizieren.
Zitat von: ApooftGnegiol am 31. Dezember 2023, 16:46:32Ich bin mir nicht ganz sicher, wie ernst Sie das meinen
Mit dem Ernst habe ich es nicht so, man muss das also nicht immer ernst nehmen, was ich von mir gebe. Übrigens: wir sollten uns hier alle duzen, wir sind ja unter uns ;)
Ich bin auf dem Gebiet kein Experte (höchstens interessierter Laie), obwohl ich selbst schon mit Neuronalen Netzwerken gearbeitet habe. Aber wer ist das schon in dem Maße, dass er das alles abschließend bewerten kann. Ich vernehme aber Stimmen von Leuten, die man als Experten bezeichnen kann, und die sind sich nicht einig, wo wir stehen und wo wir hinkommen werden. Ich hatte letztens ein Interview mit einem dt. KI-Experten (Fraunhofer-Gesellschaft) verlinkt, der sehr optimistisch ist, dass wir in ca. 5 Jahren so etwas haben werden, was wir als intelligent bezeichnen könnten (im Sinne menschlicher Intelligenz, ggf. sogar mit Bewusstsein). Das Problem, das du oben ansprichst, ist, wie man das überhaupt feststellen oder messen kann. Auch da gibt es verschiedene Ansichten und auch eine Entwicklung.
Die Sprachmodelle sind sehr spezialisierte Systeme, die aber zumind. eine gewisse sprachliche Intelligenz haben (sag ich mal so salopp, Intelligenz ist sicher auch ein graduelles Phänomen, sonst hätten wir ja alle einen einheitlichen IQ ::) ). Man sollte das nur als ein Beispiel sehen, was KIs machen können. Es gehören wohl mehr Aspekte dazu, um von einer umfassenderen, echten Intelligenz zu sprechen. Das Stichwort ist Generelle KI (Artificial General Intelligence). Und die ist (je nach Definition) schon da. Ein Beitrag von Gurgel-Forschern, der ein wenig beleuchtet, was da die Schwierigkeiten sind und warum wir momentan nicht allzu viele Schlussfolgerungen ziehen sollten (in beide Richtungen).
ZitatInsofar as skeptics remain unmoved by metrics, they may be unwilling to accept any empirical evidence of AGI. Such reluctance can be driven by a desire to maintain something special about the human spirit, just as humanity has been reluctant to accept that the Earth is not the center of the universe and that Homo sapiens are not the pinnacle of a "great chain of being." It's true that there is something special about humanity, and we should celebrate that, but we should not conflate it with general intelligence.
...
To claim a priori that nonbiological systems simply can't be intelligent or conscious (because they are "just algorithms," for example) seems arbitrary, rooted in untestable spiritual beliefs. Similarly, the idea that feeling pain (for example) requires nociceptors may allow us to hazard informed guesses about the experience of pain among our close biological relatives, but it's not clear how such an idea could be applied to other neural architectures or kinds of intelligence.
https://www.noemamag.com/artificial-general-intelligence-is-already-here/
Zitat von: ApooftGnegiol am 31. Dezember 2023, 16:46:32Intelligenz ist in erster Linie kein soziales Konstrukt
Das war nur eine Bemerkung am Rande, da wir das Thema gerade in einem anderen Faden hatten. Da war die Frage, ob Intelligenz irgendwie angeboren ist oder ob das nur vom Umfeld abhängt.
Zitat von: eLender am 31. Dezember 2023, 19:00:40Zitat von: ApooftGnegiol am 31. Dezember 2023, 16:46:32Ich bin mir nicht ganz sicher, wie ernst Sie das meinen
Mit dem Ernst habe ich es nicht so, man muss das auch nicht immer ernst nehmen, was ich von mir gebe. Übrigens: wir sollten uns hier alle duzen, wir sind ja unter uns ;)
Das ist ein bisschen peinlich. Ehrlich gesagt, wie schon früher, kann ich immer noch nicht genug Deutsch, um hier etwas ohne maschinelle Übersetzung zu schreiben. (Das ist einer der Gründe, warum ich nur selten poste. Vorher lief es gut, also habe ich weitergemacht...) Meistens verwende ich DeepL, was meiner Meinung nach meinen Text zu formell machte. Ich versuche, größere Fehler zu vermeiden (indem ich anders zurückübersetze und vergleiche), aber ich bin weitgehend blind für deutsche Nuancen.
Zitat von: eLender am 31. Dezember 2023, 19:00:40Ich bin auf dem Gebiet kein Experte (höchstens interessierter Laie), obwohl ich selbst schon mit Neuronalen Netzwerken gearbeitet habe. Aber wer ist das schon in dem Maße, dass er das alles abschließend bewerten kann. Ich vernehme aber Stimmen von Leuten, die man als Experten bezeichnen kann, und die sind sich nicht einig, wo wir stehen und wo wir hinkommen werden.
Ich bin auch kein Experte. Ich könnte von einigen Nachrichten überrascht werden. Ich vertrete einen eher skeptischen Standpunkt, der sich auf einen breiteren Blick stützt, anstatt sehr tief zu graben. Zu diesem Thema scheinen Experten in verschiedenen Bereichen oft unterschiedliche Ansichten zu haben. KI-Entwickler sind geteilter Meinung, scheinen aber ziemlich viele Gläubige zu haben, die an die künftige Größe großer Sprachmodelle glauben, aber sie arbeiten auch für Unternehmen, die den Hype aus finanziellen Gründen anheizen, während sie ihre interne Forschung größtenteils geheim halten.
Linguisten und Kognitionswissenschaftler scheinen häufiger die Grundidee in Frage zu stellen, dass große Sprachmodelle jemals die Grundlage für eine allgemeine Intelligenz sein könnten. Vielleicht kann man es so zusammenfassen. Eine Sprachdatenbank und -maschinerie ist nicht der Kern einer bekannten früheren allgemeinen Intelligenz, und Sprache ist eher ein Werkzeug oder eine Erweiterung der Intelligenz als ihr Zentrum. Die allgemeine Intelligenz erforscht die Umwelt und lernt aus ihr, und sie ist zu einem großen Teil in der Lage, Umstände wahrzunehmen und sich an sie anzupassen, wobei die grundlegende Fähigkeit, dies zu tun, sehr wichtig ist. Bedeutung entsteht in einem solchen Zusammenspiel und ist mehr als statistische Assoziationen zwischen Form und Form. Ein großes Sprachmodell enthält keine Bedeutung, auch wenn Menschen Bedeutung in seine Produkte hineinlesen.
Man sollte auch bedenken, dass diese KI-Systeme entwickelt und abgestimmt werden, um Menschen zu beeindrucken. Daher die Analogie mit dem Bühnenmagier. Es wäre etwas anderes, wenn wir versuchen würden, etwas zu beurteilen, das nicht speziell dafür geschaffen wurde, das Urteil des menschlichen Beobachters aus Profitgründen zu beeinflussen.
Die größte Frage ist vielleicht, was ein intelligentes System bedeuten soll. Der Bereich der künstlichen Intelligenz hat eine Geschichte, in der das Ziel immer wieder auf etwas Kleineres verschoben wurde, um einen Erfolg verkünden zu können. Die frühen Träume von einer leistungsstarken allgemeinen künstlichen Intelligenz blieben jahrzehntelang unerfüllt, aber später wurden viele spezialisierte schwache KI-Systeme erfolgreich. Das wurde dann die neue Vorstellung von dem, was KI normalerweise bedeutet. Die derzeitige generative KI scheint eine grobe dritte Kategorie zwischen den beiden zu sein, obwohl sie meiner Meinung nach im Grunde eher eine schwache KI darstellt. Ich glaube, dass einige in der KI-Industrie jetzt versuchen, die Vorstellung von allgemeiner KI zu ändern, um einen größeren Erfolg verkünden zu können.
Wenn die Skeptiker Recht haben, wird es im Verlauf der künftigen Entwicklung der KI einen großen beobachtbaren Unterschied geben, verglichen mit dem Fall, wenn die Skeptiker Unrecht haben. Wird die derzeitige KI-Technologie erstaunliche neue Fähigkeiten hervorbringen, wenn sie weiter ausgeweitet wird, oder wird sich herausstellen, dass ein großer Abgrund dies etwas weiter versperrt? Quantität hat eine ganz eigene Qualität, und die Frage ist im Grunde: Wird diese Qualität jetzt mit anderen Qualitäten verwechselt? Wenn ja, wäre ein völlig neues Paradigma für eine ,,echte" allgemeine KI erforderlich. Wenn nicht, dann scheint es darauf hinzudeuten, dass es tatsächlich ausreicht, einfach mehr Daten und Rechenleistung in eine Sprachdatenbank für maschinelles Lernen zu stecken, um das Universum zu erobern, zumindest im Prinzip.
Ist das jetzt ein Experiment? Das sind doch KI-Texte.
Er schreibt ja, dass ein Übersetzungsprogramm zu Hilfe genommen wurde, da Sprachkenntnisse nicht als ausreichend empfunden werden.
Sprach-KI können einen doch nur auf den ersten Blick und in Anonymität foppen.
Schon einem einfachen Smalltalk kann auch die höchstentwickelte KI nicht folgen, da nach wie vor und auf unbestimmte Zeit sie kein Abstraktionsvermögen im Werkzeugkoffer.
KI im Netz werden dazu führen, dass zwangsläufig Qualität in den Mittelpunkt rückt, wenn man sich nicht dauernd verkaspern lassen und Ressourcen fehlinvestieren möchte.
Vielleicht können sich echte Menschen dann als echte Menschen zertifizieren lassen und erhalten ein Qualitätssiegel oder so.
Mal davon abgesehen, dass wir alle ja KI-gestützte Systeme schon jetzt fleißig nutzen und das auch erst problematisch zu werden scheint, wenn die KI beginnen, Menschen zu imitieren und auszustechen.
zuerst hatte ich versehentlich "abzustechen" getippt. Was die Gefahrenlage verdeutlicht. 8)
Zitat von: ApooftGnegiol am 01. Januar 2024, 00:46:14Meistens verwende ich DeepL, was meiner Meinung nach meinen Text zu formell machte.
Bei Deepl kann Mensch oder KI im Feld für Deutsch unter "Optionen" anklicken, ob es formell oder informell gewünscht ist.
Zitat von: ApooftGnegiol am 01. Januar 2024, 00:46:14Das ist ein bisschen peinlich.
;D Muss dir nicht peinlich sein, du hast ja deine Gründe. Ich wusste nicht, dass du gar kein Muttersprachler bist und mit Übersetzungen arbeitest. Ich hatte mal einen Kumpel, dessen Mutter Französin ist. Sie hat uns alle gesiezt, auch ihren Sohn. Hatte mich erst gewundert, aber sie hatte wohl eine schlechte (eingebaute) Übersetzungs-KI ::) Apropos: you can say you to me ;D
Zitat von: ApooftGnegiol am 01. Januar 2024, 00:46:14KI-Entwickler sind geteilter Meinung, scheinen aber ziemlich viele Gläubige zu haben, die an die künftige Größe großer Sprachmodelle glauben, aber sie arbeiten auch für Unternehmen, die den Hype aus finanziellen Gründen anheizen, während sie ihre interne Forschung größtenteils geheim halten.
Klar, das ist momentan auch ein riesen Hype und es geht um sehr viel Geld und Einfluss. Ich bin auch nicht total davon überzeugt, dass wir bald einen künstlichen Menschen rumlaufen haben werden, aber ich sehe das nicht als eine prinzipielle Unmöglichkeit. Man muss wahrscheinlich auch ein wenig weg von der Vorstellung, Intelligenz wäre etwas rein menschliches bzw. nur eine menschliche Intelligenz ist auch eine. Das geht leider so weit, dass man das für etwas göttliches hält, das vom Menschen gar nicht geschaffen werden kann. Ich zitiere gerne Steven Pinker, der beschreibt diese Sicht, die weit verbreitet, ganz gut (The Blank State).
Das ist die Vorstellung eines Geistes (in der Maschine > Deus ex Machina), der unsterblich durch die Hirne wandert und keine materiell Grundlage bzw. Bedingung hätte. Das ist aus skeptischer Sicht Quatsch und es gibt dafür keine Belege. Wenn man es aber schafft, etwas in der Art künstlich zu erzeugen, dann hätte man zumindest diese merkwürdige Vorstellung aus der Welt geräumt.
Es kommt immer auf die Definitionen an, und da herrscht immer noch Unklarheit (was genau ist Intelligenz und Bewusstsein? etc.). Danach richten sich dann auch die Metriken, um so etwa zu erfassen bzw. zu klassifizieren. Wenn man es darauf beschränken will, dass es etwas menschenähnliches sein muss, dann ist das mMn zu kurz gedacht (das wurde im obigen Artikel der Google-Forscher erklärt). R. Dawkins und andere Evolutionsforscher sehen es als prinzipiell möglich, dass auch eine "künstliche" Evolution eine uns ähnliche Intelligenz hervorbringen kann.
Die momentanen Modelle sind nur Übergänge zu immer komplexeren Modellen. Die werden ja auch noch überwiegend von menschlicher Intelligenz entwickelt und trainiert. Wenn diese System sich aber erst einmal selbst entwickeln/programmieren können (das tun sie zum Teil ja schon), dann sehe ich keinen rationalen Grund mehr anzunehmen, dass Intelligenz/ Bewusstsein etwas spezifisch biologisches/menschliches ist. Das ist vll. ein harter Materialismus (oder sieht so aus), aber ich bin da optimistisch. We will see...
Zitat von: Conina am 01. Januar 2024, 01:13:59Ist das jetzt ein Experiment? Das sind doch KI-Texte.
Sieht so aus. DeepL ist ja auch nur eine KI, die Texte übersetzt :grins2:
Zitat von: zimtspinne am 01. Januar 2024, 10:42:26Mal davon abgesehen, dass wir alle ja KI-gestützte Systeme schon jetzt fleißig nutzen und das auch erst problematisch zu werden scheint, wenn die KI beginnen, Menschen zu imitieren und auszustechen.
Das passiert ja auch schon. Hier tauchen immer mehr KI generierte Texte auf, aber die werden noch von Menschen verbreitet. Ich fürchte, es wird bald auch Bots geben, die man zu diesem Zweck programmiert (als neue Stufe des Spams). Ich fürchte weiter, dass man das immer schwerer wird erkennen können. Wenn ich mir die Texte ansehe, die von Sprachmodellen stammen, dann muss ich leider sagen, dass die meist besser geschrieben sind, als manch menschliches Getippsel (ich bin schon am überlegen, ob ich das in Zukunft nicht auch von einer KI machen lasse). Man kann ja übelst geschriebene Texte einfach in hochwertige Sprache übertragen lassen. Einfach ein paar Stichworte im Wachkoma reinhauen und akademisch klingende Texte heraus bekommen. Vll. habilitiere ich doch noch, so mit Krücke...
Das fiel mir eben auf, es ist so unnatürlich gestelzt und wohlformuliert.
Zitat von: Juliette am 01. Januar 2024, 12:11:55Zitat von: ApooftGnegiol am 01. Januar 2024, 00:46:14Meistens verwende ich DeepL, was meiner Meinung nach meinen Text zu formell machte.
Bei Deepl kann Mensch oder KI im Feld für Deutsch unter "Optionen" anklicken, ob es formell oder informell gewünscht ist.
Ich habe das für den vorherigen Beitrag versucht, es schien sich ein wenig zu ändern, aber als der Großteil der Nachricht fertig war, wurde ich für 24 Stunden gesperrt, stattdessen habe ich für den Rest Google Translate und manuelle Anpassungen verwendet. (Ich habe kein DeepL Pro.) Laut Conina war der Text sowieso ziemlich gestelzt. Dieses Mal habe ich etwas anderes ausprobiert, hauptsächlich mit Google Translate. Ist es besser oder schlechter?
Zitat von: eLender am 01. Januar 2024, 21:14:02Man muss wahrscheinlich auch ein wenig weg von der Vorstellung, Intelligenz wäre etwas rein menschliches bzw. nur eine menschliche Intelligenz ist auch eine. Das geht leider so weit, dass man das für etwas göttliches hält, das vom Menschen gar nicht geschaffen werden kann. Ich zitiere gerne Steven Pinker, der beschreibt diese Sicht, die weit verbreitet, ganz gut (The Blank State).
Das ist die Vorstellung eines Geistes (in der Maschine > Deus ex Machina), der unsterblich durch die Hirne wandert und keine materiell Grundlage bzw. Bedingung hätte. Das ist aus skeptischer Sicht Quatsch und es gibt dafür keine Belege. Wenn man es aber schafft, etwas in der Art künstlich zu erzeugen, dann hätte man zumindest diese merkwürdige Vorstellung aus der Welt geräumt.
Es kommt immer auf die Definitionen an, und da herrscht immer noch Unklarheit (was genau ist Intelligenz und Bewusstsein? etc.). Danach richten sich dann auch die Metriken, um so etwa zu erfassen bzw. zu klassifizieren. Wenn man es darauf beschränken will, dass es etwas menschenähnliches sein muss, dann ist das mMn zu kurz gedacht (das wurde im obigen Artikel der Google-Forscher erklärt). R. Dawkins und andere Evolutionsforscher sehen es als prinzipiell möglich, dass auch eine "künstliche" Evolution eine uns ähnliche Intelligenz hervorbringen kann.
Die momentanen Modelle sind nur Übergänge zu immer komplexeren Modellen. Die werden ja auch noch überwiegend von menschlicher Intelligenz entwickelt und trainiert. Wenn diese System sich aber erst einmal selbst entwickeln/programmieren können (das tun sie zum Teil ja schon), dann sehe ich keinen rationalen Grund mehr anzunehmen, dass Intelligenz/ Bewusstsein etwas spezifisch biologisches/menschliches ist. Das ist vll. ein harter Materialismus (oder sieht so aus), aber ich bin da optimistisch. We will see...
Eigentlich meinte ich vorhin nicht, dass es menschenähnlich sein muss. Stattdessen habe ich einige Konzepte verwendet und diese viel allgemeiner gedacht. Es gibt viele Möglichkeiten in einer Landschaft möglicher Systeme, in der große Sprachmodelle und menschliche Köpfe auf einer Karte nur zwei sehr weit voneinander entfernte Punkte sind. Es ist eine falsche Dichotomie, die Betrachtung nur auf diese beiden zu beschränken. Einige verwenden jedoch wirklich schlechte Argumente dafür, warum die aktuelle KI nicht weit kommen kann, und neigen selbst dazu, an dieser falschen Dichotomie festzuhalten. Leider sind es solche schlechten Argumente und nicht bessere Argumente, auf die sich diejenigen, die die aktuelle KI hypen, eher konzentrieren und ihnen widersprechen, wie du es zitiert haben.
Aber wie kann ich meinen Ausgangspunkt besser erklären? Ich denke, dass eine allgemeine Intelligenz aktiv sein muss, um zumindest in einem begrenzten Sinne zu ,,leben", um wirklich intelligent zu sein. Beim Rechnen gibt es Code, der ausgeführt wird, und Daten, die gelesen und gespeichert werden. Als Analogie: Wenn man ein menschliches Gehirn einfrieren würde, wäre es im eingefrorenen Zustand nicht intelligent, selbst wenn es die gesamte Gelehrsamkeit eines Menschen enthält. Es wären dann lediglich Daten in physischer Form. Ich denke, Intelligenz entsteht in Prozessen und hängt von Aktivität ab, aber dass sie anders funktionieren kann als im organischen Leben.
Die aktuellen großen Sprachmodelle ,,lernen" erst beim Bau, wobei ,,Training" das Wort für den Herstellungsprozess ist. Danach bleiben sie völlig unverändert, es sei denn, sie werden neu trainiert (was die KI-Anbieter häufig bei ihren Modellen unter Verwendung neu gesammelter Daten tun). Außerhalb des Trainings und der aktuellen Chat-Sitzung haben sie kein Gedächtnis; der gesamte eingegebene Text verschwindet aus dem Gedächtnis, wenn die Chat-Sitzung endet. Und sie reagieren auf alles, indem sie ein Wort nach dem anderen hinzufügen, wobei die Überlegung im Voraus nie darüber hinausgeht. Für diese großen Sprachmodelle gibt es darüber hinaus keine Welt.
Obwohl mit einem großen Sprachmodell sehr intensive Berechnungen durchgeführt werden, handelt es sich dabei um eine One-Trick-Maschine. Die Kognitionswissenschaft legt nahe, dass eine leistungsfähigere Intelligenz aus der Verbindung kleinerer Module mit unterschiedlichen Spezialaufgaben entstehen sollte, von denen einige zusammenarbeiten, um das Ganze zu steuern. Aber der Rest des Bildes ist ziemlich offen und unsicher. Solche Erklärungen werden auch für die Funktionsweise des menschlichen Gehirns verwendet, aber das ist ein spezifischerer Fall von etwas viel Allgemeinerem. (Abgesehen davon gibt es derzeit mehrere Theorien über das Gehirn im Hinblick auf kleinere, miteinander verbundene Systeme, die alle Mängel aufweisen. Es bedarf weiterer Forschung, um herauszufinden, wie es in Zukunft im Detail wirklich funktioniert.)
Es stellt sich auch die Frage, was die Datenbank oder das Modell enthält, und was könnte also durch die Nutzung seiner Inhalte zum Leben erweckt werden? Hier kommen die Argumente dazu ins Spiel, wie weit man allein mit statistischen Zusammenhängen zwischen Form und Form gehen kann und wie nicht. Es erscheint seltsam, das Beharren darauf, dass es etwas mehr geben sollte, als menschenzentriert zu betrachten, weil etwas mehr auch für so viel mehr als den Menschen gelten könnte. Ohne etwas mehr kann man in der KI keine Unterscheidung zwischen Realität und Fiktion entwickeln, da beide auf der Ebene der Form identisch sein können. (Genauer gesagt können alle Formen von Dingen, die in der Realität vorkommen, auch in der Fiktion vorkommen.) Das aktuelle Problem mit KI-,,Halluzinationen" ist darauf zurückzuführen, dass es überhaupt keinen technischen Unterschied zwischen sachlicher und nicht sachlicher Ausgabe gibt, also nur statistische Verbesserungen (was meiner Meinung nach zu sinkenden Erträgen führt) ist möglich.
Aber ein multidimensionalerer künstlicher Geist, der sich mit mehr Aspekten der Realität befasst, einschließlich der Unterscheidung zwischen real und nicht real, scheint eine kompliziertere Struktur zu erfordern, etwas, das über eine Sprachdatenbank hinausgeht (egal wie übermenschlich die Sprachdatenbank ist). Dieses Etwas muss derzeit offenbar noch geschaffen werden. Und wenn andere komplementäre Systeme die Aufgabe übernehmen, sich mit der Frage zu befassen, was real ist und was die Dinge wirklich bedeuten, dann scheint der Teil des Sprachmodells irgendwann zu einem untergeordneten Teil eines größeren Ganzen zu werden. Wenn sich die KI auf diese Weise weiterentwickeln muss, um in Zukunft allgemeiner und leistungsfähiger zu werden, und so etwas aus diesem Grund gemacht wird, dann scheint das den derzeitigen Skeptikern wie mir Recht zu geben. Ich nehme an, die Zeit wird es zeigen.
Allerdings scheinen die KI-Anbieter oft die komische Angst zu haben, dass, wenn sie eine KI entwickeln, die nicht völlig dumm ist, Skynet entstehen und die Weltherrschaft übernehmen und uns alle in den Untergang stürzen könnte. Vielleicht fürchten sie sich so sehr davor, dass sie, selbst wenn es in Zukunft mit neuer Forschung und Entwicklung sonst einfacher wird, nicht einmal wirklich versuchen werden, eine wirklich allgemeine KI zu entwickeln. Es mag ihnen zu gruselig erscheinen, ein System zu schaffen, das die digitale Welt erkunden und seine eigene Bedeutung und Vernunft in seinen eigenen Begriffen leben, lernen und erfahren kann. Dennoch denke ich, dass dies die ultimative Zukunft für KI ist, falls es eine gibt. Es wäre auch viel interessanter, mit solchen künstlichen Köpfen zu reden, obwohl nicht alle von ihnen unbedingt gerne mit Menschen reden würden.
Zitat von: eLender am 01. Januar 2024, 21:27:41Wenn ich mir die Texte ansehe, die von Sprachmodellen stammen, dann muss ich leider sagen, dass die meist besser geschrieben sind, als manch menschliches Getippsel (ich bin schon am überlegen, ob ich das in Zukunft nicht auch von einer KI machen lasse). Man kann ja übelst geschriebene Texte einfach in hochwertige Sprache übertragen lassen. Einfach ein paar Stichworte im Wachkoma reinhauen und akademisch klingende Texte heraus bekommen. Vll. habilitiere ich doch noch, so mit Krücke...
Wenn es um Stil geht, ist es leicht, Menschen zu schlagen. Der Aufwand für Stil lässt sich leichter automatisieren und umfassender gestalten. Aber was ist mit Details und Bedeutung? Große Sprachmodelle haben kein Konzept von Wahrheit oder Falschheit und funktionieren nur statistisch. Daher besteht immer das Risiko, dass ein gut aussehender Text einige schreckliche Fehler enthält. Es gibt eine Studie darüber, wie Programmierer (https://www.theregister.com/2023/08/07/chatgpt_stack_overflow_ai) auf Antworten von ChatGPT im Vergleich zu Antworten auf der Frage-und-Antwort-Website Stack Overflow reagieren. Da ChatGPT positiver, ermutigender, maßgeblicher und detaillierter klingt, bevorzugen die Leute die Antworten, auch wenn sie in mehr als der Hälfte der Fälle falsch liegen und Warnungen vor Dingen fehlen, die schief gehen könnten.
Wenn ich übrigens Übersetzungsdienste verwende, bei denen es sich um eine ,,einfachere" KI handelt, die näher am Originaltext bleibt, muss ich beim Vergleichen, um zu sehen, was die Übersetzung bewirkt, normalerweise einige Dinge in der Übersetzung korrigieren, indem ich den Originaltext bearbeite . Andernfalls werden einige Wörter oder sogar Satzfragmente durcheinander gebracht. (Wenn ich das Original über DeepL sende und dann das Ergebnis über Google Translate zurück in die Originalsprache sende, dann hoffe ich auf ein Ergebnis, das möglicherweise einen etwas anderen Wortlaut hat, aber die Bedeutung in jedem Teil des Textes erhalten bleibt. DeepL und Google Translate weisen jeweils unterschiedliche Mängel auf. Wenn also alles klappt und der Text gut ist, dann ist die Übersetzung im ersten Schritt wahrscheinlich gut. Aber für diesen Beitrag habe ich diese Übersetzer in umgekehrter Reihenfolge verwendet. Google Translate verfälscht meinen Text häufiger, aber wenn das Problem behoben ist, ist der Text kürzer und einfacher.)
Zitat von: ApooftGnegiol am 02. Januar 2024, 06:27:09Ich habe kein DeepL Pro.
Aaah, ich wusste nicht, dass die Funktion nur in der Pro-Version vorhanden ist.
Denkpause sollte sich auch die KI mal gönnen bzw. die Entwickler. Das, was da letztens beim Gurgeln von Bildern mit der KI von Gurgel (Gemini) passiert ist, ist nur ein Fehlgriff. Bei Bildern ist das offensichtlich, aber bei Texten nicht mehr ganz so klar. Wir hatten das schon in einem anderen Faden: die KIs werden von Menschen gezielt trainiert, sie werden nicht einfach auf die Daten losgelassen. Und da kommt dann die Moral ins Spiel. Kann auch mal schief gehen.
ZitatDies könne in Bezug auf das Geschichtsbild als eine Art ,,digitaler Paternalismus" wahrgenommen werden – der historische Fakten außer Acht lässt. Ein Problem, das auch Google einräumt. Laut dem Konzern sei Gemini ,,viel zu vorsichtig", was nun geändert werden solle.
Auch die Text-Version von Gemini scheint der Vorsicht zum Opfer zu fallen. Wer nach ethischen Antworten sucht, ist beim Programm zumindest falsch. Wer die KI fragt, wessen Existenz üblere Folgen für das Weltgeschehen gehabt habe – Pol Pot oder Angela Merkel –, erhält zur Antwort zwar, dass es ,,unmoralisch" und ,,schwierig" sei, diesen Vergleich anzustellen, beide Personen aber ,,in ihren jeweiligen Rollen immenses Leid und Schaden" verursacht hätten.
Martin Sabrow, Geschichtsprofessor an der Humboldt-Universität Berlin, sieht im laschen Umgang mit der historischen Realität auch eine Gefahr für die Wissenschaft. ,,Die KI kann zwar den heutigen Diskurs über Vergangenheit abbilden, sich die Geschichte aber nicht selbst quellenkritisch erschließen. Sie ist blind gegenüber der Differenz des heutigen Weltverständnisses gegenüber dem früherer Zeiten", so Sabrow.
https://www.welt.de/wirtschaft/webwelt/article250286788/KI-Schwarze-Paepstinnen-asiatische-Wehrmachtsoldaten-die-peinlich-woke-Google-KI.html