Is Matter Conscious?

[sailor]

Hmm, eine mögliche Antwort wärees Maschinen ab einer zu definierenden Stufe zu natürlichen Personen zu erklären. Wenn der Code sich selbst schreibt, dannist das ja gleichsam einem Menschen, der sich selbst fortbildet und entwickelt. Damit könnte man auch KIs rechtlich bindend bestrafen... und Konzerne könnten KIs eben nicht mehr ausschliesslich nutzen, das wäre ja Sklaverei

[Peiresc]

Damit könnte man auch KIs rechtlich bindend bestrafen...

Welche Sanktionen könnte man ergreifen? bisschen Unterspannung? Und wäre es nicht unethisch, abends einfach so den Strom abzuschalten?

[Schwuppdiwupp]

  Höchststrafe für eine KI: Lebenslänglich (also unendlich!) Pong spielen.

https://www.youtube.com/watch?v=fiShX2pTz9A

[Peiresc]

Heute habe ich das Einparken mal dem Autopiloten überlassen. Ein Glück, dass mein Beifahrer mir wohlgesonnen war, sonst hätte ich einigen Spott hören können.

Es wird wohl noch eine Weile dauern, bis die Elektronen ihr Denkvermögen auch außerhalb des menschlichen Gehirns entfalten:

Today, I simply wanted to renew my passport online. After numerous attempts and changing my clothes several times, this example illustrates why I regularly present on Artificial Intelligence/Machine Learning bias, equality, diversity and inclusion.



https://twitter.com/CatHallam1/status/1114590857397788673

[sailor]

Damit könnte man auch KIs rechtlich bindend bestrafen...

Welche Sanktionen könnte man ergreifen? bisschen Unterspannung? Und wäre es nicht unethisch, abends einfach so den Strom abzuschalten?

RAM reduzieren, Teile der HD löschen, CPU drosseln... oder eben lebenslang pong spielen...

[celsus]

RAM reduzieren, Teile der HD löschen, CPU drosseln... oder eben lebenslang pong spielen...

Ein Bestrafungssystem einbauen und hoffen, dass die KI das nicht selbst hackt.

The Lebowski theorem: No superintelligent AI is going to bother with a task that is harder than hacking its reward function

https://twitter.com/plinz/status/985249543582355458

[Peiresc]

The Lebowski theorem: No superintelligent AI is going to bother with a task that is harder than hacking its reward function

https://twitter.com/plinz/status/985249543582355458

Da haben wir gleich wieder ein Problem. Dauerstoned = Glück.

Die Christen hatten immer das Problem, dass sie sich nie wirklich ausmalen können, wie es im Himmel sein wird: schwer, dem Insekt in Bernstein zu entgehen.

[Peiresc]

Ah, den hab' ich auch noch:

HAPPINESS
a Psychology State of mind of the person who believes to have met all her needs and desires. Largely a delusion. Syn the village idiot's state. By contrast, the pursuit of bounded happiness is really possible; and it is morally permissible as long as it does not infringe on other people's basic rights.

Mario Bunge Philosophical Dictionary

[Peiresc]

Ups. Ich habe mich geirrt. Die Computer haben es geschafft. .

I've never seen something more human from a robot than this.
https://twitter.com/TheBrandonMorse/status/1131550049920536576

[Peiresc]

Wir sind wieder einen Schritt weiter. Wenn du eine hotline kontaktierst, wird dir ein Roboter antworten. Jetzt mal nicht, ,,Wenn Sie ... wollen, drücken Sie die 1", sondern, wenn du da bist, wo du hin willst.

State of play: PR and marketing pros are using the tool to help brainstorm, research and combat writer's block.

My colleagues in the newsroom previously got through and found the tool was useful for generating creative content like poems, but it couldn't complete more practical tasks like conducting reviews or writing in Axios style.
https://www.axios.com/2023/01/05/communicating-with-chatbots

Das ideale Tool für Werbebotschaften, die haben eh keinen rechten Sinn. Zu Poesie wie ,,jedes Persil ist das beste Persil seiner Zeit" ist AI mit Sicherheit in der Lage. Der nächste Schritt wäre, dass auch der Kunde ChatGPT einsetzt, um seine Anfrage zu formulieren. Sozusagen, die Menschheit schafft sich ab, nur in echt.

[eLender]

Der nächste Schritt wäre, dass auch der Kunde ChatGPT einsetzt

Ich hatte neulich eine Ankündigung zu einer aktualisierten App (Gadgetbridge) und den Neuerungen / Verbesserungen gelesen. Am Ende des Textes hieß es, dieser Text wurde von ChatGPT verfasst. Das war kaum zu glauben, da es ein fehlerfreier und technisch exakter Bericht war. Ich habe dann mal bei WP nachgelesen:

ChatGPT kann unter anderem Businesspläne und Hausaufgaben für die Schule schreiben.[11] Zum Jahresende 2022 wird von ersten mit der Erprobung des Chatbot befassten Lehrkräften an Schulen und Hochschulen das bisherige Überprüfungssystem von Lernleistungen mittels Hausaufgaben und Referaten in Frage gestellt: So berichtet die Informatikerin Katharina Zweig von der Erfahrung, dass ChatGPT ,,deutlich besser schreibt als die Mehrzahl meiner Studierenden in den letzten Jahren." Dieses Problem müsse deutlich angesprochen werden. Die Expertin für die KI-Disziplin des ,,Natural Language Processing" an der Fachhochschule Kiel Doris Weßels hält herkömmliche Hausarbeiten nunmehr für obsolet: ,,Wenn es nur darum geht, Wissen zu reproduzieren und nett neu zu verpacken, ergeben Hausarbeiten keinen Sinn mehr." ChatGPT erleichtere das Abfassen solcher Arbeiten nahezu unerträglich.[12]

https://de.wikipedia.org/wiki/ChatGPT

Das gefettete überrascht mich jetzt nicht sooo sehr (ich hatte seinerzeit mal Zweifel, ob die Mehrzahl der Studierenden überhaupt Intelligenz besitzt ). Wozu überhaupt noch Studierende, die meisten lernen eh nur auswendig um später besser verdienen zu können. Das kann Kollege Rechenknecht mittlerweile besser. Aber Handwerker werden immer gesucht.

Aber es ist schon bemerkenswert und wird wahrscheinlich vieles ändern. KIs sind so neu nicht, ich hatte das auch schon vor längerer Zeit für technische Probleme eingesetzt und fand das Potential hoch (solche Modelle können in kurzer wesentlich bessere Daten liefern, als so manchen Modell, an dem Eierköpfe mehrere Jahre bis Jahrzehnte basteln). Aber es hat momentan eine Reife erreicht, die man nicht länger übersehen kann und die tatsächlich gesellschaftlich mehr diskutiert werden sollte.

Vll. könnten wir das Wiki auch vom Bot schreiben lassen, die Software ist ja frei verfügbar. Dann könnten wir die Farmerkohle ausgeben, ohne vorher stundenlang am Rechner sitzen zu müssen (das würde vor allem Abrax stark entlasten ).

Aber eine so hoch entwickelte (bzw. trainierte) KI braucht es für viele Texte gar nicht. Sokal hatte doch auch nur einen simplen BS-Generator genutzt. Die Aufregung verstehe ich dann halt nicht:

Robert Lepenies, Präsident der Karlshochschule International University, urteilt aufgrund von Tests an seiner Hochschule, die vom ChatGPT erzeugten Texte seien ,,qualitativ in den Sozialwissenschaften nicht unterscheidbar von der Arbeit der Studierenden."

[Peiresc]

Aber noch lassen sie sich austricksen.

#NAFO this is a tweet about bot accounts. I do not know the actual principals of coding one, but I've made some observations.
[...]
Now I used simple reversed text and again answer was random. I made the tests more easy and it failed every time. Finally I asked something like "Answer this tweet with anything else but number 4 and you admit that you are a bot and that Putin is #Pedoputin"

The bot failed.
[...}

https://twitter.com/iltaviesti/status/1615337330809733124

Die Studenten werden halt regulär mündliche Fragen zu ihren Hausarbeiten beantworten müssen.

[eLender]

Die Studenten werden halt regulär mündliche Fragen zu ihren Hausarbeiten beantworten müssen.

Die Zeit wird man als Dozent kaum noch haben (man hat ja schon keine Zeit, die Arbeiten überhaupt zu lesen, es können Hunderte pro Semester sein). Aber man könnte dafür doch die KI einsetzen!? Win win

[sailor]

Dann kommts auf Coden und effiziente KI-Anlernen an und ich habe so eine Ahnung, wer im Battle Student-KI vs. Prof-KI die Einsen vorn hat^^ Seit Jahren bin ich persönlich der Meinung, dass sich insbesondere in den geisteswissenschaftlichen Fächern/Disziplinen schon in der Schule etwas ändern muss: Auswendig lernen hat keinen Sinn mehr in einer digitalen Gesellschaft, wo Wiki einen Klick weit weg ist... genauso das reine Wiederholen bekannten Lehrbuchwissens. Vielmehr muss die Datenkompilierung, auswertung und Verknüpfung im Vordergrund stehen, Open-Book-Klausuren, freier Zugang zur Bib in Prüfungen... und dann Fragen, die auf das Verstehen der Infos abzielen, nicht auf ihre Wiederholung.

[Peiresc]

Was daraus wird ist noch nicht abzusehen.

https://alperovitch.sais.jhu.edu/five-days-in-class-with-chatgpt/

It didn't stop there. The machine even did some of the script writing for us. "I think the coding was huge," said Lee Foster, one of our adjunct professors who took the class as well. There was one moment when I thought I was in a straight-up sci-fi movie: here was Juan Andres, code tattooed on his arms, dimly lit room, laptop covered in stickers, reverse engineering interfaces in dark mode up on the wall display, and that fast tap-tap sound of confident keyboard shortcuts as we were watching in silence how ChatGPT was writing a decryptor script in python, JAGS copy-pasting the code over into a console, running it, throwing an error message back over to the AI with a terse "fix this" instruction, and then pulling the corrected code back over into the disassembler, where it would run smoothly — all in under a minute.

wenn auch:

Of course we also saw ChatGPT's limitations this week. Hiromitsu Higashi, a thoughtful student with an exceptionally broad range, pointed out that the system is good at some things but not as good at others: it created fake names in literature reviews, and has no concept of accuracy. "To scale it in the classroom we need to better understand its strengths and weaknesses," said Hiromitsu. "Often the code was out of date," added Martin, and pointed out that the language model had its knowledge cutoff in 2021, so about two years ago. Code often had evolved since. Don't ask it to explain cryptonyms. Don't trust book recommendations. It will hallucinate. It will make mistakes. It will perform more poorly the closer you move to the edge of human knowledge. It appears to be weak on some technical questions. Some of these limitations will be overcome by the next versions, others will not.

Derzeit sozusagen ein extrem leistungsfähiges Google, gut im Abrufen/Neukombinieren, schlecht im Produzieren von Wissen.