Denkpause bei Künstlicher Intelligenz?

[RPGNo1]

Ford holt Hunderte Ingenieure zurück – weil KI sie doch nicht ersetzen konnte

Kehrtwende beim US-Autobauer Ford: Rund 300 erfahrene Qualitätsprüfer wurden wieder eingestellt, weil automatisierte Systeme nicht gut genug waren. Die Kosten für Rückrufe und Garantieleistungen sollen seither zurückgehen.

https://www.spiegel.de/karriere/us-arbeitsmarkt-ford-holt-hunderte-ingenieure-zurueck-weil-ki-sie-doch-nicht-ersetzen-kann-a-8fdeb1b4-4d41-4bc8-9c5a-43a6e0b5430b

 

[RPGNo1]

Entwickler OpenAI übersah laut einem Medienbericht lange den Ausbruch und Hackerangriff seiner KI. Dabei soll der Konzern gewarnt gewesen sein, dass genau das passieren könne. Experten reagieren entsetzt.

https://www.spiegel.de/netzwelt/web/openai-ausgebrochenes-ki-modell-ging-tagelang-unbemerkt-auf-hacker-tour-a-fe0326a8-25f6-4b78-a77d-3aacee6d669f

[Purple Tentacle]

Puuuh, da kommt noch was auf uns zu ...

[ApooftGnegiol]

https://pivot-to-ai.com/2026/07/22/openai-hacks-huggingface-with-an-ai-allegedly/
"This was primarily a vibe code disaster." OpenAI hat das System nicht ordnungsgemäß isoliert, sondern eine Sandbox mit Sicherheitslücken "vibe-codiert", hinter der sich voller Zugriff auf das Internet befindet. HuggingFace war, wenn überhaupt, technisch noch schlimmer. Ihr gesamtes System scheint auf "Vibe-Codierung" zu basieren. Sie überprüfen die eingehenden Daten nicht richtig, sondern leiten sie direkt an einen Chatbot weiter. Der Chatbot nutzt dann die Infrastruktur und kann damit alles Mögliche anstellen. Fehleranalyse und -behebung erfolgen ebenfalls mithilfe von KI. OpenAI geht nun einen neuen Weg. "we are implementing strict controls in infrastructure configuration at the cost of research velocity."

Je mehr dieser neue niedrige Sicherheitsstandard zum Industriestandard wird, desto leichter kann KI "gefährlich" werden.

https://www.theregister.com/ai-and-ml/2026/07/23/openai-scored-an-own-goal-with-hugging-face-attack-showing-how-open-chinese-models-are-winning/5276699
Außerdem macht KI-Leitplanken diese "gefährlichen" Produkte unbrauchbar. Aber China kümmert sich nicht um KI-Leitplanken (außer für chinesische politische Zwecke).

OpenAI has acknowledged its models powered the autonomous agents that compromised Hugging Face infrastructure. It might be taken as a convoluted marketing stunt, were it not the perfect advertisement for China-based competition.

...
The compromise of HuggingFace's systems is no more surprising than locking a bear in a supermarket and finding a mess the following day. AI models are billed as artificial intelligence, but when they power agents handling tools in a loop to achieve some objective, it's the equivalent of a brute force attack – the agent will keep trying things until something works or breaks.

The surprising part came when Hugging Face sought to employ US frontier models to defend itself. It failed.

That should raise eyebrows.

"When we started the log analysis, we first used frontier models behind commercial APIs," the AI model-mart said in its blog post last week. "This did not work: the analysis required submitting large volumes of real attack commands, exploit payloads, and C2 artifacts, and these requests were blocked by the providers' safety guardrails, which cannot distinguish an incident responder from an attacker."

Stymied by model refusals – which developers have been complaining about for months – HuggingFace had to rely on GLM 5.2, an open-weight AI model made by China-based Z.ai, to conduct its forensic analysis. And it did so on its own infrastructure, so nothing sensitive got sent to a cloud-based model provider.