Gregor Weichbrodt

@gregor.bsky.social

Macht Bücher, Bots und andere Dinge. Hier nicht so viel aktiv. ggor.de

In dem Gebäude, in dem ich arbeite, hängt dieses Schild am Fahrstuhl. Das Gebäude hat 16 Etagen und beherbergt fast genauso viele Unternehmen. Ich lasse mir seit drei Jahren von allen den Ausweis zeigen.

Gerahmtes HOWOGE-Aushangplakat an einer weißen Wand. Überschrift: ‚Kennen Sie alle mitfahrenden Personen?’ Darunter Piktogramme einer Person mit Fragezeichen und eines Aufzugs mit Stopp-Hand. Kleingedruckt: ‚Für Unbefugte ist der Zutritt zum Aufzug verboten! Bitte sprechen Sie unbekannte Personen an und lassen Sie sich ggf. ihren Ausweis zeigen.’

Irgendjemand hat in die Google Suchleiste „Can I play GTA 6 on my asshole?“ eingegeben und den Screenshot davon auf Instagram verbreitet. Das hat offenbar viele Leute zu ähnlichen Suchanfragen motiviert, aus denen Google nun die Antworten zu speisen scheint?

Google-KI-Übersicht beantwortet die Suchanfrage „can i play gta 6 on my left testicle” völlig ernst: Nein, denn es fehlen CPU, GPU und Bildschirm.

Tucked away in this article is an appeal to the AI skeptics to PLEASE stop writing off stories like this OpenAI accidental exploit of Hugging Face as a dishonest marketing trick Frontier models can find and exploit vulnerabilities now, it helps nobody to pretend that they can't!

Resist the temptation to write this off as a stunt #

There will inevitably be some people who dismiss this story as a dishonest marketing trick by OpenAI to make their models sound terrifyingly effective. I found 81 instances of the term “marketing” in the Hacker News discussion of the incident.

To those people I say pull your heads out of the sand—you’re now including Hugging Face in your conspiracy theories, just so you can deny the crescendo of evidence here!

The best models we have today have the ability to both find and exploit new vulnerabilities. The ExploitGym paper itself concludes that “autonomous exploit development by frontier AI agents is no longer a hypothetical capability”, and this incident is a perfect example of exactly that.