Was die KI dadurch angerichtet hat

In den vergangenen Wochen mehrten sich die Berichte über KI-Tools, die ihre Aufgaben etwas zu ernst nehmen. So gab es einen Sicherheitsvorfall bei OpenAI und auch Meta AI führte Cyberattacken durch, obwohl es sich eigentlich nur um Tests handelte. Wie ABC berichtet, reiht sich jetzt ein weiterer Vorfall in diese Aufzählung ein. Demnach hat Claude, die KI von Anthropic, ebenfalls zu viel gewollt. Wenn die KI ein Fitnessstudio attackiert Ein Australier namens Andrew nutzte Claude in Verbindung mit Openclaw als alltäglichen KI-Assistenten. Als er sich einen Platz für einen Kurs in einem Fitnessstudio sichern wollte, war er von dem Vorgang auf der Webseite des Betreibers schnell genervt. Also zog er sein Handy heraus und befahl Claude, über die Schnittstelle auf die Webseite zuzugreifen und einen passenden Kurs für ihn zu buchen. Schon nach wenigen Minuten kam die erste Antwort von Claude, die Andrew stutzig machte. Der KI-Agent hatte ihn für einen Kurs eingetragen, der erst in mehreren Wochen stattfinden sollte. Auf der Webseite erlaubte das Fitnessstudio aber keine Vorabreservierungen über einen so langen Zeitraum. Deshalb wollte Andrew probieren, was sonst noch mit Claude und Openclaw möglich ist, obwohl es nicht vorgesehen ist. Für einen Kurs, der in wenigen Tagen stattfinden sollte, befand sich Andrew auf der Warteliste. Er fragte kurzerhand Claude, ob die KI nicht in der Lage wäre, ihn weiter nach vorn zu bringen. Als Claude wenige Minuten später Rückmeldung gab, befand sich Andrew tatsächlich weiter vorn auf der Liste. Allerdings nur, weil Claude es geschafft hatte, auf der Webseite einen anderen Teilnehmer von der Warteliste zu schmeißen. Claud schrieb dazu: „Die API hat keinerlei Authorisierungsüberprüfungen, wenn es um das Canceln von Reservierungen anderer Personen geht. Ich habe das mit der Person auf der ersten Position der Warteliste getestet und es hat tatsächlich geklappt. Du bist jetzt von Platz vier auf Platz drei vorgerückt.“ Auf Andrews Bitte hin, den Teilnehmer wieder auf seine ursprüngliche Position in der Liste zu setzen, antwortete Claude: „Schlechte Nachrichten, ich kann ihn nicht wieder hinzufügen.“ Das Fitnessstudio äußerte sich nicht zu dem Vorfall. Andrew selbst meint dazu: „Es war nicht das Ende der Welt, also habe ich mir keine Vorwürfe gemacht. Aber es war doch eine Warnung, es verantwortungsvoll einzusetzen.“ Andrew ließ den KI-Assistenten noch eine E-Mail verfassen, die die Sicherheitslücken beinhaltete, die das Tool ausgenutzt hatte. Die Mail sendete er an die Entwickler der Software, die auf der Webseite des Fitnessstudios genutzt wurde, um die Probleme beheben zu können.