„Katastrophal teuer“: KI ließ bei Amazon Projekt-Kosten aus dem Ruder laufen

Kostenkontrolle beim KI-Einsatz stellt auch Techkonzerne wie Amazon vor Probleme, wie aus einem Bericht der Financial Times (FT) hervorgeht. Demnach wurden im Unternehmen mehrere Fälle von „katastrophal teuren“ Kostenüberschreitungen bei Versuchen festgestellt, Projekte mit Hilfe von KI-Modellen abzuwickeln. Weiterlesen nach der Anzeige In einer internen Präsentation seien Angestellten gleich mehrere solcher aus dem Ruder gelaufenen Vorhaben gezeigt worden. Unter anderem habe das Unternehmen 1,8 Millionen US-Dollar für ein Projekt bezahlt, bei dem Anthropics LLM Claude Sonnet Autorendaten mit Einträgen auf der E-Commerce-Website des Konzerns abgleichen sollte. Damit sei das Budget um 860 Prozent überzogen worden, was aber auch erst nach fünf Monaten auffiel. Zudem sei das ganze Projekt auch noch ein Fehlschlag gewesen. Wenn triviale Fehler teuer werden Weitere Beispiele seien die Entwicklung eines Finanz-Audit-Tools, bei dem der KI-Einsatz für unerwartete Kosten von 541.000 US-Dollar gesorgt habe. Ein dritter Vorfall, bei dem KI zur Verbesserung der Liefergeschwindigkeit im Logistiknetzwerk eingesetzt werden sollte, habe zu unbeabsichtigten Ausgaben in Höhe von 134.000 US-Dollar geführt, was nach zwei Wochen entdeckt worden sei. In der Präsentation wurde laut FT-Bericht aber auch darauf hingewiesen, dass sich diese Beispiele nur auf eine Handvoll Teams bei Amazon bezogen. In jedem Fall sei Amazon darüber zur Einsicht gekommen, dass sich die aus Programmierfehlern erwachsenden Kosten verändern. Während die in herkömmlichen Systemen noch „vernachlässigbar gering“ gewesen seien, schlügen sie dann auf kostspielig um, sobald die Teams auf KI-Modelle zur Erledigung von Aufgaben gesetzt hatten. Generell sei schwierig festzustellen, wie viel KI-bezogene Arbeit koste, sagte ein Amazon-Angestellter der FT. Derzeit arbeiteten Amazons Entwickler an „automatisierten“ Leitplanken für künftige Projekte, um die Kosten im Rahmen zu halten. Ob sie dabei auch KI einsetzen, blieb offen. KI sorgte für Ausfälle Weiterlesen nach der Anzeige Bereits im März wurden Fälle bekannt, bei denen KI-generierter Code zu Problemen bei Amazon geführt habe. So soll es etwa zu knapp sechsstündigen Ausfällen auf Amazon.com und in der Shopping-App gekommen sein. Auch Amazons Cloud-Tochter AWS habe Probleme durch KI-Coding-Assistenten verzeichnet. So habe etwa das Amazon-eigene KI-Tool „Kiro“ eigenständig eine Produktionsumgebung gelöscht und sie neu erstellt. Folge sei ein 13-stündiger Ausfall eines Kostenkalkulators für AWS-Kunden gewesen. Die Zeiten, in denen Spitzen der Techbranche zum ungebremsten Tokenverbrauch aufrufen, scheinen der Vergangenheit anzugehören – insbesondere seit verbrauchsabhängige Abrechnung immer mehr die Abomodelle bei KI ersetzt hat. Berichten zufolge stießen auch Unternehmen wie Adobe, Atlassian und der Finanzkonzern Citi auf ähnliche Kostenprobleme. Mehr Disziplin, Tokendeckel und die Verwendung quelloffener Modelle, die bei der Inferenz günstiger sind als die Spitzenmodelle von OpenAI und Anthropic sind, stehen jetzt offenbar hoch im Kurs.