Bildgenerator mit KI in Google Earth erzeugte zu viele Fake News

Google hat eine Funktion in Google Earth deaktiviert, die KI-generierte Bilder erzeugen konnte. Die Bilder waren zwar nicht öffentlich und hatten einen KI-Hinweis, aber Journalisten war es gelungen, diese Hinweisschranke zu umgehen. So entstanden echt wirkende Screenshots wie ein umgekippter Eiffelturm, eine im Boden versunkene Pyramide von Gaza oder ein öffentlicher Park vor dem Weißen Haus. Weiterlesen nach der Anzeige Der Earth-Hersteller begründet den Rückzug damit, dass „Leute Screenshots von generierten Bildern teilen, die anscheinend unsere Richtlinien verletzten“. Es gäbe zwar viele Geospatial-Experten, die die Funktion für sinnvolle Zwecke einsetzen, trotzdem sieht sich Google gezwungen, eine Version mit „strengeren Sicherungen“ zu erarbeiten. Gestartet hatte Google die KI-Funktion mit dem hauseigenen Modell Nano Banana erst vor zwei Tagen, am 30. Juli, um beispielsweise antike Stätten dreidimensional wiederzuerwecken, Bauprojekte zu visualisieren und Informationsebenen zuzufügen. Journalisten der BBC war es jedoch schnell gelungen, die obligatorischen Warnhinweise zu unterdrücken, oft einfach mit dem Hinweis an Nano Banana, dass das Bild echt sei. Die BBC zitiert den Datenjournalisten und Fake-News-Experten Henk van Ess, dass es mit der KI-Funktion möglich sei, nicht existierende Atommeiler im Iran, ein Flüchtlingscamp nahe der US-Grenze oder einen Bombenkrater neben einem Krankenhaus in Gaza zu zeigen – Fake News mit erheblicher politischer Sprengkraft im seriösen Gewand von Google. Auch von der BBC eingesetzte KI-Erkennungs-Tools fielen in einigen Fällen auf die Fälschungen herein. Weiterlesen nach der Anzeige