Kann KI bald Biowaffen bauen?

Erleichtert KI den Bau von Biowaffen? Die rasante Entwicklung im Bereich der Künstlichen Intelligenz sorgt bei vielen Menschen auch in dieser Hinsicht für Angst. Biosicherheitsexperte Philipp Kohlhöfer ordnet die Risiken ein und räumt mit Mythen auf.

Ein Interview

von Anne-Kathrin Hamilton

In der heutigen Kriegsführung stehen Drohnen und die hybride Kriegsführung im Fokus. Doch mit der rasanten Entwicklung der Künstlichen Intelligenz (KI) rückt noch eine weitere Gefahr in den Vordergrund: KI und Biowaffen. Diese Kombination birgt ein neues Missbrauchsrisiko, wie Kritiker warnen. KI kann den Bau von Biowaffen durchaus vereinfachen und beschleunigen. So sehr, dass auch unerfahrene Akteure gefährliche Erreger entwerfen könnten, um sie als Waffe einzusetzen?

So einfach ist das nicht, erklärt Philipp Kohlhöfer, Pressebeauftragter des Reservistenverbandes Hamburg und Autor des Bestsellers "Pandemien". Mittlerweile widmet er sich vor allem dem Thema KI und Biosicherheit. Im Interview mit unserer Redaktion gibt er ein Bild von der derzeitigen Lage und schätzt reale Risiken ein.

Herr Kohlhöfer, sollten biologische Waffen mehr Aufmerksamkeit erhalten – gerade jetzt mit Blick auf KI?

Philipp Kohlhöfer: Die bahnbrechenden Fortschritte, die es aktuell in der Biologie und der Biotechnologie gibt, gehen in der Tat etwas unter. Es ist daher wichtig, dass mehr über Biosicherheit gesprochen wird. Dabei geht es aber nicht um Biowaffen und Killerviren, auch wenn das gern so dargestellt wird, sondern um die Frage, wie sicherheitsrelevant moderne Biologie ist. Und wie relevant das in Zukunft noch werden kann.

Wie meinen Sie das?

Bei biologischer Kriegsführung gehen wir immer noch von den Massenvernichtungskonzepten des Kalten Kriegs aus und konzentrieren uns, wenn überhaupt, auf die Eindämmung dieser Gefahren. Mittlerweile könnten biologische Substanzen aber in allen Phasen und Formen von Konflikten eingesetzt werden. Das potenzielle Zerstörungspotenzial eines Getreidepilzes ist etwa enorm. Aber: Man muss jetzt auch keine Panik schüren. Vorgekommen ist das alles noch nicht, und für Pilzsporen in Getreide braucht es auch keine Absicht, das kann die Natur allein. Die Frage ist: Wie kann eine offene Gesellschaft biologische Forschung ermöglichen, ohne die Risiken, die es heute gibt, zu ignorieren?

Wie den Bau von Biowaffen mithilfe von KI?

Mit genügend Ressourcen und Fachwissen ist das möglich, aber das war es vorher auch schon. KI gibt gute Tipps, um das mal so zu formulieren, aber sie ermöglicht jetzt nicht, dass jede Person einfach Biowaffen in ihrem Keller bauen könnte. Man muss das auch nicht sensationalisieren. Ein Chatbot baut keine Biowaffe. Aber KI senkt Barrieren, das schon. Und da wird es auch sicherheitspolitisch relevant.

KI senkt Barrieren – aber der Rest bleibt komplex

Inwiefern?

Als es vor knapp drei Jahren einen versuchten Anschlag mit Rizin in Nordrhein-Westfalen gab, hatten die Täter Schwierigkeiten, alle Materialien zusammenzubekommen, die sie brauchten, um den Giftstoff herzustellen. Die Polizei hatte dann genug Zeit, um die Täter festzunehmen. Wobei da aber auch nicht klar ist, ob sie es hinbekommen hätten, wenn sie alles beisammengehabt hätten. Wie gesagt: So einfach ist das nicht. Das Beispiel zeigt aber, dass es nicht den einen Grund gibt, an dem Sicherheit entsteht oder eben nicht. Wenn ich leicht die KI fragen kann, was ich brauche, dann muss die Infrastruktur rundherum gehärtet sein.

KI bedeutet Wissen und Daten. Dann braucht es aber noch die Beschaffung.

Zuerst mal braucht es Menschen, die wissen, was sie tun, und eine Arbeitsumgebung, die das zulässt. Dann muss man sich mit dem Transport auskennen. Sie müssen das Zeug schließlich dahin transportieren, wo es eingesetzt werden soll, ohne sich selbst zu gefährden. Dazu kommen noch die Verteilung und das Handling von Abfällen. Und in diesem Bereich kann man natürlich überall besser werden, sowohl bei der Überwachung als auch beim Zivilschutz.

Synthetische DNA: Leicht erhältlich seit Jahren

Schon heute kann jeder leicht synthetische DNA kaufen.

Das ist aber auch nichts Neues. 2017 wurden zum ersten Mal die Pocken synthetisch hergestellt, mit Komponenten, die die Wissenschaftler weltweit zusammengekauft hatten, unter anderem in Bayern. Das waren in dem Fall zwar die Pferdepocken, es gibt seither aber eigentlich keinen Zweifel daran, dass man auch die menschlichen Pocken wieder zurückholen kann. Davor war bereits das Poliovirus, also der Erreger der Kinderlähmung, synthetisch wiederhergestellt worden. Das ist mittlerweile über zwanzig Jahre her. Dazu brauchte man keine KI, das ging mit einer Suchmaschine und ein paar Online-Händlern.

Sehen Sie keine Gefahr darin, dass synthetische DNA so leicht erbhaltbar ist?

Jein. Einerseits ist es vorteilhaft, weil es die Impfstoff- und Medikamentenentwicklung beschleunigt. Andererseits sind die Sicherheitsmechanismen bei Versendern oft ziemlich schlecht. Natürlich kann man keinen gefährlichen Erreger als Bausatz bestellen, aber manchmal reicht schon das Teilen der Sequenz in zwei Hälften, um Sicherheitsprüfungen zu umgehen – wenn es überhaupt eine gibt. Das ist nämlich bei den meisten Erregern nicht der Fall. Oft wird auch die Identität des Bestellers überhaupt nicht überprüft, zumal Kits zur Durchführung von Experimenten seit Jahren aus dem Ausland bestellt werden können, wo es teilweise noch laxer gehandhabt wird.

Deutschland: Verantwortung liegt verstreut

Derzeit gibt es in Deutschland keine einzelne zentrale Behörde, die explizit für die Überwachung von biologischen Substanzen zuständig ist. Die Verantwortung liegt verstreut bei mehreren Behörden. Wie bewerten Sie das?

In der Tat ist es so, dass Biolabore in Deutschland über mehrere Ebenen geregelt werden, die sowohl den Bund als auch die Länder betreffen. Die Debatte wird nicht von nationaler Sicherheitspolitik bestimmt, wie etwa in den USA, sondern von Arbeitsrecht und Infektionsschutzrichtlinien. Das ist nicht ideal, zumal das Problem auch nicht isoliert betrachtet werden kann.

Wieso nicht?

Was wir bei der Covid-Pandemie gesehen haben, ist, dass Biosicherheit nicht nur ein medizinisches Problem ist, sondern dass sich Gesundheits- und Sicherheitspolitik verschränken – und dass das sofort eine ganze Kaskade an Problemen nach sich zieht, wie etwa Lieferkettenstörungen und die Spaltung der Gesellschaft. Biosicherheit ist also längst kein Nischenthema mehr.

Was kann daraus folgen?

Wir müssen die Schnittstellen adressieren, an denen neue biologische Risiken entstehen oder verstärkt werden können: Menschen-, Tier- und Pflanzengesundheit sind letztlich sich gegenseitig beeinflussende Systeme, die im Grunde ein System sind. Gesundheitsstandards sind somit auch Sicherheitsstandards. Die Antwort ist also mehr als Expertise im Gesundheitswesen. Es benötigt auch Justiz, Verteidigung, Resilienzforschung, Fortbildung, Landwirtschaft und vieles mehr.

Was die Vergangenheit über Bioterrorismus zeigt

Führende KI-Experten in den USA von OpenAI, Anthropic und Microsoft haben sich zusammengeschlossen, um den Kongress zu warnen, dass KI die Entwicklung und Herstellung von Biowaffen stark erleichtert. Besorgt Sie das?

Die Vergangenheit zeigt, dass biologische Substanzen tatsächlich als terroristische Waffen eingesetzt wurden. Die bisherigen Fälle zeigen aber auch, dass es eben nicht so einfach ist. Einer der bekanntesten Anschläge ist vermutlich der von 1995, als Mitglieder der Aum-Sekte in der U-Bahn von Tokio 13 Menschen mit Sarin töteten. Nun ist Sarin ein chemischer Kampfstoff, aber die Gruppe experimentierte zuvor mit Anthrax und das hat überhaupt nicht funktioniert. Aber auch hier: Das muss kein militärischer Kampfstoff sein.

Welche anderen Beispiele gibt es?

Ein recht bekannter Fall ist derjenige der Bhagwan-Bewegung, die Mitte der 1980er-Jahre Salatbars in Oregon mit einem Salmonellenerreger verseuchte. Das zeigt, dass Bioterrorismus nicht immer das spektakulärste Szenario sein muss. Es kann auch einfach nur um Lebensmittel gehen.

Stand jetzt also: Derzeit spielen biologische Attacken noch keine große Rolle – selbst mit KI?

Empfehlungen der Redaktion

Bahnt sich zwischen Japan und Deutschland eine neue Militärallianz an?

Katherina Reiche wegen möglicher KI-Texte in der Kritik

Oreschnik: Was über Moskaus Rakete bekannt ist

Krieg wird geführt, um ein politisches Ziel zu erreichen. Und da gibt es bisher billigere, effektivere und berechenbarere Möglichkeiten, als einen Killervirus zu bauen. Ein Sprengsatz in einem Umspannwerk geht einfacher. Und noch einfacher ist es, Desinformationen über Social Media zu verbreiten, um seine Ziele zu erreichen.