Erreger?: Forscher basteln neue, infektiöse Viren mit Künstlicher Intelligenz

Erst kürzlich wurde der Nobelpreisträger Geoffrey Hinton gefragt, was ihn an Künstlicher Intelligenz am meisten beunruhige. Der Forscher, oft als „Vater der Künstlichen Intelligenz“ bezeichnet, antwortete: „Künstliche Intelligenz zu benutzen, um böse Viren zu kreieren!“ „Böse“ sind die Viren, die nun tatsächlich in einem Labor an der Stanford University hergestellt wurden, zwar nicht – darauf haben die Forschenden peinlich genau achtgegeben. Aber mit derselben Technik, oder einer ähnlichen, und mit derselben KI oder einer ähnlichen, könnten andere genau solche kreieren. „Alles, was nötig ist, ist ein einziger verrückter Typ voller Groll… eine Person, die sich mit Molekularbiologie auskennt und mit KI gut auskennt, und die Welt zerstören will“, so Hinton. Zu Risiken und Nebenwirkungen... Wie bei fast allen sich derzeit rasant entwickelnden Anwendungsmöglichkeiten Künstlicher Intelligenz ist es aber auch in diesem Fall so, dass den Risiken auch große Chancen zur Seite stehen. So könnten speziell designte Viren helfen, Krankheiten zu heilen, etwa bei Gentherapien, indem sie heilsame Gene verlässlich in die erkrankten Organe bringen. „Dual Use“ heißt das im Fachjargon, im Sinne des Stahls, der zu Pflugscharen, aber auch zu Schwertern geschmiedet werden kann. Die neue Studie, die in der Fachzeitschrift „Science“ veröffentlicht wurde, stammt von Wissenschaftlern der Stanford University und des benachbarten Arc Institutes in Palo Alto, Kalifornien. Sie brachten einer speziellen KI namens „Evo“ (der Tagesspiegel berichtete) bei, Muster der viralen Erbmaterialstruktur zu erkennen und anhand dieser Daten Pläne für neue, in der Natur nicht vorkommende Viren zu erstellen. Die Forschenden nutzten diese Pläne dann, um im Labor Bakterien dazu zu bringen, diese Viren zu produzieren. Das klappte zwar nur in relativ wenigen Fällen. Die meisten der von „Evo“ entworfenen Baupläne erwiesen sich als nicht geeignet für lebensfähige Viren. Ein paar aber eben doch. Und diese Viren waren dann auch in der Lage, andere Bakterien zu infizieren. Gegenüber der „New York Times“ nannte Patrick Cai von der Universität Manchester, der nicht an der Studie beteiligt war, die Studie einen „wichtigen Meilenstein“. Dieser Meilenstein ist per se auch noch kein gefährlicher. Denn die Viren sind allesamt dem in der Natur vorkommenden Stamm Phi X-174 extrem ähnlich und können nur Bakterien der Art Escherichia coli infizieren. Aufgrund der potenziellen Gefahren, über die in der Forschungs-Community Einigkeit besteht, versorgten die Forschenden das Modell nicht mit Daten über Viren, die Menschen, Tiere, Pflanzen und Pilze befallen. „Evo“ kann also keine Genome von Viren generieren, die für Menschen gefährlich sein könnten. „Wir wollten einfach besonders vorsichtig sein“, sagte Brian Hie, Experte für „Computational Biology“ an der Stanford University und einer der Autoren der Studie, der New York Times. Doch die wachsenden Befürchtungen, dass solche KI-Systeme die Entwicklung ganz neuer biologischer Waffen möglich machen könnten, wachsen. Mirko Himmel, Leiter der Arbeitsgruppe „Molekulare Infektionsmechanismen pathogener Mikroorganismen“ an der Universität Hamburg, sagte gegenüber dem Science Media Center Deutschland, „missbräuchliche Verwendung durch Dritte für feindselige oder kriminelle Zwecke“ gehöre zu den realen „Gefahrenpotenzialen“. Der deutsche Mediziner Moritz Hanke vom Johns Hopkins Center für Gesundheitssicherheit thematisiert die Risiken zusammen mit seinem Kollegen Tom Inglesby in einem Begleitartikel in „Science“. Er betonte gegenüber der „New York Times“ die besondere Verantwortung, die Regierungen und wissenschaftliche Organisationen hier hätten. Er beobachte jedoch ein potenziell gefährliches Zögern dabei, Schutzmaßnahmen zu entwickeln, die die Entwicklung eines tödlichen Virus verhindern könnten. Währenddessen schreite die Forschung in großen Schritten voran: „Da besteht einfach eine riesige Kluft“, so Hanke. Das von den Autoren der Studie benutzte KI-Modell „Evo“ stützt sich auf das von der Firma OpenAI entwickelte ChatGPT und zahlreiche andere KI-Anwendungen. Doch statt mit Buch- und anderen Texten wie bei den bekannten „Großen Sprachmodellen“ wurde dieses „Genom-Sprachmodell“ mit 14.266 Genomen von Bakterien infizierenden Viren, so genannten Bakteriophagen, trainiert. So entstanden, basierend auf dem Erbgut des natürlichen Phagen PhiX174, Tausende neue Phagen-Genome. Aus 16 davon waren die Bakterien schließlich in der Lage, lebens-, reproduktions- und infektionsfähige neue Phagen zu erzeugen. Gaben die Forschenden einen Cocktail der synthetischen Phagen zu Bakterienkulturen, die gegen PhiX174 resistent waren, machte den neuen Viren diese Resistenz nichts aus. Dieser Befund zeige das Potenzial für antibakterielle Therapien mit Phagen, in die auch angesichts zunehmender Antibiotikaresistenzen derzeit große Hoffnungen gesetzt werden, so die Studienautoren. Gleichzeitig besteht aber die Gefahr, mit einer ähnlichen Methodik, aber mit Erbsubstanz etwa von Influenza-, Pocken- oder anderen Erregern, auch gezielt Viren herstellen zu können, die menschliche Zellen hocheffektiv befallen. Im schlimmsten Falle wären solche neuen Viren tödlich, und das in pandemischen Ausmaßen. Harald König vom Institut für Technikfolgenabschätzung und Systemanalyse am „Karlsruhe Institut für Technologie“ sieht „angesichts der hochdynamischen KI-Entwicklungen“ eine unmittelbare Notwendigkeit, „Entwicklungen bei kritischen biologischen Datensätzen und KI-Biodesignmodellen einem kontinuierlichen Monitoring zu unterziehen, um Risiken regelmäßig neu bewerten und mögliche vorsorgende Maßnahmen anpassen zu können“. Dies müsse „aufgrund unterschiedlicher Möglichkeiten und daraus resultierender Bedrohungen durch staatliche und nichtstaatliche Akteure“ auf mehreren Ebenen geschehen. Zu diesen Maßnahmen könne eine verpflichtende Überprüfung von Erbmaterialsynthesen und Auftraggebern für solche Arbeiten gehören, so König. Auch „nach Risikopotenzial abgestufte Zugangskontrollen zu leistungsfähigen Biodesignmodellen oder zu bestimmten neuen Datensätzen“ seien eine Möglichkeit. Kontrollieren, aber wie? Staatliche Akteure mit dem Willen, die Techniken zur Biowaffenproduktion einzusetzen, könne man auf diese Weise aber nicht in ihren Möglichkeiten einschränken. „Zur Kontrolle von Staaten erscheint es nötig, die Biowaffenkonvention durch die Entwicklung eines bisher fehlenden Verifikationsregimes zu stärken.“ Das könnten Kontrollen durch eine den UN unterstehende Behörde sein. Voraussetzung wäre aber vor allem die Bereitschaft aller Staaten, sich dem zu unterwerfen. Ein weiteres Element zur Risikoreduktion durch Bedrohungen von staatlichen sowie nicht-staatlichen Akteuren könne der Ausbau von Maßnahmen zur biologischen Abwehr sein. Dazu gehörten auch „KI-Möglichkeiten zur Früherkennung von Erregern sowie zur Entwicklung schnell skalierbarer medizinischer Gegenmaßnahmen, wie zum Beispiel Impfstoffe“. Letztlich soll also beim Thema Biowaffen KI gegen KI helfen, was nach einer neuen, durch Menschen immer weniger kontrollierbaren Rüstungsspirale klingt. Die Autoren der Studie jedenfalls warnen selbst eindringlich vor dem Gefahrenpotenzial, das die Kombination von Biotech und KI mit sich bringt. Das erinnert dann wieder an den KI-Pionier Hinton, der, wie er selbst sagt, bewusst aufgehört hat, auf dem Gebiet zu forschen – und 2023 bei Google einen hochbezahlten Job kündigte.