KI kann jetzt auch Viren designen

Künstliche Intelligenz überrascht immer wieder mit neuen Fähigkeiten – und nicht alle davon sind ein einziger Segen. Vor diesem Hintergrund muss man wohl auch eine neue Studienarbeit von Forschern der Stanford-University betrachten: Sie haben den beiden Genom-Sprachmodellen Evo 1 und Evo 2 die Aufgabe gegeben, das Erbgut eines völlig neuen Virus zu designen. Diese Sprachmodelle sind anders als ChatGPT nicht mit Texten trainiert worden, sondern mit genetischen Codes. Der Versuch war erfolgreich: Den Modellen ist es gelungen, die Erbgutsequenz von funktionsfähigen Viren zu designen. Die Arbeit eines Teams um Samuel King wurde in „Science“ publiziert. Dass Künstliche Intelligenz dies schafft, ist beeindruckend. Denn damit haben sie geschafft, woran Menschen bislang gescheitert sind. Die völlig neue Bauanleitung für ein Virus zu erschaffen, ist bislang noch keinem Forscher geglückt. Die besten Versuche griffen auf bestehende Genome zurück, es wurden Gensequenzen verändert, eingefügt, ausgeschnitten. Die künstliche Zelle JCVI-syn3.0, die Craig Venter und sein Team vor zehn Jahren hergestellt hatten, orientierte sich eng an einem lebenden Vorbild. Ein Virus de novo, welches also keine echte Vorlage hat, gab es bislang noch nie. Das liegt an einem einfachen Umstand, wie das Team um King schreibt: „Selbst einfache Genome sind äußerst komplex und können durch eine einzige Mutation lebensunfähig werden.“ F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen F.A.Z. bei Google bevorzugen Die KI hat es aber nun offenbar geschafft: Die Wissenschaftler hatten die beiden KI-Modellen beauftragt, sich am Genom des Bakteriophagen ΦX174 zu orientieren. Bakteriophagen sind Viren, die ausschließlich Bakterien infizieren können. ΦX174 kommt im Darm vor und befällt Escherichia coli, um sich zu vermehren. Evo 1 und Evo 2 entwickelten nach dieser Vorlage mehrere Tausend Vorschläge für Phagengenome. Aus diesen wählten die Wissenschaftler 300 aus und bauten mithilfe von synthetischen Nukleinsäuren im Labor Phagen nach und testeten, ob diese wirklich in der Lage waren, Bakterien zu infizieren und deren Zellmaschinerie zur Vervielfältigung zu nutzen. „16 der generierten Phagen erwiesen sich als lebensfähig und waren in der Lage, das Wachstum von E. coli zu hemmen.“ Das Besondere am Vorgehen der KI ist, dass sie nicht einfach ein Gen an das andere gehängt hatte – also praktisch Wort an Wort. Sie hatten in den zugrunde liegenden Erbinformationen auch die jeweilige Genumgebung beachtet und diese in den neuen Code ebenfalls mit hineingeschrieben. Dadurch kamen völlig neue Kombinationen zustande: So habe einer der neu designten Phagen beispielsweise ein Verpackungsprotein aufgewiesen, welches eigentlich nur bei sehr entfernt verwandten Viren vorkommt, nicht aber bei natürlichen ΦX174. Alle neu designten Phagen hätten sich von denen unterschieden, die in der Natur vorkommen, schreiben die Wissenschaftler. Sie hatten beispielsweise Mutationen, die man natürlicherweise noch nicht beobachtet hatte; ihr Erbgut variierte stark in der Länge, und es gab Gene, die so nicht bei natürlichen Phagen vorkommen. Dennoch waren die neu designten Phagen nicht völlig neuartig: Zu mehr als 90 Prozent stammten sie mit der Vorlage überein. Wie groß das Potential dieser künstlich designten Phagen ist, zeigte ein zweiter Teil der Studie: Hierbei träufelten die Wissenschaftler eine Mischung der 16 neu geschaffenen Bakterienviren auf natürliche Escherichia-coli-Kulturen, die gegen das Virus ΦX174 resistent sind. Die neu designten Viren überwanden diese Resistenz innerhalb kurzer Zeit, drangen in die Bakterien ein, vermehrten sich und eliminierten sie schließlich. Das, so schreiben die Forscher, zeige, wie groß das medizinische Potential ist. Resistente Bakterien könnten mithilfe von Phagen im KI-Design endlich bekämpft werden. Gensequenzen aus dem Automaten Mirko Himmel von der Universität Hamburg sagte gegenüber dem Science Media Center, die demonstrierte Effektivität der Generierung neuartiger Phagen de novo sei beeindruckend. „Es wurden 16 vermehrungsfähige Phagen etabliert. Das entspricht etwa fünf Prozent der insgesamt getesteten synthetisierten Bakteriophagen. Eine weitergehende Automatisierung der Synthese und Testung artifizieller Phagengenome kann die Ausbeute bei vergleichbarem Zeitaufwand entscheidend verbessern.“ Die Stanford-Wissenschaftler beschreiben in ihrem Paper aber nicht nur den Versuch, sondern verweisen auch ausführlich auf seine Implikationen. So hätten sie die Modelle Evo1 und Evol2 bewusst auf ein Bakteriophagen-Genom angesetzt. Also auf ein Virus, das ausschließlich Bakterien, aber keine höheren Lebewesen oder gar Menschen infizieren können. Das ist eine begrüßenswerte Vorsichtsmaßnahme. Allerdings demonstriert der neuartige ΦX174, dass KI mit hoher Wahrscheinlichkeit auch Viren designen kann, die auf andere Lebewesen spezialisiert sind. Die Wissenschaftler fordern deshalb, dass Anbieter synthetischer Nukleinsäuren, mit denen man Erbgut nachbauen kann, ihre Kunden und deren Bestellungen kritisch prüfen sollten. Man müsse ausschließen, dass bedenkliche Sequenzen, mit denen man Krankheitserreger oder Toxine herstellen kann, in zweifelhafte Hände geraten. Solche Überprüfungsverfahren sollten gesetzlich geregelt werden, finden die Forscher. Bislang können Hersteller sie freiwillig durchführen. Zudem müsste ein Mechanismus geschaffen werden, der bedenkliche Entwürfe erkennt, die aus der Natur bislang nicht bekannt sind. Die Frage sei nicht mehr, ob es generatives virales Genomdesign geben wird, schreiben Thomas V. Inglesby and Moritz S. Hanke in einem begleitenden Kommentar in „Science“. „Es geht vielmehr darum, ob die Gesellschaft ein Kontrollsystem aufbauen kann, das es ermöglicht, die Vorteile dieser Technologie zu nutzen und gleichzeitig zu verhindern, dass sie ernsthaften Schaden anrichtet.“ Harald König vom Karlsruher Institut für Technologie sagte gegenüber dem Science Media Center: „Mithilfe KI-basierter DNA-Sprachmodelle wie Evo 1 oder Evo 2 konnten ganze Genome und Organismen entworfen beziehungsweise generiert werden, die so in der Natur nicht vorkommen. Wie komplex so generierbare ‚neue‘ Genome und Organismen sein können und inwiefern sich neue Eigenschaften gezielt generieren lassen, bleibt jedoch auch nach der Arbeit von King et al. abzuwarten.“ Die Designvorgaben hätten nicht auf die Generierung neuer, sondern nur auf die vorhandenen Eigenschaften abgezielt. Es werde befürchtet, mit KI-Modellen ließen sich neue Krankheitserreger designen oder bereits vorhandene gefährlicher machen. König sagt: „Ob sich relevante, komplexe Eigenschaften wie die Übertragbarkeit oder die Umgehung von Immunreaktionen so gezielt und effektiv verbessern lassen, ist unklar.“ Zur Entwicklung völlig neuer pathogener Viren fehlten bislang die erforderlichen großen und qualitativ hochwertigen Datensätze für entsprechende KI-Modelle. „Zudem könnte die Evolution der neuen Viren auch mit diesen Modellen nicht zuverlässig vorhersagbar sein.“ Noch seien Fachkenntnisse und eine entsprechende Ausstattung wie beispielsweise Tierversuche nötig. „Verfügbare Datensätze könnten sich jedoch zukünftig ändern, und KI-Biodesignmodelle entwickeln sich rasant.“ Die ausführliche Diskussion von Sicherheitsrisiken, die Stanford-Forscher in ihrer Veröffentlichung führen, begrüßen die nicht beteiligten Wissenschaftler. Mirko Himmel von der Universität Hamburg: „Für den wissenschaftlichen Fortschritt ist es entscheidend, die richtige Balance zwischen Forschungsfreiheit und der Regulation sicherheitsrelevanter Forschungsaktivitäten zu finden. Hierfür gibt es noch keinen international rechtsverbindlichen Standard oder multilateralen Kontrollvertrag. Das Biowaffenübereinkommen von 1975 stellt jede Verwendung von biologischen Agenzien für feindselige Zwecke unter ein generelles Verbot. Dual-Use-Anwendungen und Forschung mit Dual-Use-Potential fallen vielfach nicht unter diese Verbotsnorm (so ist auch Bioverteidigungsforschung erlaubt).“