Technikfolgenabschätzer des Bundestags analysieren die Risiken an der Schnittstelle von KI und Biotechnologie. Sie geben nur vorläufig Entwarnung und sehen Handlungsbedarf.
Die Fortschritte in der Biotechnologie und der Künstlichen Intelligenz verlaufen in beachtlichem Tempo. Wo Forschende noch vor wenigen Jahren monatelang Proteinstrukturen analysierten oder Laborprotokolle manuell anpassten, liefern moderne biologische KI-Modelle und große Sprachmodelle heute in Sekundenschnelle präzise Vorhersagen und Designs. Diese Synergie aus KI und Biotechnologie verspricht Durchbrüche in der Medizin, der Medikamentenentwicklung und der industriellen Produktion. Gleichzeitig wächst weltweit die Sorge vor den Schattenseiten dieser Entwicklung. Kann die Kombination aus Algorithmen und Genforschung dazu führen, dass die Entwicklung gefährlicher Erreger oder gar biologischer Waffen für Laien und Kriminelle zum Kinderspiel wird?
Ein neuer Bericht des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) widmet sich dieser Frage. Die Autoren Harald König und Arnold Sauter haben die verfügbare wissenschaftliche Evidenz ausgewertet und ein differenziertes Bild gezeichnet. Die beruhigende Nachricht vorweg: Nach aktuellem Kenntnisstand senken KI-Modelle die Hürden für die Herstellung biologischer Waffen für Personen ohne tiefgreifende Fach- und Laborerfahrung nicht so entscheidend, wie oft befürchtet wird. Eine Entwarnung für die Zukunft bedeutet das aber nicht, denn die Unsicherheiten sind groß, der Anpassungsbedarf bei den Sicherheitsmechanismen ist akut.
In der internationalen Debatte stehen vor allem drei technologische Stränge im Fokus: generative Sprachmodelle, spezialisierte Biodesignmodelle und automatisierte Laborsysteme. Bei Sprachmodellen wie ChatGPT, Claude oder Gemini zeigten Tests zwar, dass KI-Systeme Fachwissen auf Expertenniveau abrufen können. Doch wenn es um die praktische Anwendung geht, relativieren sich die Befürchtungen. Experimente in realen Laborumgebungen machten deutlich, dass Sprachmodelle Personen ohne Biologie- und Laborerfahrung bei konkreten Aufgaben – etwa der Erzeugung eines einfachen Virus – derzeit nicht besser unterstützen als eine herkömmliche Internetsuche. Das Verstehen von Theorie ersetzt nicht das handwerkliche Geschick und das implizite Wissen, das für die Arbeit im Labor zwingend erforderlich ist.
Komplexer stellt sich die Lage laut dem Report bei den biologischen KI-Modellen dar, die gezielt Proteine und Enzyme entwerfen. Solche Systeme können Gensequenzen von Toxinen theoretisch so umgestalten, dass deren biologische Funktion erhalten bleibt, sie aber von den bisherigen automatischen Sicherheitsfiltern der Gen-Synthese-Hersteller nicht mehr erkannt werden. Dennoch hakt es auch hier an der Praxis: Experimentelle Daten deuten darauf hin, dass rein digital entworfene Varianten komplexer Proteine in der Realität häufig ihre Wirksamkeit verlieren und aufwendig im Labor nachoptimiert werden müssen. Vollständig neuartige Krankheitserreger mit hoher Übertragbarkeit oder Ausweichmechanismen gegen das Immunsystem per Mausklick zu erschaffen, scheitert so bislang an fehlenden qualitativ hochwertigen Datensätzen sowie an der Unberechenbarkeit biologischer Evolution.
Ein drittes Feld betrifft automatisierte Laborplattformen und sogenannte Cloud Labs. Diese ermöglichen es, Experimente remote über das Internet auszuführen. Noch erfordert die Programmierung solcher Abläufe aber tiefes Spezialwissen. Sollten KI-Systeme künftig als Steuerungsschicht fungieren und autarke biologische Forschungslabore ermöglichen, könnten die Anforderungen an die menschliche Expertise allerdings deutlich sinken.
Aus diesen Befunden leitet das TAB ab, dass staatliche Akteure mit den entsprechenden Ressourcen und Großlaboratorien auch weiterhin das Hauptrisiko für komplexe Biowaffenprogramme darstellen. Für nichtstaatliche Akteure oder Einzeltäter blieben bisher eher technisch einfache Angriffe realistisch. Doch genau in diesem Bereich könnten KI-Werkzeuge in Zukunft schrittweise Hürden abbauen, sei es beim Umgehen von Synthese-Kontrollen oder beim Beschaffen von Anleitungen zur Erreger-Isolierung.
Da die Entwicklung extrem dynamisch verläuft und Überraschungen nicht ausgeschlossen werden können, empfiehlt das TAB der Politik eine engmaschige, kontinuierliche Überwachung an der Schnittstelle von KI und Biotechnologie. Ferner gelte es, vorsorgende Sicherheitsarchitekturen aufzubauen. Dazu gehöre eine verpflichtende, EU-weit harmonisierte Überprüfung aller Aufträge für synthetische Nukleinsäuren, um anonymen Nachbestellungen gefährlicher Gensequenzen einen Riegel vorzuschieben. Zudem sollten Fördergelder nur noch an Forschungseinrichtungen fließen, die bei zertifizierten Synthese-Anbietern bestellen.
Auch gestufte Zugangskontrollen für besonders mächtige KI-Biodesignmodelle werden diskutiert. Dabei muss den Experten zufolge stets sorgfältig abgewogen werden, dass die zivile medizinische Forschung und die Entwicklung von Impfstoffen dadurch nicht behindert würden. Nicht zuletzt plädiert das Duo für eine Stärkung der internationalen Biowaffenkonvention sowie für den gezielten Einsatz von KI bei der Früherkennung von Erregern und der Abwehr biologischer Gefahren.
Stefan Krempl
Keine Kommentare:
Kommentar veröffentlichen