VX ist eine Art "Nervengas", das erstmals in den 50er Jahren im britischen Labor für chemische Kriegsführung in Porton Down synthetisiert wurde. Nur 8 Milligramm (zwei Salzkörner) töten einen erwachsenen Menschen, wenn es mit seiner Haut in Berührung kommt. Ein halbes Milligramm ist tödlich, wenn es eingeatmet oder verschluckt wird. Es ist geruchs- und geschmacksneutral und wird in einem so feinen Nebel abgegeben, dass es praktisch unsichtbar ist.

Porton Down brauchte fast ein Jahrzehnt, um es aus den deutschen Nervengasen zu entwickeln, die die Briten am Ende des Zweiten Weltkriegs entdeckten, aber mit Hilfe des maschinellen Lernens kann man jetzt praktisch im Handumdrehen etwas Ähnliches entwickeln.

Das "sehr kleine Unternehmen", das die oben genannte Warnung in der wissenschaftlichen Zeitschrift Nature Machine Learning veröffentlicht hat, ist "Collaborations Pharmaceuticals, Inc." mit Sitz in Raleigh, North Carolina. Ihr Geschäftsmodell ist die Entdeckung neuer Medikamente, genauer gesagt deren Entwicklung, und sie haben nichts mit der Vergiftung von Menschen zu tun.

Wie alle, die heutzutage in der Arzneimittelforschung tätig sind, ist ihr wichtigstes Werkzeug das "maschinelle Lernen" - nicht gerade die Künstliche Intelligenz, wie sie ursprünglich gedacht war, sondern eine Unterkategorie der KI, die einfach riesige Datenmengen aufnimmt und nach Ähnlichkeiten durchsucht.

Diese Ähnlichkeiten schlagen mögliche neue ("de novo") Moleküle vor, die es in der Natur nicht gibt, die aber für die Behandlung von Krankheiten nützlich sein könnten. Also synthetisiert man sie, testet sie, und hin und wieder findet man eines, das tatsächlich eine Lücke im bestehenden pharmazeutischen Arsenal schließt. Aber sie könnten auch anderen Zwecken dienen.

Vor zwei Jahren wurden vier Forscher von Collaborations Pharmaceuticals - Fabio Urbina, Filippa Lentzos, Cédric Invernizzi und Sean Ekins - gebeten, auf der alle zwei Jahre stattfindenden Konferenz des Schweizerischen Instituts für den Schutz der Bevölkerung vor nuklearen, biologischen und chemischen Bedrohungen und Gefahren - kurz Labor Spiez - zu sprechen.

Das Spiezer Labor ist eines von fünf weltweit, die von der Organisation für das Verbot chemischer Waffen zertifiziert sind, um Entwicklungen in der Chemie, Biologie und in den Grundlagentechnologien zu identifizieren, die Auswirkungen auf die Konventionen über chemische und biologische Waffen haben. Sie bat die vier, zu prüfen, wie KI-Technologien für die Arzneimittelforschung missbraucht werden könnten.

"Der Gedanke war uns vorher nie gekommen", schreiben die Forscher. "Wir waren uns vage der Sicherheitsbedenken im Zusammenhang mit der Arbeit mit Krankheitserregern oder giftigen Chemikalien bewusst, aber das betraf uns nicht. Unsere Arbeit basiert auf der Entwicklung von maschinellen Lernmodellen für therapeutische und toxische Targets, um die Entwicklung neuer Moleküle für die Arzneimittelforschung besser unterstützen zu können.

Ihr Unternehmen hatte bereits einen "De-novo-Molekül-Generator" entwickelt, der eine große Anzahl möglicher Moleküle produzierte und sie nach Bioaktivität (erwünscht) und Toxizität (unerwünscht) sortierte. Diejenigen, die diese Tests bestanden, wurden dann auf weitere gute Eigenschaften untersucht.

Nun untersuchten sie jedoch, wie einfach es wäre, Moleküle mit wirklich tödlichen Eigenschaften herzustellen. "Wir kehrten diese Logik einfach um, indem wir den gleichen Ansatz verwendeten, um Moleküle de novo zu entwerfen, aber nun das Modell so lenkten, dass es sowohl Toxizität als auch Bioaktivität belohnte", und wählten VX als die Art von Molekül, auf die die KI abzielen sollte.

Sie stellten keine echten Moleküle her, aber die KI produzierte innerhalb von sechs Stunden 40.000 tödliche neue virtuelle Moleküle. Einige ähnelten VX und anderen existierenden Nervengiften, aber "andere besetzten einen Bereich des molekularen Eigenschaftsraums, der völlig getrennt von den vielen Tausenden von Molekülen in der (VX/Pestizid/Organophosphat-Domäne) war."

An diesem Punkt müssen sich sowohl die US-Forscher als auch das Spiezer Labor die Frage gestellt haben: Sollen wir das veröffentlichen und riskieren, dass böse Menschen auf dumme Gedanken kommen, oder sollen wir es für uns behalten und hoffen, dass niemand sonst merkt, wie einfach es wäre? Die Antwort ist natürlich, dass die Menschen nicht dumm sind. Die Katze wird bald aus dem Sack sein, egal, was sie jetzt tun.

Niemand will die Forschung nach neuen Medikamenten einschränken, aber es ist an der Zeit, darüber nachzudenken, wie man den Zugang zu bestimmten maschinellen Lernmodellen, öffentlichen Datenbanken und chemischen Synthesewerken kontrollieren kann, die für die Herstellung ultratödlicher Moleküle erforderlich wären.

Und hier noch ein kleiner Trost. Das Standard-Gegenmittel für alle Nervengase ist Atropin, aber es ist nicht sehr zuverlässig und man hat den kleinen Autoinjektor nie dabei, wenn man ihn braucht. In der Not tut es aber wahrscheinlich auch Valium. Wirklich.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer