VX is een soort "zenuwgas" dat in de jaren vijftig voor het eerst werd gesynthetiseerd door het Britse laboratorium voor chemische oorlogsvoering in Porton Down. Slechts 8 milligram (twee korrels zout) doodt een volwassen mens als het in contact komt met de huid. Een halve milligram als het wordt ingeademd of ingeslikt. Het is geur- en smaakloos, en komt in een nevel die zo fijn is dat het bijna onzichtbaar is.

Het kostte Porton Down bijna tien jaar om het te ontwikkelen uit de Duitse zenuwgassen die de Britten aan het eind van de Tweede Wereldoorlog ontdekten, maar met machine learning kun je nu in een mum van tijd iets soortgelijks bedenken.

Het 'zeer kleine bedrijf' dat bovenstaande waarschuwing, gepubliceerd in het wetenschappelijke tijdschrift Nature Machine Learning, heeft afgegeven is 'Collaborations Pharmaceuticals, Inc.', gevestigd in Raleigh, North Carolina. Hun bedrijfsmodel is het ontdekken van nieuwe medicijnen, of beter gezegd het ontwerpen ervan, en ze hebben helemaal niets te maken met het vergiftigen van mensen.

Zoals iedereen in de drug discovery business tegenwoordig, is hun belangrijkste instrument 'machine learning' - niet echt Artificial Intelligence zoals het oorspronkelijk bedoeld was, maar een sub-categorie van AI die eenvoudigweg enorme hoeveelheden gegevens binnenkrijgt en ze doorzoekt op overeenkomsten.

Die gelijkenissen suggereren mogelijke nieuwe ('de novo') moleculen die misschien niet in de natuur bestaan, maar wel nuttig kunnen zijn bij de behandeling van ziekten. Dus je synthetiseert ze, test ze, en af en toe vind je er een die echt een gat vult in het bestaande farmaceutische arsenaal. Maar ze kunnen ook andere doelen dienen.

Twee jaar geleden werden vier onderzoekers van Collaborations Pharmaceuticals - Fabio Urbina, Filippa Lentzos, Cédric Invernizzi en Sean Ekins - gevraagd te spreken op de tweejaarlijkse conferentie van het Zwitserse Instituut voor de bescherming van de bevolking tegen nucleaire, biologische en chemische bedreigingen en gevaren - kortweg het Laboratorium Spiez.

Het Spiez-laboratorium is een van de vijf in de wereld die door de Organisatie voor het Verbod op Chemische Wapens zijn gecertificeerd om ontwikkelingen op het gebied van chemie, biologie en ontsluitende technologieën te signaleren die gevolgen hebben voor de verdragen inzake chemische en biologische wapens. Zij vroeg de vier na te gaan hoe AI-technologieën voor het ontdekken van geneesmiddelen zouden kunnen worden misbruikt.

"De gedachte was nooit eerder bij ons opgekomen," schreven de onderzoekers. "We waren ons vaag bewust van veiligheidszorgen rond het werken met ziekteverwekkers of giftige chemicaliën, maar dat had geen betrekking op ons. Ons werk is geworteld in het bouwen van machine learning modellen voor therapeutische en toxische doelen om beter te helpen bij het ontwerpen van nieuwe moleculen voor het ontdekken van geneesmiddelen."

Hun bedrijf had al een 'de novo molecuulgenerator' ontworpen die enorme aantallen mogelijke moleculen produceerde en ze sorteerde op bioactiviteit (wenselijk) en op toxiciteit (ongewenst). Vervolgens werden degenen die deze tests doorstonden onderzocht op verdere goede eigenschappen.

Nu onderzochten ze echter hoe gemakkelijk het zou zijn om moleculen te maken met echt dodelijke eigenschappen. "We hebben deze logica gewoon omgekeerd door dezelfde aanpak te gebruiken om moleculen de novo te ontwerpen, maar nu het model te sturen om zowel toxiciteit als bioactiviteit te belonen." In feite kozen ze VX als het soort molecuul waar de AI zich op zou moeten richten.

Ze maakten geen echte moleculen, maar de AI produceerde binnen zes uur 40.000 dodelijke nieuwe virtuele moleculen. Sommige leken op VX en andere bestaande zenuwgiffen, maar "andere bezetten een gebied met moleculaire eigenschappen dat volledig los stond van de vele duizenden moleculen in het (VX/pesticide/organofosfaat-domein)."

Op dit punt moeten zowel de Amerikaanse onderzoekers als het Spiez-lab zich hebben afgevraagd: moeten we dit bekendmaken en het risico lopen slechte mensen op ideeën te brengen, of het stil houden en hopen dat niemand anders beseft hoe gemakkelijk het zou zijn? Het antwoord is natuurlijk dat mensen niet dom zijn. De kat zal snel uit de zak komen, wat ze nu ook doen.

Niemand wil het onderzoek naar nieuwe geneesmiddelen beperken, maar het wordt tijd om na te denken over hoe de toegang kan worden gecontroleerd tot bepaalde modellen voor machinaal leren, openbare databanken en farmaceutische fabrieken voor chemische synthese die nodig zouden zijn om ultradodelijke moleculen te maken.

En hier is een kleine troost. Het standaard tegengif voor alle zenuwgassen is atropine, maar dat is niet erg betrouwbaar en je hebt de kleine auto-injector nooit bij de hand als je hem nodig hebt. Maar in geval van nood zal Valium waarschijnlijk net zo goed werken. Echt waar.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer