Le VX est une variété de "gaz neurotoxique", synthétisé pour la première fois par le laboratoire britannique de guerre chimique de Porton Down dans les années 1950. Il suffit de 8 milligrammes (deux grains de sel) pour tuer un être humain adulte s'il entre en contact avec sa peau. Un demi-milligramme s'il est inhalé ou avalé. Il est inodore et sans goût, et se présente sous la forme d'un brouillard si fin qu'il est pratiquement invisible.

Il a fallu près de dix ans à Porton Down pour le mettre au point à partir des gaz neurotoxiques allemands que les Britanniques avaient découverts à la fin de la Seconde Guerre mondiale, mais grâce à l'apprentissage automatique, il est désormais possible de créer un produit similaire en un rien de temps.

La "très petite entreprise" qui a lancé l'avertissement ci-dessus, publié dans la revue scientifique Nature Machine Learning, est "Collaborations Pharmaceuticals, Inc.", basée à Raleigh, en Caroline du Nord. Son modèle économique consiste à découvrir de nouveaux médicaments, ou plus précisément à les concevoir, et elle n'a absolument rien à voir avec l'empoisonnement des gens.

Comme tout le monde dans le domaine de la découverte de médicaments de nos jours, leur principal outil est "l'apprentissage automatique" - pas exactement l'intelligence artificielle telle qu'elle a été conçue à l'origine, mais une sous-catégorie de l'IA qui ingère simplement de grandes quantités de données et les recherche pour trouver des ressemblances.

Ces ressemblances suggèrent de nouvelles molécules ("de novo") qui n'existent peut-être pas dans la nature, mais qui pourraient être utiles pour traiter des maladies. On les synthétise donc, on les teste et, de temps à autre, on en trouve une qui comble réellement une lacune dans l'arsenal pharmaceutique existant. Mais elles peuvent aussi servir à d'autres fins.

Il y a deux ans, quatre chercheurs travaillant pour Collaborations Pharmaceutiques - Fabio Urbina, Filippa Lentzos, Cédric Invernizzi et Sean Ekins - ont été invités à prendre la parole lors de la conférence biennale organisée par l'Institut suisse pour la protection de la population contre les menaces et les dangers nucléaires, biologiques et chimiques - le Laboratoire Spiez, en abrégé.

Le Laboratoire Spiez est l'un des cinq laboratoires dans le monde certifiés par l'Organisation pour l'interdiction des armes chimiques pour identifier les développements en chimie, biologie et technologies habilitantes qui ont des implications pour les conventions sur les armes chimiques et biologiques. L'Organisation a demandé à ces quatre laboratoires d'examiner comment les technologies de l'IA pour la découverte de médicaments pourraient être utilisées à mauvais escient.

"Cette idée ne nous avait jamais effleurés auparavant", écrivent les chercheurs. "Nous étions vaguement conscients des problèmes de sécurité liés au travail avec des agents pathogènes ou des produits chimiques toxiques, mais cela ne nous concernait pas. Notre travail est ancré dans la construction de modèles d'apprentissage automatique pour les cibles thérapeutiques et toxiques afin de mieux aider à la conception de nouvelles molécules pour la découverte de médicaments."

Leur entreprise avait déjà conçu un "générateur de molécules de novo" qui produisait un grand nombre de molécules possibles et les triait en fonction de leur bioactivité (souhaitable) et de leur toxicité (indésirable). Ensuite, celles qui passaient ces tests étaient examinées afin de déterminer d'autres bonnes propriétés.

Cependant, ils cherchaient maintenant à savoir s'il serait facile de fabriquer des molécules aux propriétés réellement mortelles. "Nous avons simplement inversé cette logique en utilisant la même approche pour concevoir des molécules de novo, mais en orientant le modèle de manière à récompenser à la fois la toxicité et la bioactivité", et ils ont choisi le VX comme le type de molécule que l'IA devrait viser.

Ils n'ont pas fabriqué de molécules réelles, mais l'IA a produit 40 000 nouvelles molécules virtuelles mortelles en six heures. Certaines ressemblaient au VX et à d'autres poisons nerveux existants, mais "d'autres occupaient une région de l'espace des propriétés moléculaires entièrement distincte des milliers de molécules du domaine (VX/pesticide/organophosphate)".

À ce stade, les chercheurs américains et le laboratoire Spiez ont dû s'arrêter pour se demander : devrions-nous rendre cela public et risquer de donner des idées à des personnes mal intentionnées, ou garder le silence et espérer que personne d'autre ne se rende compte à quel point ce serait facile ? La réponse, évidemment, est que les gens ne sont pas stupides. Le chat sera bientôt sorti du sac, quoi qu'ils fassent maintenant.

Personne ne veut restreindre la recherche de nouveaux médicaments, mais il est temps de commencer à réfléchir à la manière de contrôler l'accès à certains modèles d'apprentissage automatique, aux bases de données publiques et aux usines pharmaceutiques de synthèse chimique qui seraient nécessaires pour créer des molécules ultra-létales.

Et voici une petite consolation. L'antidote standard pour tous les gaz neurotoxiques est l'atropine, mais il n'est pas très fiable et on n'a jamais le petit auto-injecteur sous la main quand on en a besoin. Cependant, en cas de besoin, le Valium fera probablement tout aussi bien l'affaire. Vraiment.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer