Cette semaine, impossible d'y échapper. Un chercheur qui a quitté Anthropic affirme que les gens qui construisent l'IA pensent sincèrement qu'elle pourrait tous nous tuer. Ses messages ont fait des dizaines de millions de vues. Le Monde, CNN, El País, tout le monde a repris.

Je développe des outils d'IA pour des PME. Autant dire que la question m'a été posée plusieurs fois depuis. Et je la trouve légitime. Le risque est discuté très sérieusement par les gens qui construisent ces systèmes, et ça mérite qu'on l'écoute.

Mais j'ai remarqué une chose. Personne ne pose la question inverse avec le même sérieux. Pas « l'IA va sauver le monde », version pub. Plutôt : si on applique exactement le même raisonnement honnête, est-ce que l'IA pourrait nous sauver ?

J'ai essayé.

Le sauvetage sérieux n'est pas un film non plus

Le scénario catastrophe sérieux n'est pas Terminator. C'est un système très compétent qui poursuit des objectifs légèrement différents de ceux qu'on voulait.

Le scénario de sauvetage sérieux n'est pas non plus un super-cerveau qui règle le climat en un week-end. C'est beaucoup moins spectaculaire. Ce sont des gains concrets, souvent invisibles, qui s'additionnent : un cancer vu plus tôt, une crue annoncée plusieurs jours avant, une molécule trouvée en quelques semaines au lieu de quelques années.

Ce qui sauve déjà des vies

Pas de promesse ici, seulement des choses qui existent.

  • Les protéines. AlphaFold, développé par Google DeepMind, a prédit la structure de centaines de millions de protéines. Ce travail a valu le prix Nobel de chimie 2024 à ses créateurs. Des chercheurs du monde entier s'en servent pour des vaccins, des médicaments, des enzymes.
  • Le dépistage du cancer du sein. En Suède, l'essai MASAI a comparé un dépistage classique à un dépistage assisté par IA, sur plus de 100 000 femmes. Premiers résultats publiés en 2023 : environ 20 % de cancers détectés en plus, avec 44 % de travail de lecture en moins pour les radiologues. Les radiologues décident toujours. L'IA leur signale où regarder.
  • Les antibiotiques. Au MIT, des chercheurs ont utilisé l'IA pour identifier de nouvelles molécules actives contre des bactéries résistantes, dont une contre un redoutable germe des hôpitaux. On parle de bactéries contre lesquelles on n'a presque plus rien.
  • Les inondations. Google publie des prévisions de crues jusqu'à 7 jours à l'avance dans plus de 100 pays, dont beaucoup n'avaient aucun système d'alerte.
  • Les incendies. En Californie, plus de 1 200 caméras équipées d'IA surveillent les forêts. Elles ont repéré plus de 900 départs de feu avant le premier appel aux secours. Et chaque alerte est confirmée par un humain avant d'envoyer les pompiers.

Les raisons d'y croire

  • L'IA accélère la science. Tester des millions de pistes avant d'en confier dix à un laboratoire, ça change le rythme de la recherche.
  • Elle démultiplie des experts rares. Il manque des radiologues, des dermatologues, des ophtalmologues partout. Un outil qui leur fait gagner du temps, c'est plus de patients vus.
  • Elle voit ce qu'on ne voit pas. Des signaux faibles dans des données trop volumineuses pour un œil humain.

Les raisons de garder la tête froide

  • « Pourrait nous sauver » ne veut pas dire « va nous sauver ». Exactement comme « pourrait nous tuer » ne veut pas dire « va nous tuer ». Beaucoup de promesses en IA sont du marketing, et les délais annoncés sont souvent faux.
  • Un outil ne règle pas les causes. Prenez les incendies dans les forêts de Gascogne, qui me touchent directement. Une caméra intelligente détecte un feu plus tôt. Elle ne change rien au fait qu'on a planté un million d'hectares du même arbre sur du sable sec. Ça, c'est une décision humaine, politique et économique.
  • L'IA n'a jamais éteint un feu. C'est un pompier qui l'éteint. Une alerte ne sert à rien si personne ne peut intervenir.
  • Les bénéfices ne vont pas tout seuls au bon endroit. Un outil médical génial dans un grand hôpital ne sauve personne dans un village sans médecin.

Le vrai sujet : c'est la même question

En écrivant cet article, je me suis rendu compte d'une chose. « L'IA peut-elle nous tuer ? » et « l'IA peut-elle nous sauver ? » ne sont pas deux questions opposées. C'est la même.

Dans les deux cas, la réponse dépend moins de la technologie que de trois choses très humaines :

  1. Qui décide de ce qu'on construit, et pour qui.
  2. Qui contrôle ce que fait l'outil, et peut l'arrêter.
  3. Qui assume quand ça se passe mal.

Le chercheur qui a démissionné ne dit pas que la technologie est mauvaise en soi. Il dit que les entreprises sont enfermées dans une course, et que personne ne peut ralentir seul. Le problème qu'il décrit n'est pas technique. C'est un problème de gouvernance.

Et c'est exactement pareil pour le sauvetage. Dans tous les exemples positifs de cet article, il y a un humain qui garde la main. Le radiologue valide. Le chercheur teste en laboratoire. Le guetteur confirme l'alerte, le pompier intervient. L'IA prépare, l'humain décide.

Ce que j'en retiens dans mon métier

À mon échelle, je ne construis pas de superintelligence. Je construis des outils d'automatisation IA sur mesure pour des entreprises : trier des emails, préparer des devis, retrouver une information dans des centaines de documents.

Et tout commence par des données propres. C'est le sujet de mon article sur les entreprises qui tournent sur Excel.

Mais la règle que je m'impose est la même que celle qui fait fonctionner les bons exemples ci-dessus. Le répétitif est automatisé, les décisions restent chez vous. Tout ne s'automatise pas, et je le dis quand c'est le cas.

Ce n'est pas une posture de prudence. C'est ce qui fait qu'un outil sert vraiment, au lieu de faire peur.

L'IA ne nous tuera pas toute seule, et elle ne nous sauvera pas toute seule. La différence entre les deux, ce sont les humains qui la font. Ça me paraît plutôt une bonne nouvelle.

Sources