Cybersécurité en France et ailleurs

30 Octobre 2026, 17:19pm

Traduction ci-dessous

Quelle coïncidence : des tests sur ce système de sécurité étaient justement en cours ces derniers jours, en collaboration avec une entreprise française — une société de sécurité française, soit dit en passant, qui bénéficie de capitaux israéliens. Et ces capitaux israéliens proviennent, qui plus est, d'une entreprise qui gère la sécurité de l'OTAN, celle de l'armée espagnole, ainsi que celle des forces et corps de sécurité de l'État, tant en Espagne que dans d'autres pays. Il est donc impératif, à mon sens, qu'on nous explique, de A à Z, ce qui s'est passé pour qu'un accident d'une telle nature — un événement aussi catastrophique, avec un bilan aussi lourd en morts et en blessés — puisse survenir. Pourquoi ? Parce qu'il est tout simplement inacceptable — je le répète — que tout le système se soit effondré. Tu as d'ailleurs souligné — j'ai vu que tu avais partagé cela sur les réseaux sociaux — que les systèmes de sécurité avaient fait défaut, tout en évoquant ces capitaux israéliens... Il va falloir rester très vigilants.

Ne s'agit-il pas là de théories du complot ? Non, absolument pas, car des menaces ont bel et bien été proférées. Je ne dis pas que des individus ont délibérément provoqué quoi que ce soit, mais des menaces ont été émises. Je reçois des informations issues de ce monde interlope — un univers dont vous refusez parfois de croire à l'existence, mais qui se trompe rarement — et on m'y rapporte certaines choses.

Je pense donc qu'il faut rester attentifs à ce qui pourrait se passer samedi soir. Pourquoi samedi soir ? Eh bien, je t'en dirai plus dimanche : selon qu'il se passe quelque chose ou non samedi soir, on pourra peut-être commencer à relier certains points. Que veux-tu dire par « samedi soir » ? Eh bien, samedi soir, les créatures de la nuit sortent.

Traduction ci-dessous

Sophia, vous écrivez dans votre lettre de démission : « Je ne crois plus que notre technologie aura un impact globalement positif sur la société. » On peut imaginer un monde idéal où l’IA contribuerait à décarboner les réseaux énergétiques, à réduire les déchets, à protéger les écosystèmes et à servir l’humanité. Mais ce n’est pas le monde dans lequel nous vivons, et ce n’est pas non plus le type d’IA généraliste que nous nous précipitons à développer.

Se précipiter pour déployer des IA dotées d’une capacité d’action autonome (« IA agentiques ») dans notre société actuelle — à ce moment précis de l’histoire — est une idée désastreuse qui, au final, ne pourra qu’être néfaste. Sophia, nous avons assisté à une vague de démissions de la part d’employés craignant qu’un jour, l’IA ne se retourne contre l’humanité. Or, votre démission, elle, est motivée par l’utilisation actuelle de l’IA dans le contexte de la guerre.

En quoi votre démission se distingue-t-elle des autres ? C’est un sujet crucial. À mon sens, l’IA fait peser un risque concret sur la société. Mais ce risque découle, avant tout, de la manière dont nous choisissons d’intégrer ces outils dans tous les rouages de la société — y compris dans des domaines extrêmement sensibles et critiques, comme les infrastructures militaires ou les systèmes financiers, en leur donnant accès à une masse considérable de données civiles.

Il est vrai qu’à mesure que les modèles gagnent en puissance, leur intégration devient de plus en plus périlleuse. Le problème, c’est qu’en focalisant le débat sur les capacités des modèles — et sur le risque qu’ils deviennent incontrôlables —, on détourne l’attention d’un choix humain bien précis, un choix profondément irresponsable qui devrait engager la responsabilité de ses auteurs : cette intégration effrénée et non réglementée, dépourvue de toute « ligne rouge » ou mesure de sécurité adéquate. On déplace ainsi le débat, en faisant porter l’attention sur la puissance intrinsèque du modèle lui-même.

On va même, bien souvent, jusqu’à prêter une conscience à ces modèles, les transformant en sortes de divinités surpuissantes. Je pense que nous devrions, nous qui nous préoccupons de la sécurité de l’IA, échanger davantage. Car, pour les dirigeants du secteur, le récit d’une « divinité super-intelligente » qui finirait par nous anéantir tous est, somme toute, bien commode.

Pourtant, les employés qui expriment des inquiétudes quant à la sécurité de l’IA soulèvent, bien souvent, des préoccupations tout à fait réelles et fondées. Et ces préoccupations réelles sont, en fait, étroitement liées à nos exigences concernant l’établissement de « lignes rouges », la transparence des contrats, le maintien d’une surveillance externe, un suivi constant, ainsi que d’autres demandes de cette nature.