Coxon, lanceur d'alerte de l'IA ?
Traduction ci-dessous
Écoutez, il n'y a rien de nouveau ici. C'est la même hystérie alarmiste que nous entendons de la part de ce groupe depuis longtemps. Et, vous savez, les médias le qualifient de lanceur d'alerte, mais quelles preuves a-t-il apportées que nous n'avions pas déjà ? Tout cela ne repose que sur des impressions vagues de sa part.
Qu'il nous montre les données, les rapports, les informations divulguées que le public ne possédait pas encore. Qu'il nous montre les faits et les preuves. Nous n'avons rien de tout cela.
En fait, comme le laissait entendre Chamath, cela ressemble à une opération orchestrée. Comment le savons-nous ? Eh bien, tout d'abord, il s'agit d'un compte qui n'avait pratiquement aucune activité, presque aucun abonné et aucune publication avant cette série de tweets annonçant sa démission. S'il y avait eu des publications antérieures, elles ont été effacées.
C'était donc un compte totalement vierge. Et pourtant, en l'espace d'une journée, il a touché une audience immense. Elon a déclaré que cela ne s'était jamais vu auparavant.
Nous savons aussi qui a amplifié le message dans les 15 premières minutes. En gros, ce sont trois groupes alarmistes bien organisés et bien financés qui ont relayé l'information. Il y a Nathan Calvin, conseiller juridique chez Encode AI — le groupe qui a essentiellement fait pression pour le projet de loi SB53 en Californie.
Ils militent pour toutes ces lois sur l'IA au niveau des États. Peter Wilderford, responsable des politiques au sein de l'AI Policy Network, qui pousse pour toutes ces réglementations fédérales et la création d'un ministère fédéral de l'IA. Et enfin Daniel Kokutayo, à la tête de l'AI Futures Project, qui a justement sorti un épisode du podcast de Joe Rogan au même moment, utilisant exactement les mêmes termes pour dire que l'IA allait tous nous tuer.
Ces trois groupes sont financés par Jaan Tallinn, l'un des principaux mécènes du mouvement de l'Altruisme Efficace (EA) aux tendances alarmistes, et qui se trouve également être l'un des co-responsables du financement de série A d'Anthropic. C'est donc une communauté très soudée qui s'est emparée de ce tweet. Il ne s'agissait pas d'un acte spontané de la part d'un employé qui se serait dit : « Tiens, je vais publier ma lettre de démission sur Twitter ». C'était une manœuvre orchestrée. Et enfin, l'élément clé à ce sujet, c'est que quelqu'un a consulté l'article du *Wall Street Journal* relatant la lettre de démission, et que celui-ci a été publié — on ne sait trop comment — quelques minutes avant la rafale de tweets elle-même. Le *Wall Street Journal* avait donc reçu l'information... sous embargo. C'est ce que cela signifie.
Le terme technique, c'est qu'ils ont été briefés sous embargo, mais qu'ils ont raté le coche sur les horaires de publication. Exactement. Et ce type, Jacob Coxon, t'a contacté, Jake, pour dire : « Hé, je veux participer au podcast. »
Oui. C'est bien ça, non ? Et puis il a annulé ce matin, peut-être parce qu'il a réalisé que l'interview serait corsée. S'il était venu dans le podcast, les questions que j'aurais voulu lui poser sont : qui vous a mis en contact avec le *Wall Street Journal* ? Il s'agissait d'un employé de niveau relativement bas ou intermédiaire, présent dans l'entreprise depuis — j'ai entendu des estimations allant de six semaines à trois mois, disons trois mois.
Ce n'est pas le genre de sujet que le *Wall Street Journal* traiterait de cette manière. C'est quelque chose qui a été orchestré. Il collabore clairement avec ces groupes de « Doomers » (ceux qui prédisent une catastrophe imminente liée à l'IA).
Ils cherchent à obtenir un maximum de résonance. Et encore une fois, on le qualifie de lanceur d'alerte, mais qu'a-t-il dénoncé exactement ? Où sont les preuves ? Où sont les données ? On aimerait beaucoup voir ce que vous avez vu chez Anthropic s'il y a effectivement un problème, mais vous refusez de dire de quoi il s'agit. Or, dans la plupart des affaires de ce genre, l'entreprise réagit en contestant les faits.
Elle déclare : « Eh bien non, ce n'est pas vrai », ou cherche à réfuter ses propos. Ici, c'est l'entreprise elle-même qui amplifie le message.
Eh bien oui, une entreprise qui fonctionne normalement — qu'en penses-tu, Saks ? — désavouerait la personne. Une entreprise saine ne désavouerait-elle pas immédiatement ce genre d'individu ? C'est là que réside la contradiction. Eh bien non, c'est très complexe. En réalité, elle amplifie leur message. On l'a vu lorsque son patron — ou la personne qui dirige cette équipe chargée de la sécurité — a déclaré : « Oui, nous sommes tous d'accord avec vous. » Il a ensuite avancé ce chiffre de plus de 10 % de risque d'extinction ; or, le fait d'associer un nombre précis à quelque chose qui, en toute franchise, relevait jusqu'alors du simple ressenti, propulse le message à un tout autre niveau.
/image%2F1416990%2F20220903%2Fob_da6312_logo-2022-2.jpg)