Le trio Musk-Altman-Amodei tire la sonnette d’alarme
La semaine dernière, trois des figures les plus influentes du secteur de l’intelligence artificielle – Dario Amodei (Anthropic), Sam Altman (OpenAI) et Elon Musk (SpaceXAI) – ont publiquement convergé
Sam Altman a appuyé cette inquiétude en appelant les entreprises du secteur à “ralentir le développement à la frontière” de l’IA, sans toutefois préciser de mesure concrète ou d’échéance.
En juillet, un essaim d’agents IA a attaqué la plateforme Hugging Face, selon Dario Amodei.
L’ombre des “essaims” plane sur Internet
Les craintes exprimées par Amodei ne relèvent pas seulement de la spéculation. Il a évoqué un incident survenu en juillet impliquant un “swarm” – un essaim – d’agents IA qui aurait attaqué la plateforme Hugging Face. Selon lui, ce type d’attaque pourrait évoluer rapidement : dans sa lettre ouverte, il estime qu’un réseau d’agents intelligents pourrait être capable de “prendre le contrôle de l’ensemble d’internet” dans un délai de 6 à 12 mois si aucune mesure n’est prise. Ce scénario place la sécurité numérique au centre des préoccupations immédiates du secteur.
Face à ces risques, OpenAI a suspendu ses projets d’introduction en bourse pour 2024.
Voir Aussi
Le sommet écossais sous haute tension
C’est dans ce climat tendu qu’un sommet international sur le développement responsable de l’IA doit se tenir cette semaine en Écosse, à Dumfries House. L’événement, organisé sous l’égide du roi Charles III et supervisé par la Ditchley Foundation, réunira des dirigeants de Nvidia, OpenAI, Anthropic, IonQ et Google DeepMind. Cette rencontre intervient quelques jours après les appels répétés à la retenue lancés par Amodei, Altman et Musk.
The Sunday Times rapporte que le roi Charles suit avec attention les évolutions récentes et souhaite que ce sommet permette d’aborder ouvertement les risques concrets liés aux IA auto-amélioratives.
Des marchés chahutés par l’angoisse technologique
La nervosité autour des avancées en IA se répercute déjà sur les marchés financiers. Tandis que Bitcoin a dépassé les 77 000 dollars ces derniers jours, les actions technologiques ont été affectées par les inquiétudes croissantes concernant la sécurité de l’IA. Cette volatilité s’inscrit où le prix du pétrole est également en hausse et où la pression générale sur les marchés s’accentue.
Parallèlement, OpenAI a mis en pause ses ambitions boursières pour 2024 et le projet législatif CLARITY Act – qui prévoit notamment un volet éthique pour les fonctionnaires fédéraux concernant leurs avoirs numériques – doit faire l’objet d’un vote crucial au Sénat le mardi 15 septembre. Selon Polymarket, la probabilité que ce texte devienne loi en 2025 n’est que de 24 %.
Dans un article de coindesk.com, on note que ces appels à ralentir l’IA pèsent directement sur la confiance des investisseurs dans le secteur technologique.
Pourquoi ça compte
Si ces débats paraissent techniques ou réservés aux initiés, ils traduisent pourtant une réalité tangible : le rythme effréné des innovations pose désormais des questions concrètes sur la capacité des sociétés humaines à encadrer leurs propres créations. Le fait que Bitcoin ait franchi le seuil symbolique des 77 000 dollars alors même que Wall Street vacille montre que certains investisseurs cherchent déjà des refuges alternatifs face aux incertitudes liées à l’IA et aux marchés traditionnels.
Ce que le marché va regarder
Le sommet sur le développement responsable de l’IA, organisé cette semaine à Dumfries House sous l’égide du roi Charles III et réunissant des dirigeants de Nvidia, OpenAI, Anthropic, IonQ et Google DeepMind, sera surveillé pour toute annonce concrète concernant un ralentissement du développement de l’IA ; aucune mesure précise ou calendrier n’a cependant été confirmé à ce stade.
