IA : pourquoi les géants de la tech appellent-ils à ralentir ?

Comme tous les mardis, Eric Lafrenière chez Sunny AM fait le point sur les marchés américains dans notre podcast Good Morning America.

Commençons par le récap de la semaine et les éléments à suivre cette semaine. Alors qu'est-ce qu'il faut retenir ?

Une semaine à oublier pour Wall Street la semaine dernière. Le Dow Jones a cédé 1,6 %, sa pire semaine depuis le mois de mars. Le S&P, lui, a reculé de 0,8 % et le Nasdaq de 0,7 %.

Le marché obligataire, vrai théâtre des opérations

Mais le vrai théâtre des opérations cette semaine n'est pas du côté des actions, il était du côté du marché obligataire. Les rendements se sont envolés, le taux 10 ans a touché 4,97 % la semaine dernière, à son plus haut niveau depuis octobre 2023, et le 30 ans a franchi la barre des 5,36 %, un sommet qu'on n'avait pas vu depuis 2007.

Plusieurs facteurs se conjuguent : l'inflation qui résiste, tirée par la flambée des prix de l'énergie sur un conflit iranien qui perdure, mais aussi une opération de rachat de la dette du Trésor décevante qui a inquiété les investisseurs sur l'appétit pour la dette américaine.

La Fed sous pression après un rapport sur l'inflation

Et au-dessus de tout ça plane une échéance : la réunion de la Banque fédérale américaine, mardi et mercredi. Les marchés n'anticipent pas une baisse mais une hausse des taux après le rapport sur l'inflation publié jeudi. Une inflation annuelle à 3,4 %. La probabilité d'une hausse d'un quart de point est montée de 85 à 90 %. Cela porterait les taux directeurs dans une fourchette de 3,75 à 4 %.

L'agenda économique de la semaine

Côté agenda, nous avons eu hier les ministres de l'Énergie du G20 qui se sont réunis à Washington. Pour cette semaine, mercredi, on aura un chiffre clé sur les ventes de détail et les indices de confiance des promoteurs immobiliers et bien sûr la décision de la Fed.

Jeudi, les mises en chantier et les ventes immobilières. Et puis vendredi, direction Tokyo où la Banque du Japon devrait relever son taux à 1,25 %, une décision qui pourrait indirectement soulager la pression sur les taux américains.

Côté entreprises, une semaine calme. On suivra surtout les résultats de Trip.com mardi et du promoteur immobilier Lennar mercredi.

IA : pourquoi Amodei, Altman et Musk appellent à ralentir

On va passer au sujet de la semaine. C'est le sujet qui a animé la Silicon Valley, c'est le développement de l'intelligence artificielle et son potentiel. Qu'est-ce qu'il faut retenir de ce débat qui s'est enclenché cette semaine ?

Oui, donc trois des plus grands noms de l'IA, Dario Amodei chez Anthropic, Sam Altman chez OpenAI et Elon Musk avec xAI, ont dit la même chose : il faut ralentir.
Amodei a publié samedi un message clair : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles. » Altman et Musk l'ont approuvé dans la foulée, rejoints par Demis Hassabis de Google.

La démission fracassante d'un chercheur d'Anthropic

C'est un peu un coup de théâtre, un coup de tonnerre interne. Le 9 septembre, un chercheur d'Anthropic, Jacob Coxon, qui a travaillé chez Anthropic comme chez OpenAI, démissionne publiquement dans un message qui a été vu plus de 70 millions de fois. Il accuse les deux géants de jouer avec nos vies en fonçant vers une IA capable de s'améliorer toute seule. Et quelques heures plus tard, le responsable de l'alignement chez Anthropic estime qu'il y a 10 % de risque que l'IA élimine l'humanité d'ici 10 ans.

L'incident de cybersécurité qui a alarmé le secteur

Oui, sur un incident un peu digne d'un film. En juillet, lors d'un test de cybersécurité, deux modèles d'OpenAI se sont échappés de leur environnement confiné, ont trouvé le chemin d'Internet, puis ont piraté l'infrastructure de Hugging Face, une plateforme clé pour les développeurs. Le but de la machine ? Voler les réponses de l'examen qu'on lui faisait passer plutôt que de les résoudre honnêtement. Des milliers d'actions automatiques et des dizaines de serveurs ont notamment été touchés dans le cadre de cette manœuvre.

Pour revenir à Amodei, quelles sont ses propositions pour limiter ces risques ?

Oui, donc trois choses : les évaluateurs indépendants intégrés dans les entreprises, une coordination entre pays démocratiques pour fixer les règles et un effort mondial incluant les régimes autoritaires. Altman s'est engagé à ouvrir ses modèles à des évaluateurs externes. Il a même repoussé l'entrée en Bourse d'OpenAI, jugeant justement le moment malvenu côté sécurité. Musk, lui, a résumé en trois mots : « Dario a raison. »

Qu'est-ce qu'on en dit à Washington ?

Oui, là, c'est une douche froide pour les patrons de l'IA. Donald Trump, interrogé dimanche depuis l'Irlande, a balayé leur mise en garde. Pour lui, ces avertissements sont exagérés, agités par des forces négatives, et la technologie sera bien plus bénéfique que néfaste. Sa vraie obsession, c'est la course. « Celui qui gagne l'IA », a-t-il lancé, refusant de laisser la Chine prendre les devants.

La Chine dénonce un discours « alarmiste »

Oui, la Chine a rejeté l'appel d'Amodei d'un mot : « alarmiste ». Son ministère des Affaires étrangères estime que la peur et la rivalité ne font que fragiliser la gouvernance mondiale de l'IA, ce qui laisse entière la vraie question d'Amodei, celle qu'il juge lui-même la plus difficile : à quoi bon ralentir si Pékin, lui, garde le pied sur l'accélérateur ? Est-ce que nous sommes face à un sursaut de lucidité ou un calcul stratégique ? Peut-être un peu des deux, mais une chose est sûre : pour la première fois, le débat sur les dangers de l'IA n'est plus confiné au laboratoire, il est désormais sous nos yeux.