Anthropic et OpenAI accusés d’utiliser la sécurité pour consolider leur avance dans l’IA

Les appels de Dario Amodei et Sam Altman à ralentir le développement des modèles d’intelligence artificielle suscitent une lecture beaucoup plus sceptique chez certains analystes technologiques. Gil Luria, analyste chez D.A. Davidson, estime que les dirigeants d’Anthropic et d’OpenAI adoptent une stratégie qu’il qualifie de « machiavélique » : ils mettent publiquement en garde contre les risques associés aux modèles les plus puissants, tout en évitant de prendre des mesures immédiates susceptibles de ralentir leurs propres entreprises.

Selon Luria, ni Anthropic ni OpenAI n’ont annoncé la suspension de leurs entraînements, le report de nouveaux modèles ou une réduction de leurs activités commerciales. Les deux entreprises ont plutôt soutenu l’idée d’un ralentissement coordonné, dans lequel tous les principaux laboratoires réduiraient simultanément le rythme de progression. Pour l’analyste, cette nuance est essentielle parce qu’elle pourrait permettre aux leaders actuels de conserver leur avance tout en poussant l’ensemble du secteur vers davantage de restrictions.

Luria remet en question les motivations derrière les avertissements

Sur Yahoo Finance, Luria a expliqué qu’il ne mettait pas en doute les compétences d’Amodei ou d’Altman. Les deux dirigeants ont construit des entreprises devenues centrales dans l’industrie de l’intelligence artificielle. Son scepticisme porte plutôt sur leurs motivations lorsqu’ils demandent davantage de prudence.

L’analyste souligne que les deux dirigeants n’ont pas déclaré qu’ils allaient eux-mêmes réduire immédiatement la vitesse de développement. Leur message est plutôt conditionnel : si tout le monde ralentit, leurs entreprises pourront également ralentir.

Pour Luria, cette distinction transforme le débat. Un ralentissement collectif pourrait être présenté comme une mesure de sécurité, mais il pourrait également rendre plus difficile le rattrapage des entreprises déjà en retard sur les laboratoires de pointe.

Amodei appelle à laisser le temps aux mesures de sécurité

Dario Amodei a renforcé le débat samedi avec un essai de 3 800 mots consacré aux risques liés à l’évolution rapide de l’intelligence artificielle.

Le PDG d’Anthropic a déclaré qu’il était devenu convaincu ces derniers mois que la prévention des risques ne suffisait plus. Selon lui, les entreprises ne doivent pas seulement investir dans la sécurité ; elles doivent également ralentir la progression des capacités afin que les mécanismes de prévention aient suffisamment de temps pour suivre.

Amodei a explicitement appelé à réduire la vitesse à laquelle les modèles gagnent de nouvelles capacités. Il a néanmoins précisé que les progrès continueraient à sembler rapides et que le temps supplémentaire devait être utilisé intelligemment.

Cette position ne correspond donc pas à un arrêt complet du développement. Elle vise plutôt une réduction du rythme auquel les modèles de frontière gagnent en puissance.

Altman soutient son rival et ajoute deux risques majeurs

Sam Altman a rapidement soutenu la position d’Amodei avant de publier lundi un message développant sa propre vision des dangers liés au développement de l’IA.

Selon le patron d’OpenAI, deux scénarios doivent absolument être évités.

Le premier serait une perte de contrôle de l’avenir au profit de l’intelligence artificielle. Altman affirme qu’OpenAI est clairement « Team Humanity » et que l’IA doit toujours rester au service des personnes. Pour éviter une perte de contrôle, il estime que les techniques d’alignement et de sécurité doivent progresser plus vite que les capacités des modèles.

Le second risque concerne la concentration du pouvoir. Selon Altman, un système extrêmement puissant utilisé par une seule personne, une seule entreprise ou même un seul pays pourrait imposer une vision particulière au reste du monde.

Le discours sur la concentration crée une contradiction

L’argument d’Altman contre une concentration excessive du pouvoir est particulièrement important dans le cadre de la critique formulée par Luria.

Anthropic et OpenAI figurent elles-mêmes parmi les entreprises les plus avancées du secteur. Si les règles de sécurité deviennent suffisamment coûteuses ou complexes, les laboratoires plus petits pourraient avoir davantage de difficultés à développer leurs propres modèles de frontière.

Dans cette lecture, une politique destinée à empêcher une concentration du pouvoir pourrait paradoxalement renforcer les entreprises qui disposent déjà des ressources financières, des équipes de recherche et des infrastructures nécessaires pour supporter des exigences plus importantes.

Luria considère donc que les messages d’Anthropic et OpenAI doivent être analysés non seulement sous l’angle de la sécurité, mais également sous celui de la concurrence.

Aucun changement immédiat dans les activités d’Anthropic

Le point principal de l’analyste est que le discours alarmant ne s’accompagne pas encore d’un ralentissement opérationnel visible.

Luria affirme qu’Anthropic ne reporte pas ses cycles de pré-entraînement. L’entreprise ne change pas la manière dont elle entraîne ses modèles et ne modifie pas le déploiement de ses produits.

Cela signifie que les activités continuent pendant que le débat sur une réduction collective du rythme s’intensifie.

Selon lui, cette différence entre les déclarations publiques et les actions concrètes doit retenir l’attention des investisseurs. Les avertissements peuvent paraître très importants pour l’avenir de l’industrie tout en ayant, à court terme, peu d’effet sur la croissance réelle des deux groupes.

Les investisseurs ont pourtant réagi immédiatement

Même en l’absence d’un changement opérationnel confirmé, les déclarations d’Amodei et d’Altman ont pesé sur plusieurs actions liées à l’intelligence artificielle.

Des entreprises comme Micron, Sandisk et Nvidia ont subi des pressions après la montée des inquiétudes concernant un éventuel ralentissement du développement des modèles.

La réaction s’explique par le rôle de ces entreprises dans l’infrastructure nécessaire à l’IA.

Une réduction durable du rythme de développement pourrait diminuer certains besoins en investissement, notamment les dépenses massives engagées pour entraîner des systèmes toujours plus avancés.

Le marché a donc commencé à intégrer la possibilité qu’un changement de rythme puisse remettre en question une partie des dépenses prévues dans l’écosystème.

Un ralentissement pourrait modifier les valorisations technologiques

Des milliards de dollars sont actuellement investis dans l’infrastructure américaine d’intelligence artificielle.

Si Anthropic, OpenAI et d’autres laboratoires réduisaient réellement le nombre ou l’intensité de leurs entraînements de modèles, les conséquences pourraient dépasser largement leurs propres revenus.

Les sociétés fournissant des puces, du stockage ou d’autres composants utilisés dans les systèmes d’IA pourraient voir les attentes de croissance être révisées.

Cette possibilité peut entraîner une nouvelle évaluation des actions liées au secteur. Les investisseurs paient actuellement certaines entreprises sur la base de la poursuite d’une expansion très rapide des besoins en calcul.

Si cette hypothèse change, leurs multiples de valorisation pourraient également évoluer.

Mais les actions pourraient aussi rebondir si rien ne change

Luria estime cependant que le marché pourrait rapidement revoir cette réaction si les entreprises continuent leurs activités sans modification majeure.

Son argument est simple : les déclarations d’Amodei et d’Altman paraissent fortes, mais elles n’ont pas encore entraîné la suspension de programmes d’entraînement ou de lancements commerciaux.

Si les entreprises poursuivent leur croissance au même rythme, la crainte d’une chute immédiate des dépenses liées à l’IA pourrait s’atténuer.

Le marché devrait alors distinguer plus clairement les propositions politiques ou sectorielles d’un véritable changement dans les plans d’investissement.

L’IPO d’Anthropic constitue un test important

Luria souligne également qu’Anthropic reste probablement en mesure d’entrer en Bourse dès le mois prochain.

Pour lui, les résultats de l’entreprise devraient rester très solides. Il estime qu’Anthropic connaît une croissance rapide et bénéficie d’une forte rentabilité sur la base de sa marge brute.

Cette perspective renforce sa critique du discours sur le ralentissement.

Une entreprise qui prépare potentiellement une introduction en Bourse tout en maintenant une forte croissance n’agit pas comme une société ayant décidé de freiner immédiatement son activité.

L’écart entre cette dynamique financière et les avertissements publics alimente donc les questions sur l’objectif réel de la campagne en faveur d’une réduction du rythme.

Les leaders pourraient bénéficier de normes plus strictes

Si les exigences de sécurité devenaient plus importantes, les grandes entreprises pourraient être mieux positionnées pour les respecter.

Les laboratoires disposant déjà de revenus élevés, d’équipes nombreuses et d’accès à une infrastructure massive pourraient absorber les coûts supplémentaires liés aux évaluations et aux mécanismes de sécurité.

Pour les petits acteurs, ces mêmes exigences pourraient représenter un obstacle beaucoup plus important.

C’est précisément ce qui nourrit l’accusation selon laquelle les leaders actuels pourraient vouloir « consolider leur pouvoir » en encourageant un environnement réglementaire ou industriel plus difficile pour les nouveaux concurrents.

Luria ne conteste pas que les risques liés à l’intelligence artificielle puissent être réels. Il remet en question l’idée que les propositions des deux entreprises soient uniquement motivées par ces risques.

La puissance des modèles reste au centre du débat

Le discours d’Amodei repose sur l’idée que les capacités progressent plus vite que les protections.

Celui d’Altman ajoute la possibilité d’une perte de contrôle et d’une concentration excessive du pouvoir.

Ces inquiétudes sont suffisamment importantes pour modifier le sentiment des investisseurs, même si aucune décision concrète de ralentissement n’a encore été annoncée.

Le débat devient donc double.

D’un côté, il porte sur la sécurité : jusqu’où les modèles peuvent-ils progresser avant que les mécanismes d’alignement deviennent insuffisants ?

De l’autre, il concerne la structure du marché : qui bénéficie réellement des règles et limitations mises en place pour réduire ces risques ?

Une même proposition peut servir plusieurs objectifs

Les deux interprétations ne sont pas nécessairement mutuellement exclusives.

Amodei et Altman peuvent considérer que les risques sont sérieux tout en sachant qu’un ralentissement coordonné pourrait favoriser les entreprises déjà les mieux placées.

La question posée par Luria concerne précisément ce chevauchement entre sécurité et intérêt commercial.

Si Anthropic et OpenAI souhaitaient prouver qu’elles sont prêtes à sacrifier immédiatement une partie de leur avantage économique, elles pourraient modifier leurs propres calendriers. Selon l’analyste, ce n’est pas ce qu’elles font aujourd’hui.

Elles demandent plutôt que l’ensemble du secteur avance selon un rythme commun.

Le marché attend désormais les actes

Les investisseurs ont déjà réagi aux avertissements, mais les prochaines décisions des entreprises seront probablement plus importantes que leurs déclarations.

Une véritable modification des cycles d’entraînement, des déploiements ou des dépenses d’infrastructure fournirait la preuve d’un ralentissement effectif.

À l’inverse, la poursuite des programmes actuels confirmerait la lecture de Luria selon laquelle le débat porte davantage sur les règles futures du secteur que sur une réduction immédiate des activités.

Pour l’instant, Anthropic continue de se diriger vers une possible introduction en Bourse et Luria estime que sa croissance reste forte.

OpenAI continue également de développer ses modèles tout en soutenant l’idée d’un rythme plus contrôlé.

Le débat sur la sécurité devient aussi un débat sur la concurrence

Les déclarations d’Amodei et d’Altman ont réussi en quelques jours à transformer la manière dont investisseurs et analystes regardent la course à l’intelligence artificielle.

Les risques techniques ne sont plus les seuls éléments en jeu. La question de savoir qui contrôle le rythme du développement et qui peut supporter de nouvelles contraintes devient tout aussi importante.

Luria considère que les deux dirigeants utilisent peut-être la sécurité comme levier stratégique pour préserver leur avance. Son analyse repose surtout sur un constat : aucun d’eux n’a encore annoncé de changement immédiat capable de ralentir sa propre entreprise.

La véritable réponse viendra donc des décisions opérationnelles. Tant que les entraînements, les déploiements et les plans commerciaux se poursuivent, le marché devra distinguer les avertissements sur l’avenir d’une modification réelle du fonctionnement actuel de l’industrie.