Les modèles d’intelligence artificielle en accès libre comportent « par définition » plus de risques que les systèmes propriétaires, affirme Guillaume Princen, responsable international d’Anthropic. Gwladys Johnson revient pour The European Scientist sur une prise de position qui relance le débat entre ouverture, sécurité et souveraineté européenne.
Les modèles d’intelligence artificielle dont le code est rendu public présentent des risques de sécurité plus élevés que les systèmes propriétaires. C’est la position défendue par Guillaume Princen, directeur des activités internationales d’Anthropic, mercredi 14 octobre au Sommet international sur l’IA de Dublin.
« Par définition, il y a plus de risques avec ces modèles », a-t-il déclaré sur Bloomberg TV. « Nous devons être très prudents avec l’open-source sur les questions de sécurité. »
Des paramètres publics, hors de tout contrôle
Un modèle en accès libre rend publics ses paramètres internes — les réglages qui définissent son comportement. N’importe qui peut le télécharger, le modifier et l’exploiter sur ses propres serveurs, hors de tout contrôle de l’éditeur. C’est précisément ce point qui inquiète Anthropic : une fois les paramètres publiés, impossible d’empêcher un usage malveillant.
Une ligne plus dure que celle de Dario Amodei
Cette prise de position va plus loin que celle de Dario Amodei, le directeur général de l’entreprise. En juillet, il estimait que les modèles en accès libre sans capacités dangereuses constituaient un bien public. Guillaume Princen, lui, met en cause la catégorie entière.
L’Europe entre souveraineté et sécurité
Ce débat fait rage dans un contexte de concurrence accrue. La startup française Mistral AI lance un modèle en accès libre présenté comme une option souveraine pour l’Europe. Des modèles chinois comparables séduisent de plus en plus de pays soucieux de leur indépendance technologique. Face à eux, Anthropic défend ses systèmes propriétaires comme un investissement rentable sur la durée : Claude Opus 5.5 est présenté comme 40 % moins coûteux qu’une version précédente.
Le débat n’est pas tranché. Le président d’Alibaba, Joe Tsai, défendait la semaine dernière la thèse inverse : l’accès libre serait justement la meilleure garantie d’indépendance pour l’Europe, face à la domination américaine et chinoise.
Gwladys Johnson
Crédit image : mikemacmarketing, via Wikimedia Commons, CC BY 2.0