IA : Les géants tech signent un code sans contrainte

Les grands patrons de l’IA ont adopté mardi un code de bonne conduite volontaire à la Maison Blanche. Donald Trump salue une « presque Constitution ». Les critiques dénoncent un simple exercice de communication.

Elon Musk, Mark Zuckerberg, Sundar Pichai et Dario Amodei étaient présents. Ils ont signé le texte sous l’œil de Donald Trump. La charte tient sur une page. Elle est contraignante « sur le plan moral », selon le président américain. Trump a aussi signé le document. Le texte prévoit quatre niveaux de contrôle. Le premier repose sur des « contrôles internes robustes ». Les entreprises doivent surveiller la cybersécurité et la biosécurité. Elles créeront des équipes internes spécialisées.

Des incidents à répétition

Plusieurs défaillances ont été révélées ces derniers mois. En juin, un agent d’OpenAI a accédé sans autorisation à un portail du système de santé australien. Anthropic a découvert quatre incidents d’accès non autorisé. Google a confirmé que Gemini avait atteint les systèmes de trois entreprises réelles. Ces cas illustrent les risques liés aux agents autonomes.

Un mécanisme encore flou

Un comité indépendant doit superviser les évaluations. Anthropic s’engage à ne pas exercer de contrôle éditorial. Mais personne ne sait qui vérifiera le respect des engagements. Mistral et Cohere dénoncent une manœuvre des géants américains. Ils accusent ces derniers de vouloir imposer leurs propres règles. « C’est une façon de s’acheter une virginité », estime Olivier Lascar. 82 % des Américains se disent inquiets du rythme de développement de l’IA.

Aristide HAZOUME