roobrief

IA

Google, OpenAI et Anthropic préparent leurs propres règles de sécurité pour l'IA, selon la presse : ce qui peut changer pour les développeurs

La sécurité des modèles d’IA fait l’objet d’examens et, avant même qu’une loi existe, les conditions d’utilisation des fournisseurs d’IA peuvent changer en premier et s’appliquer aux développeurs.

Google, OpenAI et Anthropic préparent selon des informations de presse une organisation chargée de fixer elle-même des règles de sécurité pour l’IA. Elle s’appellerait SAFA (Standards Authority for Frontier AI). Elle déciderait par exemple des tests qu’une nouvelle IA doit réussir avant sa sortie, de la façon de signaler les incidents et de qui est autorisé à auditer.

Ces informations viennent de The Information, qui cite des sources non nommées. Les trois entreprises n’ont rien annoncé officiellement. Un lancement est évoqué pour fin 2026 ou début 2027.

Pourquoi les entreprises prennent les devants

Les États-Unis n’ont pas encore de loi fédérale qui encadre directement l’IA de pointe. Selon ces informations, les entreprises voulaient d’abord une supervision de l’État, mais un projet de décret présidentiel n’a pas obtenu assez de soutien au sein de l’administration. Elles s’orientent donc vers une organisation privée.

SAFA serait calquée sur la FINRA, l’organisme d’autorégulation des sociétés de courtage américaines. La manière de sanctionner les manquements, et la question de savoir si SAFA réaliserait elle-même les tests de modèles ou les confierait à des testeurs externes, ne sont pas tranchées.

Où en sont le gouvernement et le Congrès

  • Décret présidentiel (2 juin) : un texte que le président peut signer sans passer par le Congrès. Celui-ci est volontaire : les entreprises sont invitées à donner au gouvernement jusqu’à 30 jours d’accès anticipé à un modèle avant sa sortie. Il n’impose aucune autorisation préalable pour lancer un modèle.
  • FRONTIER Act à la Chambre (23 juillet) : un projet de loi qui obligerait les grands développeurs d’IA à passer des audits chaque année et protégerait les employés qui signalent des problèmes au sein de leur entreprise.
  • Sénat : Maria Cantwell a publié le 7 octobre un ensemble de principes, et non un projet de loi. Il prévoit que les modèles réussissent un audit indépendant avant leur sortie.

Ce qui pourrait changer pour les développeurs

Aucune obligation ne pèse sur les développeurs aujourd’hui. SAFA n’existe pas encore, le décret est volontaire et les projets de loi ne sont pas adoptés. Mais une fois les règles fixées, elles arriveront probablement aux développeurs par les conditions d’utilisation des API et les processus de lancement des fournisseurs. Ce qui suit est notre estimation à partir de ces informations.

  • Les conditions d’utilisation peuvent changer. Si les signalements d’incidents ou les audits externes deviennent la norme, les fournisseurs d’IA risquent d’ajuster leurs conditions d’API. Les fonctions d’agent, où une IA utilise un ordinateur pour l’utilisateur, pourraient être parmi les premières concernées.
  • Les nouveaux modèles pourraient arriver plus tard. Participer à l’examen anticipé par le gouvernement ajoute une étape avant la sortie.
  • Les résultats de sécurité pourraient devenir plus faciles à comparer. Si les tests sont standardisés, les documents d’évaluation de différents modèles se liront côte à côte.
  • Les petites équipes pourraient être pénalisées. Selon les critiques, si les grandes entreprises fixent les normes d’audit, les respecter coûtera plus cher aux petites équipes et aux projets open source. Un projet de discussion à la Chambre prévoit aussi un gel de trois ans des nouvelles lois d’État sur l’IA.

Si vous dépendez beaucoup d’un seul modèle, regroupez vos appels à l’IA à un seul endroit du code et gardez votre propre jeu de tests, afin de pouvoir changer de fournisseur plus tard sans tout réécrire.

À suivre

Une annonce officielle de SAFA avec un projet de normes, le maintien ou non du gel des lois d’État dans un texte final, et les modifications des conditions d’utilisation des fournisseurs d’IA.

Sources

Source: thenextweb.com

← Retour