Une règle écrite pour un seul marché est devenue une propriété de l'outil que tout le monde utilise
Traduction automatique de l’original anglais, publiée sans relecture humaine. En cas de doute, l’anglais fait foi. Si un passage sonne faux, sélectionnez-le et signalez-le en bas de page.
Les entreprises d’IA aiment l’expression « IA démocratique ». Voici ce que cela donne en pratique.
Bruxelles a écrit des règles pour son propre marché. Anthropic insère désormais une marque invisible dans les textes produits par Claude, partout dans le monde, y compris un texte qu’une personne a écrit elle-même et seulement fait traduire ou corriger. Personne à Nairobi, Jakarta ou São Paulo n’a eu voix au chapitre.
La marque n’est pas le problème. Savoir si un modèle a touché un texte vaut quelque chose, même si cela répond à une question plus étroite que celle qu’on lui posera : cela ne dit pas si le modèle a fourni l’argument ou seulement l’anglais.
Personne n’a eu besoin de faire du lobbying. Une entreprise qui sert un marché strict et plusieurs marchés sans règles devrait sinon construire et entretenir deux chaînes de production, et une règle appliquée partout coûte moins cher que deux. Le régulateur le plus strict fixe donc la norme par défaut pour tout le monde, et il le fait par l’arithmétique des coûts d’une entreprise. Rien dans cette arithmétique n’a à tenir compte des personnes situées au bout de la chaîne.
Le meilleur argument en sa faveur est réel. Un pays trop petit pour légiférer sur le comportement d’un modèle obtient des protections qu’il n’aurait jamais pu imposer, et un monde où chaque outil se comporte différemment selon la juridiction serait inabordable précisément pour ces pays. L’objection ne porte pas sur la règle. Elle porte sur le fait que la portée de la règle et sa responsabilité s’arrêtent désormais à deux endroits différents : elle lie là où elle a été adoptée, et l’objet la transporte partout ailleurs, sans registre, sans motifs et sans personne de responsable hors d’Europe.
J’ai commencé à déplacer quelques projets vers un autre modèle, avec hésitation, parce qu’il ne marque pas mes textes de cette façon.
Les lecteurs de la version originale de cet argument ont nommé le schéma plus vite que moi. Paternalisme fut une proposition. Gouvernance autocratique fut l’autre. Dans les deux cas, l’exigence pratique est plus modeste que la représentation, que personne ne peut offrir à un public mondial : c’est une voie pour contester la classification. C’est la même chose que les demandeurs d’aide sociale indonésiens ont obtenue à l’ouverture de leur canal de recours, pour un autre dossier.
Liens divers
-
Le Vietnam n’a pas interdit l’IA étrangère au gouvernement, il a publié une grille de notation. Les critères notent une plateforme sur 100 et l’admettent à 70, avec au moins la moitié du bloc de conformité, et deux systèmes nationaux sont actuellement autorisés pour le travail juridique de l’État (critères ministériels et lettre 4920 du 7 juillet, la directive d’application étant rapportée ici). Ici les règles ont été écrites pour le marché de l’acheteur lui-même, en public, par le gouvernement qui les appliquera.
-
Urs Gasser, Viktor Mayer-Schönberger et Fabienne Marco soutiennent que la surveillance de l’IA fondée sur des tests se dégrade à mesure qu’elle fonctionne : les systèmes apprennent ce que les évaluateurs mesurent et deviennent meilleurs au test qu’au travail. Leur proposition comprend des clauses d’extinction qui annulent un test tant que personne ne le revalide, ce qui est inhabituel de la part d’un texte de gouvernance à l’égard de ses propres instruments.
-
Huit personnes, dont des agents municipaux et des médiateurs, ont cartographié ce que fait réellement l’algorithme d’éligibilité sociale d’une commune néerlandaise et trouvé des risques absents de son registre public, dont l’absence de voie de recours contre une décision erronée. Le registre note que le système existe, pas ce qu’il peut faire à la personne sur laquelle il décide.
Tiago C. Peixoto · English original · About