La consultation est l’échelon bon marché
Traduction automatique de l’original anglais, publiée sans relecture humaine. En cas de doute, l’anglais fait foi. Si un passage sonne faux, sélectionnez-le et signalez-le en bas de page.
L’essai d’Hélène Landemore dans Noema propose trois échelons pour donner aux gens ordinaires voix au chapitre dans la gouvernance de l’IA : une consultation mondiale médiée par un LLM, puis une délibération en ligne en temps réel, puis des assemblées citoyennes. Le premier échelon est déjà réalisable : Anthropic a interrogé 80 508 personnes dans 159 pays et 70 langues en une seule semaine.
L’Assemblée mondiale réunie pour la COP26 a fait siéger 100 personnes tirées au sort, parlant plus de 30 langues, et il a fallu des indemnités, de la traduction et 68 heures. Paolo Spada et moi avons soutenu qu’une centaine de personnes n’est un échantillon représentatif de rien, car les petits échantillons, les listes de population biaisées et les faibles taux d’acceptation ruinent la prétention avant même que quiconque ne délibère.
L’objection vers laquelle tout le monde se tourne est la plus faible. Les répondants d’Anthropic étaient des “utilisateurs actifs de Claude qui y avaient déjà trouvé assez de valeur pour continuer à utiliser l’IA”, mais mes travaux avec des collègues ont montré que le biais dans la participation ne se transmet pas de façon fiable à ceux qui en bénéficient, car il doit survivre à quatre maillons, et dans nos cas au moins un cédait toujours.
Dans la constitution islandaise issue du crowdsourcing, c’est le dernier maillon qui a cédé, et le processus n’a eu aucune incidence sur la décision. Une consultation à laquelle personne n’est tenu de répondre est à l’abri du biais comme une boîte à idées est à l’abri du biais.
Ce premier échelon coûte une clé d’API et une semaine, et les prochaines étapes annoncées par Anthropic sont une étude supplémentaire et des partenariats de déploiement. Voici donc l’opportunité pour quiconque finance ce travail : les consultations auront lieu de toute façon. Ce qui reste à payer, c’est quelqu’un à l’autre bout, obligé de répondre.
Liens en vrac
- Stanford HAI défend l’idée que des poids ouverts ne sont pas de l’open source : on peut télécharger le modèle sans pouvoir vérifier le travail.
- Clem Delangue régulerait les poids, les API et les applications comme trois choses différentes, car “on ne régule pas l’acier, on soumet les voitures à des crash-tests”.
- Les entreprises technologiques chinoises recrutent des apprentis en IA dès le lycée, face au déficit de cinq millions de travailleurs supposé par McKinsey d’ici 2030, que les filières existantes combleraient environ à un tiers.
- L’IA générative inonde le marché du livre : sur 14 419 titres Amazon, le nombre de titres vendus sur un trimestre a été multiplié par 19,2 et le chiffre d’affaires trimestriel seulement par 8,9.
Tiago C. Peixoto · English original · About