A consulta é o degrau barato
Tradução automática do original em inglês, publicada sem revisão humana. Em caso de dúvida, o inglês prevalece. Se um trecho soar errado, seleccione-o e sinalize-o no fim da página.
O ensaio de Hélène Landemore na Noema propõe três degraus para dar às pessoas comuns voz na governança da IA: uma consulta global mediada por um LLM, depois deliberação on-line em tempo real, depois assembleias de cidadãos. O primeiro degrau já é viável: a Anthropic entrevistou 80.508 pessoas em 159 países e 70 idiomas em uma única semana.
A Assembleia Global convocada para a COP26 reuniu 100 pessoas escolhidas por sorteio, falando mais de 30 idiomas, e exigiu ajudas de custo, tradução e 68 horas. Paolo Spada e eu argumentamos que cem pessoas não são uma amostra representativa de nada, porque amostras pequenas, listas populacionais enviesadas e baixas taxas de aceitação derrotam a alegação antes que alguém delibere.
A objeção a que todos recorrem é a mais fraca. Os respondentes da Anthropic eram “usuários ativos do Claude que já haviam encontrado valor suficiente para continuar usando IA”, mas meu trabalho com colegas constatou que o viés em quem participa não se transmite de forma confiável a quem se beneficia, porque precisa sobreviver a quatro elos, e em nossos casos ao menos um sempre se rompia.
Na constituição islandesa feita por crowdsourcing foi o último elo que se rompeu, e o processo não teve influência alguma sobre a decisão. Uma consulta que ninguém é obrigado a responder está a salvo do viés do mesmo modo que uma caixa de sugestões está.
Esse primeiro degrau custa uma chave de API e uma semana, e os próximos passos declarados pela Anthropic são mais um estudo e parcerias de implantação. Então aqui está a oportunidade para quem financia isso: as consultas vão acontecer de qualquer forma. O que ainda precisa ser pago é alguém do outro lado obrigado a responder.
Links avulsos
- O Stanford HAI defende que pesos abertos não são código aberto: dá para baixar o modelo e ainda assim não conferir o trabalho.
- Clem Delangue regularia pesos, APIs e aplicações como três coisas diferentes, porque “não regulamos o aço, fazemos crash-test em carros”.
- Empresas de tecnologia chinesas recrutam aprendizes de IA ainda no ensino médio, diante da escassez de cinco milhões de trabalhadores especulada pela McKinsey até 2030, que os canais de formação existentes preencheriam cerca de um terço.
- A IA generativa inunda o mercado de livros: entre 14.419 títulos da Amazon, o número dos que venderam em um trimestre cresceu 19,2 vezes e a receita trimestral apenas 8,9 vezes.
Tiago C. Peixoto · English original · About