Uma regra escrita para um só mercado virou propriedade da ferramenta que todos os outros usam
Tradução automática do original em inglês, publicada sem revisão humana. Em caso de dúvida, o inglês prevalece. Se um trecho soar errado, seleccione-o e sinalize-o no fim da página.
As empresas de IA gostam da expressão “IA democrática”. Veja o que isso significa na prática.
Bruxelas escreveu regras para o próprio mercado. A Anthropic agora insere uma marca invisível no texto produzido pelo Claude, no mundo todo, inclusive em texto que a pessoa escreveu e só mandou traduzir ou ajustar. Ninguém em Nairóbi, Jacarta ou São Paulo teve voz nisso.
A marca não é o problema. Saber se um modelo tocou um texto vale algo, embora responda a uma pergunta mais estreita do que a que as pessoas vão fazer: não diz se o modelo forneceu o argumento ou apenas o inglês.
Ninguém precisou fazer lobby. Uma empresa que atende um mercado rigoroso e vários sem regras teria de construir e manter duas linhas de produção, e uma regra aplicada em todo lugar custa menos que duas. Então o regulador mais rigoroso define o padrão para todos, e o faz pela aritmética de custos de uma empresa. Nada nessa aritmética precisa considerar as pessoas na outra ponta.
O melhor argumento a favor é real. Um país pequeno demais para legislar sobre o comportamento de um modelo ganha proteções que nunca conseguiria impor, e um mundo em que cada ferramenta se comporta de forma diferente por jurisdição seria impagável justamente para esses países. A objeção não é à regra. É que o alcance da regra e a responsabilidade por ela agora terminam em lugares diferentes: ela obriga onde foi aprovada, e o objeto a carrega para todos os outros lugares, sem registro, sem motivos e sem ninguém responsável fora da Europa.
Comecei a mover alguns projetos para outro modelo, hesitante, porque ele não marca meu texto desse jeito.
Os leitores da versão original deste argumento nomearam o padrão mais rápido do que eu. Paternalismo foi uma sugestão. Governança autocrática foi a outra. De todo modo, a exigência prática é menor que representação, que ninguém pode oferecer a um público global: é um caminho para contestar a classificação. É a mesma coisa que os requerentes da assistência social na Indonésia ganharam quando o canal de recursos abriu, para outro cadastro.
Links diversos
-
O Vietnã não proibiu a IA estrangeira no governo, publicou uma planilha de pontuação. Os critérios avaliam uma plataforma de 0 a 100 e a aprovam com 70, com pelo menos metade do bloco de conformidade, e dois sistemas nacionais estão atualmente autorizados para o trabalho jurídico do Estado (critérios do ministério e Carta 4920 de 7 de julho, com a diretiva de aplicação relatada aqui). Aqui as regras foram escritas para o mercado do próprio comprador, em público, pelo governo que vai aplicá-las.
-
Urs Gasser, Viktor Mayer-Schönberger e Fabienne Marco argumentam que a supervisão de IA baseada em benchmarks se degrada conforme funciona: os sistemas aprendem o que os avaliadores medem e ficam melhores no teste do que no trabalho. A proposta deles inclui cláusulas de caducidade que invalidam um benchmark a menos que alguém o revalide, coisa incomum de um texto de governança pedir dos próprios instrumentos.
-
Oito pessoas, entre elas servidores municipais e ouvidores, mapearam o que o algoritmo de elegibilidade social de um município holandês realmente faz e encontraram riscos ausentes do registro público, inclusive nenhuma via para contestar uma decisão errada. O registro anota que o sistema existe, não o que ele pode fazer com a pessoa sobre quem decide.
Tiago C. Peixoto · English original · About