Una regla escrita para un solo mercado se volvió propiedad de la herramienta que usan todos los demás
Traducción automática del original en inglés, publicada sin revisión humana. En caso de duda, prevalece el inglés. Si un fragmento suena mal, selecciónelo y márquelo al final de la página.
A las empresas de IA les gusta la expresión “IA democrática”. Esto es lo que significa en la práctica.
Bruselas escribió reglas para su propio mercado. Anthropic ahora inserta una marca invisible en el texto producido por Claude, en todo el mundo, incluido el texto que una persona escribió y solo mandó traducir o pulir. Nadie en Nairobi, Yakarta o São Paulo tuvo voz en ello.
La marca no es el problema. Saber si un modelo tocó un texto vale algo, aunque responde a una pregunta más estrecha que la que le van a hacer: no dice si el modelo aportó el argumento o solo el inglés.
Nadie tuvo que hacer lobby. Una empresa que atiende un mercado estricto y varios sin reglas tendría que construir y mantener dos líneas de producción, y una regla aplicada en todas partes cuesta menos que dos. Así que el regulador más estricto fija el estándar para todos, y lo hace por la aritmética de costes de una empresa. Nada en esa aritmética tiene que considerar a las personas del otro extremo.
El mejor argumento a favor es real. Un país demasiado pequeño para legislar sobre el comportamiento de un modelo obtiene protecciones que nunca habría podido imponer, y un mundo donde cada herramienta se comporta distinto según la jurisdicción sería inasumible precisamente para esos países. La objeción no es a la regla. Es que el alcance de la regla y la responsabilidad por ella terminan ahora en lugares distintos: obliga donde se aprobó, y el objeto la lleva a todos los demás sitios, sin registro, sin motivos y sin nadie responsable fuera de Europa.
He empezado a mover algunos proyectos a otro modelo, con dudas, porque no marca mi texto de esta manera.
Los lectores de la versión original de este argumento nombraron el patrón más rápido que yo. Paternalismo fue una sugerencia. Gobernanza autocrática fue la otra. En cualquier caso la exigencia práctica es menor que la representación, que nadie puede ofrecer a un público global: es una vía para impugnar la clasificación. Es lo mismo que obtuvieron los solicitantes de asistencia social en Indonesia cuando se abrió su canal de apelaciones, para otro expediente.
Enlaces varios
-
Vietnam no prohibió la IA extranjera en el gobierno, publicó una hoja de puntuación. Los criterios califican una plataforma sobre 100 y la admiten con 70, con al menos la mitad del bloque de cumplimiento, y dos sistemas nacionales están actualmente autorizados para el trabajo jurídico del Estado (criterios del ministerio y Carta 4920 del 7 de julio, con la directiva de aplicación informada aquí). Aquí las reglas se escribieron para el mercado del propio comprador, en público, por el gobierno que las va a aplicar.
-
Urs Gasser, Viktor Mayer-Schönberger y Fabienne Marco sostienen que la supervisión de la IA basada en pruebas se degrada a medida que funciona: los sistemas aprenden qué miden los evaluadores y mejoran en la prueba más que en el trabajo. Su propuesta incluye cláusulas de caducidad que anulan una prueba salvo que alguien la revalide, algo poco habitual en un texto de gobernanza respecto de sus propios instrumentos.
-
Ocho personas, entre ellas personal municipal y defensores del pueblo, mapearon qué hace realmente el algoritmo de elegibilidad social de un municipio neerlandés y encontraron riesgos ausentes de su registro público, incluida la falta de una vía para impugnar una decisión errónea. El registro anota que el sistema existe, no lo que puede hacerle a la persona sobre la que decide.
Tiago C. Peixoto · English original · About