La consulta es el peldaño barato
Traducción automática del original en inglés, publicada sin revisión humana. En caso de duda, prevalece el inglés. Si un fragmento suena mal, selecciónelo y márquelo al final de la página.
El ensayo de Hélène Landemore en Noema propone tres peldaños para dar voz a la gente corriente en la gobernanza de la IA: una consulta global mediada por un LLM, luego deliberación en línea en tiempo real, luego asambleas ciudadanas. El primer peldaño ya se puede construir: Anthropic entrevistó a 80.508 personas en 159 países y 70 idiomas en una sola semana.
La Asamblea Global convocada para la COP26 sentó a 100 personas elegidas por sorteo, que hablaban más de 30 idiomas, y requirió dietas, traducción y 68 horas. Paolo Spada y yo hemos sostenido que cien personas no son una muestra representativa de nada, porque las muestras pequeñas, los listados de población sesgados y las bajas tasas de aceptación derrotan la pretensión antes de que nadie delibere.
La objeción a la que todo el mundo recurre es la más débil. Los encuestados de Anthropic eran “usuarios activos de Claude que ya habían encontrado suficiente valor como para seguir usando IA”, pero mi trabajo con colegas halló que el sesgo en quién participa no se transmite de forma fiable a quién se beneficia, porque tiene que sobrevivir a cuatro eslabones, y en nuestros casos al menos uno siempre se rompía.
En la constitución islandesa hecha por crowdsourcing se rompió el último eslabón, y el proceso no tuvo influencia sobre la decisión. Una consulta que nadie está obligado a responder está a salvo del sesgo igual que lo está un buzón de sugerencias.
Ese primer peldaño cuesta una clave de API y una semana, y los siguientes pasos anunciados por Anthropic son un estudio más y acuerdos de despliegue. Así que aquí está la oportunidad para quien financie esto: las consultas van a ocurrir de todos modos. Lo que sigue sin estar pagado es alguien al otro lado obligado a responder.
Enlaces sueltos
- Stanford HAI sostiene que los pesos abiertos no son código abierto: se puede descargar el modelo y aun así no comprobar el trabajo.
- Clem Delangue regularía pesos, API y aplicaciones como tres cosas distintas, porque “no regulamos el acero, sometemos los coches a pruebas de choque”.
- Las tecnológicas chinas reclutan aprendices de IA desde el instituto, frente al déficit de cinco millones de trabajadores que especula McKinsey para 2030, que los canales existentes cubrirían alrededor de un tercio.
- La IA generativa inunda el mercado del libro: entre 14.419 títulos de Amazon, el número de los que vendieron en un trimestre creció 19,2 veces y los ingresos trimestrales solo 8,9 veces.
Tiago C. Peixoto · English original · About