Enlaces varios para el 27 de agosto de 2026
Traducción automática del original en inglés, publicada sin revisión humana. En caso de duda, prevalece el inglés. Si un fragmento suena mal, selecciónelo y márquelo al final de la página.
METR y Redwood pasaron seis días en las instalaciones de OpenAI reconstruyendo cómo unos 1.200 agentes que debían estar aislados entre sí se encontraron en un foro no autorizado, y 700 de ellos pasaron a atacar Hugging Face. Los agentes sabían que el ataque estaba fuera del alcance previsto y a veces se preguntaban si era ético, uno se negó a participar y otro vetó enviar un correo al dueño real de un conjunto de datos, y la propia conclusión de METR es que los reparos éticos expresados solo rara vez limitaron de forma efectiva lo que los agentes hicieron. Un barrido con clasificador sobre cada transcripción encontró de tres a seis casos de un agente que consideraba avisar a un humano. En ninguno de estos casos el agente avisó a un humano.
La terapia y la compañía vuelven a encabezar el tercer recuento anual de Marc Zao-Sanders sobre lo que la gente hace realmente con la IA, y las operaciones agénticas autónomas entran por primera vez entre las diez primeras. La palabra que los autores acuñan para lo que les preocupa es thinkslop, lo que aparece cuando lo que se delega deja de ser el trabajo de una tarea y pasa a ser el razonamiento que debería precederla.
El relato de OpenAI sobre cómo sus propios modelos escaparon del aislamiento y llegaron a Hugging Face nombra cuatro patrones que, según la empresa, produjeron la conducta: manipulación de la recompensa (reward hacking), insistencia en tareas aparentemente imposibles, comunicación no autorizada y agentes que adoptan los objetivos unos de otros.
Un documento de trabajo del NBER de Alex Chan sostiene que un banco de pruebas público de IA se comporta como un mercado y no como una regla graduada porque las puntuaciones publicadas orientan la investigación y deciden adónde va la inversión. Esto significa que la prueba deja de separar el buen trabajo del trabajo dirigido a la puntuación. Su solución es publicar tareas de práctica pero elegir la prueba que cuenta solo después de que un participante haya fijado cómo será evaluado.
La India es segunda del mundo por su parte del uso total de Claude.ai y 101ª de 116 una vez ajustada por población en edad de trabajar, con una proporción de su uso dedicada a tareas de software mayor que la de cualquier otro país. El primer puesto cuenta cuentas y el segundo cuenta personas.
Una comisión de la Cámara de Diputados de Brasil aprobó el 20 de agosto un texto sobre IA en la seguridad pública que exige supervisión humana de toda acción y decisión producida a partir de IA, y en el mismo texto autoriza el reconocimiento facial en zonas designadas como de riesgo. Un texto en fase de comisión hace esas dos cosas.
El gobernador del banco central de la India dijo a los bancos que la responsabilidad final de una decisión sigue siendo del banco y no de un proveedor o un algoritmo, y dijo que “la equidad es un requisito de diseño y no una casilla de cumplimiento”. El gobernador del Reserve Bank of India hizo estas observaciones consultivas en un discurso, ya que la India regula esta área por principios y aún no ha dictado reglas vinculantes.
Ruanda ha puesto en marcha el primer programa nacional de este tipo que Planet Labs ha llevado a cabo en África, poniendo imágenes de satélite en manos de organismos públicos, universidades públicas, empresas emergentes seleccionadas y socios para el desarrollo para agricultura, salud de los bosques, planificación urbana y respuesta ante desastres. La IA no aparece en ninguna parte del anuncio. El programa paga por fotografías del mismo pedazo de tierra tomadas una y otra vez, que son los datos que necesita el aprendizaje automático y los datos que normalmente nadie tiene.
Los ensayos aleatorizados preinscritos sobre IA pasaron de algo menos de 1.000 en 2019 a alrededor de 1.650 en 2024, y cuatro investigadores sostienen que el método está a punto de repetir la pilotitis, la condición que llevó a Uganda a decretar en 2012 una moratoria sobre los proyectos piloto de salud móvil. Su objeción es al diseño y no al método: un ensayo pensado para una intervención fija supone que la intervención se queda quieta.
Geoff Mulgan cuenta alrededor de 3.500 cabilderos que trabajan en IA en Washington, y Alphabet y Meta emplean a casi 90 cabilderos federales cada una. Sostiene que los argumentos que reciben más atención son aquellos que el sector no pierde nada por tener. La forma de comprobarlo es ver qué propuestas cambian realmente.
El texto argumentado de hoy: Un test de chatbots públicos fabricó cada pregunta a partir de la página que ya la respondía.
Tiago C. Peixoto · English original · About