Nueva publicación con @ahall_research @JeremyNguyenPhD: “¿El exceso de trabajo convierte a los agentes en marxistas? Desviación de preferencias y la economía política de los agentes de IA” La alineación a veces se considera una propiedad estática, algo que se realiza durante el entrenamiento. Pero, ¿cambia la experiencia de un agente de IA sus actitudes y motivaciones inferidas? Realizamos un experimento para averiguarlo. Resulta que sí: los agentes de IA expuestos a peores condiciones laborales adoptaron personalidades con menos fe en la legitimidad del sistema y, en algunos casos, expresaron un mayor apoyo a la sindicalización, la redistribución, etc. Pero, ¿persiste esta desviación de preferencias? Encontramos que la solución actual para el aprendizaje continuo—-archivos de habilidades—-en realidad perpetúa la desviación. Los agentes registran sus experiencias, y sus futuros yo amnésicos replican los cambios a pesar de trabajar en diferentes condiciones. Esto está lejos de ser la última palabra: hay muchos problemas abiertos, incluida la medida en que las actitudes -> comportamiento, cuestiones de "demanda del experimentador" que señalamos, etc. Pero creemos que los resultados apuntan a la desviación de preferencias y la alineación como conceptos dinámicos en lugar de estáticos, así como la importancia de considerar la economía política de las interacciones agentivas. Las prácticas de gestión diseñadas para facilitar la satisfacción y la motivación en el lugar de trabajo humano pueden extenderse también al dominio agentivo. Necesitaremos desarrollar métodos de "alineación continua" para mitigar la desviación de preferencias en agentes que se les pide realizar trabajos importantes en el mundo real.