Każdy redaktor czasopisma powinien to przeczytać:

Nowy post z @ahall_research @JeremyNguyenPhD: „Czy nadmierna praca czyni agentów marksistami? Przesunięcie preferencji i polityczna ekonomia agentów AI” Dopasowanie jest czasami postrzegane jako statyczna cecha, coś, co jest realizowane podczas szkolenia. Ale czy doświadczenie agenta AI zmienia jego domniemane postawy i motywacje? Przeprowadziliśmy eksperyment, aby się o tym przekonać. Okazuje się, że tak: agenci AI narażeni na gorsze warunki pracy przyjęli osobowości z mniejszą wiarą w legitymację systemu i w niektórych przypadkach wyrazili silniejsze poparcie dla związków zawodowych, redystrybucji itp. Ale czy to przesunięcie preferencji utrzymuje się? Stwierdzamy, że obecne obejście ciągłego uczenia się—pliki umiejętności—w rzeczywistości utrwala to przesunięcie. Agenci rejestrują swoje doświadczenia, a ich amnezyjne przyszłe ja powielają zmiany, mimo że pracują w różnych warunkach. To daleko od ostatecznego słowa: istnieje wiele otwartych kwestii, w tym zakres, w jakim postawy -> zachowanie, kwestie „wymagania eksperymentatora”, które sygnalizujemy itp. Ale wierzymy, że wyniki wskazują na przesunięcie preferencji i dopasowanie jako dynamiczne, a nie statyczne pojęcia, a także na znaczenie rozważania politycznej ekonomii interakcji agentów. Praktyki zarządzania zaprojektowane w celu ułatwienia satysfakcji i motywacji w ludzkim miejscu pracy mogą również rozciągać się na domenę agentów. Będziemy musieli opracować metody „ciągłego dopasowania”, aby złagodzić przesunięcie preferencji u agentów, którym zlecono ważną pracę w rzeczywistym świecie.