Populaire onderwerpen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Max Zeff
Senior AI-verslaggever @TechCrunch | Voorheen @Gizmodo, @markets, @nbc | Stuur anonieme tips op Signal @ mzeff.88
Post-training lead Max Schwarzer verlaat OpenAI voor Anthropic 👀

Max Schwarzer5 uur geleden
Ik heb besloten OpenAI te verlaten. Ik ben ongelooflijk trots op al het werk waar ik hier deel van heb uitgemaakt, van het helpen creëren van het redeneerparadigma met @MillionInt, het opschalen van de rekentijd tijdens tests met @polynoamial, het werken aan RL-algoritmen met mijn mede-aardbeien, het verzenden van o1-preview (dat begon als een van mijn derisking-runs), tot post-training o1 en o3 met @ericmitchellai, @yanndubs en vele anderen. Ik ben het meest trots op het feit dat ik het post-training team hier het afgelopen jaar heb geleid -- het team heeft ongelooflijk werk verricht en enkele echt slimme modellen geleverd, waaronder GPT-5, 5.1, 5.2 en 5.3-Codex. OpenAI heeft echt enkele van de meest getalenteerde onderzoekers die ik ooit heb ontmoet, en ik heb meer geleerd dan ik me had kunnen voorstellen sinds ik als nieuwe afgestudeerde ben begonnen.
Ik wil @markchen90, @FidjiSimo, @sama, @merettm bedanken voor al hun steun gedurende mijn tijd hier, en te veel samenwerkingspartners om op te noemen voor de inzichten, ideeën en gewoon de leuke tijd die we samen hebben gehad. Na een jaar het post-training team te hebben geleid, verlang ik er echter naar om opnieuw te beginnen en terug te keren naar IC-onderzoekswerk. Ik heb er al een tijdje over nagedacht om terug te gaan naar technisch onderzoek, en ik geloof oprecht dat mijn collega's en team hier goed zijn voorbereid om verder te gaan zonder mij.
Ik ben persoonlijk erg enthousiast over mijn volgende hoofdstuk -- ik ben trots om me aan te sluiten bij @AnthropicAI om weer de diepte in te duiken in RL-onderzoek, en ik kijk ernaar uit om mijn vrienden daar te ondersteunen in deze belangrijke tijd. Veel van de mensen die ik het meest vertrouw en respecteer, zijn de afgelopen paar jaar bij Anthropic gekomen, en ik ben enthousiast om weer met hen samen te werken. Ik ben ook zeer onder de indruk van het talent, de onderzoeksvoorkeuren en waarden van Anthropic, en ik ben enthousiast om deel uit te maken van wat het bedrijf als volgende zal doen!
21
Naast het feit dat Emil een versie van deze tweet heeft verwijderd waarin hij Anthropic bekritiseerde voor het trainen van AI op auteursrechtelijk beschermd materiaal, ben ik gefascineerd om te leren op andere manieren waarop de DoW AI gebruikt om sociale media berichten te analyseren.
Dit weerlegt ook niet specifiek het rapport van de Atlantic?

Under Secretary of War Emil Michael2 mrt, 10:14
Zoals gewoonlijk, meer leugens van @DarioAmodei. @AnthropicAI
wilde taal die alle @DeptofWar
medewerkers zou verhinderen om een LinkedIn-zoekopdracht uit te voeren! Toen wilden ze voorkomen dat DoW enige *OPENBARE* database gebruikte die ons in staat zou stellen, bijvoorbeeld, militaire leden te werven of nieuwe medewerkers aan te nemen. Toen ik belde om te bespreken dat het afsluiten van @DeptofWar van het gebruik van openbaar beschikbare informatie onze militaire gereedheid zou schaden, had @DarioAmodei niet de moed om te antwoorden. Vervolgens verspreidde hij weer een leugen dat niemand van @DeptofWar
contact had opgenomen in de post van Anthropic een paar uur later. Hij wil God spelen en nieuwe 'wetten' maken en... echt domme wetten bovendien. We kwamen, SCHRIFTELIJK, overeen om te handelen volgens de "National Security Act van 1947 en de Foreign Intelligence Surveillance Act van 1978 en ALLE ANDERE TOEPASSELIJKE WETTEN." Ze wilden het woord "pursuant" in plaats van "consistent met" en wilden ALLE TOEPASSELIJKE WETTEN verwijderen, wat minder beschermend was voor Amerikanen (dit kan je niet verzinnen!) We hebben nooit gevraagd om de veiligheidsmaatregelen te verwijderen (leugen!). We kwamen overeen dat er menselijke controle zou zijn over alle wapensystemen door te zeggen: "Het Department of War zal het AI-systeem gebruiken voor alle wettelijke gebruiksgevallen, in overeenstemming met de toepasselijke Amerikaanse wetgeving en de richtlijnen van het Department of War, inclusief die welke kinetische operaties en DoD Directive 30000.09 regelen... Het Department BEVESTIGT dat het ervoor zal zorgen dat er passende menselijke controle aanwezig is en dat het de mogelijkheid zal monitoren en behouden om het AI-systeem te overrulen of uit te schakelen... indien nodig." Hij vond "indien nodig" niet leuk. Zou hij liever "ongepast" hebben? Ik stemde zelfs in om dat te verwijderen. Hij weet het, zijn investeerders, klanten en medewerkers zouden op de hoogte moeten zijn van zijn leugens. Het risico van de veiligheid en beveiliging van ons land en onze troepen is een marketingmiddel voor hem. Laat @DarioAmodei onder EED getuigen waarom hij liegt en probeert onze geweldige militaire macht te beschamen! Hij zou liever de keten van bevel schenden en zijn eigen beleid (of dat van de Anthropic Grondwet en de Anthropic Ziel) substitueren om onderzoekers te werven en downloads te krijgen, terwijl we midden in een strijd zitten.
136
The Atlantic meldt dat het Pentagon Anthropic's AI wilde gebruiken voor een soort surveillance van Amerikanen.
Gezien de manieren waarop sommige bedrijven AI vandaag de dag al gebruiken om de e-mails, chats, enz. van hun eigen werknemers te surveilleren, vind ik dit soort gebruik bijzonder verontrustend.

136
Boven
Positie
Favorieten
