Les membres de Geese attribuent leurs compétences musicales à leurs expériences dans un programme School of Rock, auquel chaque membre a participé.⁠ ⁠ Le batteur Max Bassin, le chanteur principal Cameron Winter et la guitariste Emily Green ont fréquenté le Park Slope Rock School (PSRS), tandis que le bassiste Dominic DiGesu et l'ancien guitariste Foster Hudson sont allés à la School of Rock New York.⁠ ⁠ Dans 'The New York Times', Hudson se souvient d'avoir découvert le groupe de rock Television à l'âge de 12 ans lorsque son programme lui a assigné de jouer leur morceau emblématique, “Marquee Moon” — le même programme auquel DiGesu a également participé.⁠ ⁠ Bassin, Winter et Green étaient des habitués des scènes de Brooklyn et ont participé à plusieurs Summer Songwriting Sessions au Bunker Studios grâce au PSRS. Selon le site web de l'école, Bassin apportait une "énergie folle" derrière la batterie, même à huit ans ; Winter a acquis une réputation de "compositeur extraordinaire" ; et Green, obsédée par Radiohead, semblait avoir une nouvelle pédale de guitare chaque semaine, ce qui l'a inspirée à écrire des riffs de guitare uniques et expérimentaux.⁠ ⁠ Le PSRS se souvient encore de la chanson du trio “Cherry Skies” comme l'une de leurs chansons originales préférées de tous les temps.