영국에서 태어난 홀스트는 어려서부터 아버지에게 음악을 배웠으며 19세 때 런던의 왕립 음악원에서 작곡을 전공하였다. 졸업 후 오페라단과 관현악단, 또는 학교에서 일을 하였는데, 1906년부터 런던의 세인트 폴 여학교의 음악과 주임을 역임했고 1919년부터 왕립 음악원의 교수로 있으면서 창작활동을 하였다.
그의 음악에서는 인상주의의 영향이 보이고 있으며 대담한 화성을 썼고 리듬도 퍽이나 독특한 것이었다. 그렇지만 만년의 작품은 간결하고 쓸쓸한 것으로 변모하였다.
그의 작품으로는 오페라와 합창곡, 협주곡 등이 있는데, 관현악 모음곡 [행성]과 [세인트 폴 모음곡], 관현악곡인 [동양적 모음곡], [해머스미스] 등이 널리 알려져 있다.