Holsøe var søn af byfogedfuldmægtig, senere overretssagfører Peter Carl Jessen Holsøe (død 1915) og Ragna Fiedler (død 1907). Arkitekten N.P.C. Holsøe var hans farbroder. Familien var knyttet til Helsingør, hvor farbroderen havde tegnet en del huse, og hvor Poul Holsøe voksede op i rokokohuset Stephen Hansens Palæ. Han blev student i Helsingør 1892, gik på Teknisk Skole i København og blev murersvend 1896. Han studerede på Kunstakademiet under Ferdinand Meldahl og Hans J. Holm mellem 1896 og 1903. Han var i studietiden ansat hos Johannes Magdahl Nielsen, H.B. Storck, Hack Kampmann og Hans J. Holm og havde egen tegnestue fra 1904. Omkring 1915 arbejdede han sammen med Jesper Tvede. Holsøe rejste til Italien 1903 og kom siden til de fleste europæiske lande.
Holsøe modtog Eckersberg Medaillen 1920, præmie fra Fonden til kunstneriske Formaals Fremme 1920, blev æresborger ved Die technische Hochschule, Wien 1935, modtog Akademisk Arkitektforenings æresmedalje 1943 og blev desuden æresmedlem af samme forening 1953. Han var Kommandør af Dannebrogordenen og Dannebrogsmand og dekoreret med udenlandske ordener.
Uden selv at være medlem af Den frie Architektforening stod Holsøe i sine yngre år flere af denne forenings medlemmer meget nær. Ligesom disse arbejdede han med en forenklet og selvstændig videreførelse af dansk bygningstradition fra barok og klassicisme. Som stadsarkitekt blev han leder af landets største kollektive arkitekturvirksomhed og har som sådan sammen med de af ham valgte dygtige medarbejdere på afgørende måde præget Københavns og dermed dansk arkitektur og bidraget til at give denne dens præg af kultur hvilende på tradition parret med fornuftig funktionalisme i en noget upersonlig og lidt farveløs udformning. Holsøes største personlige indsats og den, der har betydet mest for byens ansigt, er hans store regulering af Søernes bredder. Hans efterfølger blev F.C. Lund.
Holsøe giftede sig 20. februar 1903 på Frederiksberg med Karen Margrethe Helsted (9. juli 1877 i Rocca di Papa, Italien – 19. november 1969 i Hellerup), datter af maleren Axel Theophilus Helsted og Emilie Augusta Wolff. Parret er begravet på Frederiksberg Ældre Kirkegård. Han var fader til Torkel Holsøe, der blev professor i skovbrug i USA.
Værker
Alderdomshjem, Helsingør (1921)Brønshøj Vandtårn (1928)Enghavevejens Brandstation, København (1929)Nedgangstårne, Tinghøj (1931)Nørre Fælled Skole, Biskop Krags Vænge 7, København (1932)Den hvide Kødby, København (1934)Hans Nansens Gård, København (1935)Guldbergs Have, København (1937)Sundparken øverst t.v., tolv parallelle blokke i en park, København (1940)Nørrebro Vænge, København (1943)
Forslag til husmandshjem i Østjylland (1908, 1. præmie, sammen med Sven Risom)