Olle Nyman bodde och arbetade på Duvnäs gård, vars ateljé idag är museum, vid Strandpromenaden i Saltsjö-Duvnäs. Gården köptes 1863 av hans morfar, som var disponent på Gustafsbergs Fabriker. Gården gav namn till Saltsjö-Duvnäs-gruppen, också kallad Saltsjö-Duvnäs-kretsen, som utgjordes av konstnärer som tidvis umgicks och arbetade här, bland dem Evert Lundquist, Sixten Lundbohm, Roland Kempe och Staffan Hallström.

Olle Nyman studerade vid Konstakademien 1928-1934 för Olle Hjortzberg. Han strävade efter att konsten skulle samverka med arkitekturen. Arkitekturen och kompositionen i det egna hemmet och ateljén Nedre och Övre gården i Saltsjö Duvnäs inspirerade Olle Nyman och återkommer ofta som motiv i hans konst.
I stilleben, landskap, porträtt och figurer byggde han kompositioner, ofta kubistiska, i puristiskt, dämpade och jordbundna färger. Hans första separatutställning 1946 blev en stor framgång och gav honom en stark position. Olle Nymans målningar har jämförts positivt med stora franska målare från samma period, som Émile Bernard. Olle Nyman utnämndes 1953 till professor i måleri vid Konstakademien, där han också senare blev ledamot. Han var professor vid Konsthögskolan 1953-1963 i monumentalmålning.

Olle Nyman har förutom målningar och hans berömda, så kallade “skrotskulpturer” i bland annat sten, utfört många monumentala verk i varierande material och tekniker. Till dessa hör takmålningar till Olaus Petri kyrka i Stockholm och skrotskulpturen “Sankt Göran, Draken och Prinsessan” för postterminalen i Tomteboda. Vidare väggmålningar för Karolinska sjukhuset i Solna och Tuppstugan i Nacka och gobelänger (i samarbete med Barbro Nilsson), för bland annat Borås stadshus, banker och Finansdepartementet. Dessutom väggmosaik i natursten i Södertälje krematorium, "Idealiserad park” i keramik i Järnvägsparken i Stockholm samt “Stenkvinna” av granitblock och betong på Kista Torg i Stockholm.

Olle Nyman är representerad vid bland annat Moderna Muséet i Stockholm, med 120 (!) verk, på Nationalmuseum i Stockholm, på Kalmar Konstmuseum och på Göteborgs Konstmuseum.