Arvid Nilsson studerade vid Zahrtmanns skola i Köpenhamn 1904-1907 och vid Konstnärsförbundets tredje skola i Stockholm 1907-1908. Han vistades i Paris 1909-1911 och 1921-1932, samt i Italien 1913-1914 och 1920. I Paris påverkades hans måleri av kontakten med fransk impressionistkonst och framför allt med Paul Cézanne.
Under sin tid i Paris deltog han i Höstsalongerna 1921, 1928 och 1931. I kretsen av De unga tillhörde han de moderata modernisterna och blev av den annars mot det nya franskinfluerade måleriet hätska konstkritiken välvilligt uppmärksammad.
Arvid Nilsson tillhörde från starten 1907 konstnärsgruppen De unga. Många av hans målningar erinrar i klarhet och blondör också om både Einar Jolin och Hilding Linnqvist.
Separat hade han ett stort antal utställningar, bland annat i Stockholm på Konstnärshuset och Gummesons konsthall. Retrospektiver med hans oljemåleri 1952 och med hans akvareller och teckningar 1953.
Representerad vid Moderna muséet i Stockholm, Kalmar konstmuseum, Göteborgs konstmuseum och Norrköpings konstmuseum.