1901年出生於中國
少年時入上海美術學校, 1919 年留學日本。 1920 年應政府「勤工儉學」政策,轉赴法國留學,成為中國最早期的留學生之一。
1964年,常玉應教育部邀請來台教書並在本館舉辦個展,卻因故未能成行,1966年,因瓦斯中毒意外在巴黎過世。至辭世為止,他幾乎長居巴黎。
1966 年逝世於巴黎之後,台北的國立歷史博物館曾分別於 1978 、 1984 、 1990 、 1995 、 2001 與 2017年,舉辦六次他的回顧展。
2017年3月國立歷史博物館舉辦常玉逝世50周年館藏展「相思巴黎-常玉館藏展」,展出49件典藏作品。當中的40件作品,史博館採用「官方認證」、「限量發行」國際版畫公約規定,