1963年出生于山东省济南市。北京画院专业画家、国家一级美术师、中国美术家协会会员。
1981至1985年就读于山东艺术学院美术系，获学士学位，毕业后留校任教。
1985年投入《中华百年祭》大型中国画组画的创作。处女作《血雨腥风》参加《中国首届高等艺术院校教师美术作品展》。
1987年至1988年入中央美术学院中国画系进修学习。
1988年作品《母亲的愤怒》获首届全国书画大赛二等奖。
1988年于山东济南首次举办个人画展。
1989年8月由于教学楼维修施工引起画室意外失火，创作作品数百件《中华百年祭》素描草图，创作资料全部被毁。
1990年重新投入《中华百年祭》组画创作。
1993年作品《1937——中国百年大难》(组画之一)参加中国美协主办的“首届中国画展览会”。
1994年作品《1937——历史思考的片段》参加“1994全国中国画、油画精品展”并获优秀奖。
1995年作品《与妻书——怀念林觉民烈士》参加“全国第八届美术作品展”。
1995年获中国艺术研究院颁发的“中国画学术精诚奖”。
1995年5月在山东美术馆举办《中华百年祭》蔡玉水画展。
1995年6月在中国美术馆中央圆厅举办《中华百年祭》蔡玉水画展。
1995年11月应邀赴印度尼西亚进行创作及文化交流。
1996至1998年深入东南亚各国进行艺术调查与封闭式创作。
1998年在印度尼西亚巴厘岛举行个展。
1999年6月第二次在中国美术馆举办个展。
1999年举办蔡玉水亚洲巡回画展。
1999年10月应新加坡南洋艺术学院院长何家良先生的邀请主持新加坡南洋艺术学院“蔡玉水混合媒介工作坊”，执教于南洋艺术学院纯美术系。 参与“1999——2000年新加坡跨世纪美展”。
2000年主持新加坡“南洋艺术学院混合媒介‘创意’美术作品展”。
2000年8月于新加坡新闻与艺术部大厦中央大厅举办“地狱与天堂”蔡玉水大型绘画作品展，成为新加坡新中国成立以来第一个在其国家新闻与艺术部举办个人画展的外籍艺术家。
2000年10月、11月在比利时、荷兰、德国举行个展。
2001年入选文化部、中国美协、中国美术馆等主办的“百年中国画大展”。
2002年回国。
2002年在山东省博物馆举办“生命·艺术·关爱——蔡玉水人文艺术之旅“大型艺术作品展”。
2003年入选全国政协主办的“当代国画优秀作品展”（山东十人展）。
2003年任教于山东工艺美术学院。
2003年在山东大厦会展中心举办“天堂漫步——蔡玉水速写艺术珍藏展”。
2004年调入北京画院任专职画家。
2005年举办《东方神韵——蔡玉水绘画艺术欣赏展》。作品参加《永恒的记忆——纪念中国人民抗日战争暨世界反法西斯战争胜利60周年京沪美术作品联展》、《2005中国画研究院年度提名展》《第六回中日美术交流联合展》等。
2006年作品《梅兰芳菲——青年时代的梅兰芳》参加北京《古都风韵》展。承担由文化部、财政部联合实施的国家重大历史题材美术创作工程中《刑场上的婚礼》的创作任务（与王明明先生合作）。
2007年于北京画院美术馆举办《东方神韵——白羽平、蔡玉水、莫晓松作品展》、应印度尼西亚驻华大使的邀请，于北京凯宾斯基大酒店庆祝印度尼西亚共和国独立62周年国庆宴会上，成功举办《天堂漫步——蔡玉水作品展》、作品参加《时代华章——北京画院、上海画院建院50周年展》等。
2008年蔡玉水美术馆落成开馆、在第二届中外跨国公司CEO圆桌会议上举办“天堂之恋——蔡玉水画展”（北京•中国大饭店）、 荣获“2008•中华十大财智人物”称号。
2009年参加纪念蒋兆和诞辰105周年，《民生·生民——中国水墨人物画学术邀请展》（中国美术馆）。
蔡玉水在水墨与重彩以及素描等方面都有所探索与突出成就，他的《中华百年祭》被当今学者、中国美术界权威人士及国内外报刊杂志评价为：“自中国‘五四’运动以来, 大型水墨历史人物画创作继蒋兆和《流民图》，周思聪、卢沉《矿工图》这两件重要的作品之后，第三件里程碑式的中国画人物画力作”。作品被载入《中国美术大全》、《二十世纪中国美术图典》、《中国美术年鉴》、《中国当代美术1979——1999》、《百年中国画集》等。
出版有《蔡玉水画集》（中英文版）、《蔡玉水速写技法》、《蔡玉水画选》、《蔡玉水画法——当代中国画名家技法精粹》、《天堂漫步——蔡玉水速写艺术珍藏》、《蔡玉水艺术研究》等二十余部