刘海粟拜康有为为师是一种偶然。虽然如此，其师生之情既定，不但终生不移，且随着岁月的久远，这种感情亦更深更厚，直至生命终结。
１９２１年夏天，天马会（刘海粟和上海的一些画家发起组织的绘画艺术研究会）在上海的尚贤堂举办画展时，康有为曾前往参观。他对刘海粟（号海翁）的《雷锋夕照》、《回光》、《埠》等油画作品极感兴趣。他当即提出，想找刘海粟谈谈。因刘海粟有事不在场而未能见到。
稍后，当有人将刘海粟介绍给康有为时，康竟说：“你是刘海翁的儿子吧？”因为刘海粟已创办了美术专科学校，且在画坛上已颇有名气了，所以，康有为以为刘海粟应是５０岁以上的人。他将眼前的这位２０多岁的青年人误认为是刘海翁之子了。
康有为问刘海粟，在中国画家中，他最服膺什么人？刘海粟说，他认为王维和吴道子的原画已不得见，董源、巨然、黄公望、吴仲圭、倪云林、王蒙、沈周、徐渭、石涛等人都是杰出的画家，他都研究过。
康有为又问刘海粟喜欢哪些西洋画家。刘说，他特别喜欢达·芬奇的作品，因为他的作品博大、精深，也喜欢拉斐尔、米开朗基罗和伦布朗等人的作品，还对印象派画面的生动绚丽、变化多端和对光的处理十分敬佩。
康有为听了，纵声大笑。他对刘海粟说，他家中有吴仲圭、沈石田的真迹，还有唐代以来的历代名画数百件、六朝以来的碑帖２００余种，还有百国古器和图书等，也有拉斐尔和米开朗基罗的油画，那是他流亡欧洲时请名家临摩的。他让刘海粟到他家中去观摩、研究。
次日，刘海粟如约前往上海愚园路的康宅拜访。他们谈书画、读书、谈艺，也谈历史、读文学。康有为非要收刘海粟做自己的学生不可。刘海粟觉得十分突然，自己怎么能与梁启超、林旭、谭嗣同等人同列门墙呢？不过，他还是大着胆子问道：“康老教我什么呢？”康有为说：书画同源，我可以教你写字。刘海粟说，他愿意跟着康有为学习书法，也学诗词古文。康有为欣然同意了。
不久，康有为收刘海粟为弟子，专门在上海设宴，还将《书境》、《万木草堂藏画目》送给了刘海粟。
从师康有为之后，刘海粟的书艺长进很快，受益匪浅，同时，也渐渐形成了自己的风格。刘生前曾经说过，他活了８０多岁，经过３次中风，但仍然提笔作画，其笔力就是从师康有为学书时奠定的。
有一年，广东肇庆一带发生水灾，康有为在《申报》、《新闻报》上刊登广告，由他写字义卖救灾。但他年事已高，体力不支，而救灾又急于燃眉，于是便决定让刘海粟每天临摹对联１０余副，由康有为选定后，让门生加盖两方印章，一方是朱文“康有为”，一方是吴昌硕为他刻的“维新百日，出亡十六年，三周大地，游遍四周，经三十一国，行四十万里”，然后送去义卖。
１９２７年２月，康有为乘船去青岛时，刘海粟到码头送行。康有为立于甲板上，频频向码头上的刘海粟挥手，刘海粟一直目送轮船消失在黄浦江上，他们谁都不曾料到，此次分别，竟成永诀。
不久，青岛传来噩耗：广东同乡会为康有为接风，也许是食物中毒，康有为当夜七孔流血而死，刘海粟得知后悲痛欲绝，数日以泪洗面。
在“文革”中，康有为这位当年的“保皇会会长”的坟墓，被一群中学生掘开了，其遗骸被放在板车上游过街。“文革”结束后，刘海粟及康氏后人将康有为的坟墓迁到山东青岛的浮山脚下，刘海粟为康有为撰写了墓志铭。
