1921年春，豐子愷乘坐「山城丸」赴日本留學。這時豐子愷已為人父，家境拮据，是在親朋好友的資助下啟動行程的。
豐子愷此舉，是出於不願意繼續「賣野人頭」的藝術良心與職業危機感。當時，只有初等師範學歷的豐子愷在一所專門培養圖畫音樂教員的專科師範學校當老師，教授西洋繪畫。這種事情今天看來不可思議，在那時卻很正常。瞭解中國現代美術史的人都知道，中國有史以來的第一所美術學校——上海藝術專科學校，就是由一個沒有任何「學歷」的17歲毛頭小夥子劉海粟創辦的。這是一個新舊交替、英雄輩出的時代，一切都逸出了常規。對西洋畫這門剛舶來不久的藝術只有粗淺認識的豐子愷，有機會在講台上為人師表，是時代潮流作用的結果。
然而豐子愷卻是一個知深淺、有抱負的人，無法安於這種現狀，他曾對著一個寫生用的青皮橘子黯然神傷，哀嘆自己就像那個半生不熟的橘子，帶著青皮賣掉，給人家當繪畫標本。而在當時的條件下，有志青年要想學習西方學問，引領時代潮流，唯一的選擇就是出洋留學，有背景、有實力的赴歐美，沒背景、沒實力的，就赴日本，通過日本學西方。豐子愷家境貧寒，自然不可能去歐美，只有退而求其次去日本。而且，對於豐子愷來說，日本已不是一個陌生的國度，他的恩師李叔同早年就留學日本，師從日本洋畫大師黑田清輝學油畫，兼學鋼琴和作曲。通過李叔同，豐子愷不僅學會了炭筆素描，初步掌握了日語會話，還結識了幾位來杭州寫生的日本洋畫家。因此，去日本留學，對豐子愷來說是一件勢在必行的事。
從學習外語的角度看，豐子愷此行堪稱中國現代留學史上的一個奇蹟。豐子愷在日本留學只有十個月，以短短十個月的時間，精通日語，兼通英語，這種事情聽起來就像天方夜譚。豐子愷掌握日語的辦法很奇特：剛到東京時，他隨眾入了東亞預備學校學習日語，讀了幾個星期，嫌進度太慢而輟學，到一所初級英語學校報了名，每天聽課兩小時，學校是從「a boy」、「a dog」教起的，對於豐子愷來說太淺了，但豐子愷並不想在那兒學英語，而是想聽日本老師是怎樣用日語講解英語的。這個異想天開的辦法居然很有效，豐子愷英語有基礎，知道課文的內容，通過聽老師的講解，窺破了日語會話的門道，日語水平因此而大進，不久就能閱讀《不如歸》（德富蘆花）和《金色夜叉》（尾崎紅葉）那樣的日本現代文學名著了，培養了對文學的興趣。而且，這種一箭雙鵰的學習方法，使豐子愷的英語也跟著有了長進。為了提高英語，豐子愷又報了另一所英語學校，進了最高一班，學了一段，又嫌進度太慢，後來在書店裡找到一本英文版的《寫生講義》，裡頭有詳細的註解和日譯文，於是便輟了學，每晚在旅舍中自修，不久，豐子愷就能自如地閱讀原版英文小說了。豐子愷日後能夠從事文學翻譯和音樂美術理論譯述，他寬闊的藝術眼界和理論修養，都是得力於那時下的功夫。
然而，豐子愷在東京學藝卻不像掌握外語那麼順當。他本來是做著畫家夢來到日本的，孰料到了東京，領教了日本美術界的盛況後，這個夢想破滅了。豐子愷後來這樣描述當時的心情：「一九二一年春我搭了‘山城丸’赴日本的時候，自己滿望著做了畫家而歸國的。到了東京窺見了些西洋美術的面影，回顧自己的貧乏的才力與境遇，漸漸感到畫家的難做，不覺心灰意懶起來。每天上午在某洋畫學校裡當model（模特兒）休息的時候，總是無聊地燃起一支‘敷島’（日本的一種香菸牌子），反覆思量生活的前程，有時竊疑model與canvas（畫布）究竟是否達到畫家的唯一的途徑。」
有必要說明的是，豐子愷立志成為的「畫家」，是洋畫家，也就是油畫家。這個選擇有其特殊的歷史背景。豐子愷成長的時代，正是中國傳統文化受到徹底懷疑，「全盤西化」鼎盛的20世紀初，洋畫成為時代的寵兒，是可以想見的。據有關資料統計，在20世紀頭20年雨後春筍般冒出來的美術學校裡，學西洋畫的人數是學國畫的十倍。年輕的豐子愷自然不可能擺脫歷史潮流的左右，他正式學畫，走的就是西洋畫路子，先是臨摹商務印書館的《鉛筆畫臨本》，後來又從李叔同先生畫炭筆石膏模型，將「忠實寫生」視為繪畫的不二法門。到了東京後，豐子愷進了一所教西洋繪畫的私立美術學校——川端洋畫研究會，天天畫人體素描，接受學院式的訓練.
豐子愷在東京究竟領悟到了什麼，這「西洋美術的面影」到底是什麼樣子，他自己並沒有具體說，旁證的資料也匱乏，我們只有藉助合理的想像，來還原當時的歷史情景。當時的日本，正處文化思想空前活躍與開放的大正時期（1912—1926），美術界五花八門，應有盡有，在東京的各大博物館裡，陳列著畢加索、馬蒂斯和梵高等西方現代藝術大師的作品，還有他們的東洋高徒們虔誠的模仿之作。日本的現代民族繪畫——日本畫，經過20多年的努力。於此時已成氣候，與洋畫漸成抗衡之勢。日本的三大美術展覽——「院展」、「文展」和「帝展」，爭妍鬥奇。此外數不清的展覽會，每天在東京、橫濱等大城市進行。作為一個初次出洋的中國學子，第一次與眾多的世界級藝術大師的作品相遇，眼花繚亂，體驗到一種類似休克的感覺，進而失去自信，是很自然的事。
豐子愷的不凡在於，在心灰意懶中，他能夠懷疑：模特兒與畫布是否就是達到畫家的唯一的途徑？這個疑問引申開來就是：西洋畫是否就等於繪畫藝術？是否就是繪畫的唯一形式？一下子捅到了問題的要害。
將（洋）畫家難做的原因之一，歸結於家境的貧窮，確實是豐子愷的肺腑之言。豐子愷舉債赴日留學，在親朋好友中籌集的2000元，對於一個洋畫家的養成不過是杯水車薪。這還是次要的，最令人絕望的是，西洋畫製作成本昂貴，而在國內，消費市場卻幾乎不存在，要以它謀生，無異於做夢。這種情形，就像錢鐘書在小說《貓》裡寫的那樣：「上海這地方，什麼東西都愛洋貨，就是洋畫沒人過問。洋式佈置的屋子裡挂的還是中堂、條幅橫披之類。」從這個角度看，豐子愷選擇西洋畫這門貴族的藝術，一開始就是個錯誤。
對豐子愷自認的「才力」貧乏，則有必要做具體分析。如果是就一個傑出的職業畫家必須具備的造型天賦與對純視覺形式的狂熱執著而言，豐子愷的自謙包含著可貴的自知之明，然而如果是就畫家對人生萬物的感悟和藝術趣味而言，豐子愷不僅不是才力貧乏，簡直是才力過人，甚至遠遠超過了那些專業畫家。正如葉聖陶說的那樣，豐子愷漫畫的最大特色在於選擇題材，達到了「出人意料，入人意中」的境界，也就是說，在對人生世相的觀察與咀嚼上，豐子愷有他人難及的眼光與敏銳。可惜的是，豐子愷這種才力與西洋畫並不對路，天生詩人氣質、文人趣味極濃的他，與油畫苦重的技術並不相宜。豐子愷後來的表白，足以證實這一點：「我以為造型美術中的個性，生氣，靈感的表現，工筆不及速寫的明顯。工筆的美術品中，個性生氣靈感隱藏在裡面，一時不易看出。速寫的藝術品中，個性生氣靈感赤裸裸地顯出，一見就覺得生趣洋溢。所以我不歡喜油漆工作似的西洋畫，而歡喜潑墨揮毫的中國畫；不歡喜十年五年的大作，而歡喜茶餘酒後的即興；不歡喜精工，而歡喜急就。推而廣之，不歡喜鋼筆而歡喜毛筆，不歡喜盆景而歡喜野花，不歡喜洋房而歡喜中國式房子。」
在東京學藝時，面對鋪天蓋地的西洋畫大師們的作品，豐子愷一定意識到了自己與它們的距離，而產生深深的挫折感吧。這未嘗不是一件好事。不破不立，洋畫家夢的破滅，正是豐子愷藝術上向死而生的開始，促使他調整了留學計畫。此後的豐子愷，不再一味守著洋畫，而是把更多的時光泡在淺草的歌劇館、上野的圖書館、東京的博物館、神田的舊書店、銀座的夜攤、日本全國各處的展覽會，以及游賞東瀛名勝古蹟上。就是在這種走馬觀花式的遊學中，竹久夢二進入了豐子愷的視野。
那是在東京的舊書攤上，一次隨意的翻閱，攪動了豐子愷的藝術慧根，使他欣喜若狂。十幾年以後，豐子愷這樣深切地回憶——
回想過去的所見的繪畫，給我印象最深而使我不能忘懷的，是一種小小的毛筆畫。記得二十餘歲時，我在東京的舊書攤上碰到一冊《夢二畫集·春之卷》。隨手拿起來，從尾至首倒翻過去，看見裡面都是寥寥數筆的毛筆sketch（速寫）。書頁的邊上沒有切齊，翻到題目《Classmate》的一頁上自然地停止了。我看見頁的主位裡畫著一輛人力車的一部分和一個人力車伕的背部，車中坐著一個女子，她的頭上梳著丸 （marumage，已嫁女子的髻式），身上穿著貴婦人的服裝，肩上架著一把當時日本流行的貴重的障日傘，手裡拿著一大包裝潢精美的物品。雖然各部都只寥寥數筆，但筆筆都能強明地表現出她是一個已嫁的貴族少婦。……她大約是從邸宅坐人力車到三越吳服店裡去購了化妝品回來，或者是應某伯爵夫人的招待，而受了貴重的贈物回來？但她現在正向站在路旁的另一個婦人點頭招呼。這婦人畫在人力車伕的背與貴婦人的膝之間的空隙中，蓬首垢面，背上負著一個光頭的嬰孩，一件笨重的大領口的叉襟衣服包裹了這母子二人。她顯然是一個貧人之妻，背了孩子在街上走，與這人力車打個照面，臉上現出跼促不安之色而向車中的女人打招呼。從畫題上知道她們兩人是classmate（同級生）。
我當時便在舊書攤上出神。因為這頁上寥寥數筆的畫，使我痛切地感到社會的怪相與人世的悲哀。她們兩人曾在同一女學校的同一教室的窗下共數長年的晨夕，親近地、平等地做過長年的「同級生」。 但出校而各自嫁人之後，就因了社會上的所謂貧富貴賤的階級，而變成這幅畫裡所顯示的不平等與疏遠了！人類的運命，尤其是女人的運命，真是可悲哀的！人類社會的組織，真是可詛咒的！這寥寥數筆的一幅畫，不僅以造型的美感動我的眼，又以詩的意味感動我的心。
竹久夢二，本名茂次郎，1884年出生於日本岡山邑久町的一個釀酒商家庭，自幼顯示過人的藝術才華，明治末葉在日本畫壇一舉成名。他的漫畫直面社會人生，同情弱者，在充滿哀傷情調的傳統日本美感中，融入近代社會主義精神和基督教的悲憫情懷。在日本美術界，竹久夢二是個另類，有幾分像當今的大江健三郎，他的作品，尤其是初期的作品，總是站在底層人民一邊，站在被侮辱、被損害者一邊，包含強烈的批判精神和反權力體制的傾向。藝術表現上，竹久夢二融東西洋畫法於一爐，構圖西洋，畫趣東洋，擅長用簡練的筆法詩意地描繪人間世相。在日本眾多的畫家中，豐子愷對竹久夢二情有獨鍾，正是他自己的人格精神與藝術趣味的反映。
竹久夢二的出現，對於畫家夢剛破滅的豐子愷來說，彷彿混沌迷茫中的一道閃電，在受到震撼的同時，一定還有「畫原來還可以這麼畫！」的驚喜吧，這熟悉而陌生的「寥寥數筆」，正是他夢寐以求的。山窮水盡疑無路，柳暗花明又一村，誰敢說這不是上帝冥冥之中有意的安排？
由於經濟上的原因，豐子愷不久即歸國，離開日本之前，特地委託友人替他留心竹久夢二的畫冊。友人果然不負重托，很快替他辦齊了竹久夢二的《夏》《秋》《冬》三冊，外加《京人形》和《夢二畫手本》，從東京寄到滬上，給了豐子愷極大的喜悅。其實，豐子愷在東京遊學的時候，竹久夢二也在東京，就住在澀谷的宇田川。假如豐子愷能在日本待上更長的時間，也許有機會與竹久夢二相識。可惜上帝沒有錦上添花，將這一出藝術緣上演得更加完美。但這已無可抱怨，最重要的是，靈感之火已被點燃，豐子愷的藝術之魂開始覺醒。
豐子愷一回國，就開始了藝術上的轉向，那是在浙江上虞的白馬湖畔，在繁忙的教學之餘，豐子愷像竹久夢二一樣，用毛筆在紙上描下了自己關心的世相。這一下不得了，他感受到一種類似母親生下孩子的快樂，周圍的同事朋友見了，也驚喜不已，恩師夏 尊連連稱好， 鼓勵他再畫；文學界的風雲人物鄭振鐸見了這些作品，如獲至寶，將這些作品發表到文學研究會的刊物《文學週報》上，並加上「子愷漫畫」的題頭，「子愷漫畫」從此風行全國。中國現代藝術史上第一位被稱作「漫畫家」的畫家，就這樣誕生了。
