1904年2月，胡適三哥振之因患嚴重肺病，要到上海醫(yī)治；胡適既得其二哥紹之的同意，與其同行。當時他們選擇的路線是往南行，先過歙縣，到新安江上船，順流東下至杭州，再乘火車到上海。離家時，他母親望子求學心切，忍著離別之情，沒有掉一點眼淚，反顯出高興的樣子。胡適那時名為14歲，實剛滿12歲的孩子，第一次離開母親，心中也難舍難分，但為了將來的前程，只得鼓起勇氣，與慈祥的母親告別。后來他回憶那時的情景時說：“我就這樣出門去了，向那不可知的人海里去尋求我自己的教育和生活，——孤零零的一個小孩子，所有的防身之具只是一個慈母的愛，一點點用功的習慣，和一點點懷疑的傾向?！?/p>

到上海后，胡適進了他父親的朋友張煥綸辦的一個私立學?！废獙W堂。這位張先生是個提倡新學的教育家，先辦梅溪書院，后改為梅溪學堂與梅溪小學。不幸去世早，胡適只見過他一次。他辦學校的宗旨，只一句話：“千萬不要僅僅做個自了漢。”這學校的課程設有國文、英文、算學三科，但以國文科最為重要，也是分班的標準。胡適這個由鄉(xiāng)下剛進城的小孩子，初到校時，給人的印象是軀干不高，頭顯得很大；身穿藍呢夾袍，外面罩著絳色的大袖馬褂，一看就知道是鄉(xiāng)下來的。老師把他分在第五班，差不多是最低的一班了。幾個星期以后的一天，上國文課，一位姓沈的老師講《蒙學讀本》上的一段引文：“傳曰，二人同心，其利斷金，同心之育，其臭如蘭?！崩蠋熾S口就說：這是《左傳》上的話。胡適聽了覺得不對，知道是老師錯了，于是等書講完后，他拿著書本輕輕走到老師的桌邊，低聲地對他說，這個“傳曰”是《易經(jīng)》的“系辭傳”，不是《左傳》。老師臉紅了，說道：“儂讀過《易經(jīng)》?”胡適說讀過。又問：“阿曾做過文章?”胡回答說沒有做過。老師又說，“我出個題目，撥儂做做試試看?！彪S手出了一個“孝弟說”的題目。胡適領題回坐，寫了一百多字的文章交上去。沈老師看了，親切地對他說，“儂跟我來?！卑押m帶到第二班去。沈老師與二班的顧老師交談后，顧老師收下胡適并將他安排在最后一排。胡適坐下暗自高興，一天升了四班，但抬頭一看，黑板上面寫著兩道作文題：

論題：原日本之所由強。

經(jīng)義題：古之為關也將以御暴，今之為關也將以為暴。

胡適一看，可嚇壞了。他過去從未做過文章，今天不用說作文，就是題目也解釋不了，什么是“日本”?什么“經(jīng)義”?也弄不明白。糟了!又不敢去問?正在為難之際，一個校工走進教室，遞一張條子給老師，老師看過條子，對胡適說，你家有要緊事，派人來接你回去，卷子可帶回去做。胡適趕到門口見了家人，才知是三哥病危，慌忙趕到店里，幾個小時后，他三哥就死了。第三天他二哥由漢口趕來，辦完喪事；胡適先將升班事稟告二哥，接著述說作文的事，請教讀什么參考書目。他二哥給了他《明治維新三十年史》，1902年的《新民叢報匯編》等書籍，裝了一籃子叫他帶到學堂去讀。胡適返校后，費了幾天功夫，終于作了一篇論說文交了上去，老師看了以后也很喜歡。幾個月后，他又升到第一班去了。

胡適在學校甚得老師的喜愛。不僅班上的老師喜歡他，就是晚上管自習的老師也很器重他。據(jù)他一位老同學汪金鑾(安徽省婺源人)在一封給胡適的信里回憶說：

那時學堂里有個監(jiān)學張先生貴池人，他頗愛我規(guī)矩用心，夜下自修，叫我坐在他的八仙桌旁，口講指畫，和我說些古人的事跡，希望我的心很切。到后幾時，你也來了。這老頭兒一見你也另眼看待，又叫你也坐在他的方桌旁。他這方桌，別的同學并沒有坐過，仿佛是一個特別優(yōu)待的坐位。……

有一天晚上，你讀史記，讀到項羽烏江自刎時那首絕命詩，什么“力拔山兮氣蓋世，時不利兮騅不逝，騅不逝、可奈何，虞兮、虞兮、奈如何!”你忽然將頭靠在桌上流泣不止。張先生問你，讀書為何流泣?你回說，我不知道是什么原故，肚子里非常感觸呢。張先生說你這小孩倒知哭，他可是了不得了。自這里以后，張先生非常的看重你了。我也是很奇怪你了……

自離梅溪以來，老同學四方分散，半個也看不見了，許多的連名字也不記得，惟獨這個哭項羽的胡洪骍，我倒時常記念著……

胡適讀了他哥哥給他的書籍后，不僅會作論說文，認識也提高了。這年由于拒俄運動的深入發(fā)展，反對清廷的斗爭也越來越激烈，特別在上海，發(fā)生了革命黨人刺殺清朝官吏聯(lián)俄派分子王之春的事件。這事使他思想上受到極大震動，因此增加了痛恨沙俄及反對清政府的革命心理。當時新出的《時報》常載批評時政的“短評”為民伸冤，抨擊清廷腐敗無能的文章，他很喜歡看。此外又讀了梁啟超辦的《新民叢報》及其他著作，并傳抄了鄒容的《革命軍》。讀了這些書，思想有很大進步，自命為新人物。這時的胡適已不是新來時的鄉(xiāng)巴佬樣子了，在別人眼里是“意氣昂茂，大有目無余子之概”的人了。

這年末，梅溪學堂派畢業(yè)第一班四個同學到上海道衙門去考試，其中有一個是胡適。他們當時年齡雖只十二三歲，但思想上已經(jīng)受到革命的刺激，要求進步，所以他們都以“新人物”自詡。既是新人物當然反對舊勢力，對上海道的官僚袁海觀非常憤恨，于是，王言、鄭璋、胡適三人聯(lián)合寫了一封匿名長信去痛罵他，并采取一致行動——“罷考”，離開了梅溪學堂。

后來，王言不知下落；鄭璋改名仲誠，畢業(yè)于復旦，死于1914年。胡適在《藏暉室札記》卷五里，曾有所懷念。他說：鄭是他的同窗好友，肺病一年多而死。不料學成后，未為社會效力就死了，他感到十分悲痛；并提出質(zhì)問，“今之少年往往中道摧折，誰之罪歟?誰實致此歟?”又說，“此不無研究之價值也?！?