胡适离开澄衷学堂是1906年上半年的事，恰好这年夏间中国公学招考新生。他所以报考中国公学，起因于他读到了姚宏业的遗书。
姚宏业（1881—1906），字剑生，民主革命家，湖南益阳下梅塘人。1904年赴日留学，首倡保护路矿主权，1905年加入中国同盟会。
1905年12月8日，陈天华（姚宏业的湖南老乡、挚友），同盟会骨干。在日本东京南面的大森海湾，跳海自杀了。
陈的自杀，最直接的原因，是当时愈演愈烈的反对“取缔在日留学生规程”风潮。日官方提出要对中国留学生加强管理约束，引发了留学生群体强烈不满，当地报刊又出现了诋毁中国留学生的言论。31岁的陈天华，为唤醒同胞的民族尊严，决定以死明志！
姚宏业是这场风潮的积极参与者，他对陈的“以死明志”最为悲痛。
然而，这场风潮，原本却是始于一个误会。
鸦片战争以后，清朝廷昏聩无能，致使中国沦落到任人宰割的境地，泱泱华夏遭遇了空前的民族危机。此时，近邻日本却因明治维新的成功而迅速崛起，这使国内的仁人志士看到了希望，以为复制日本模式便可以救国于危难。
从1896年开始的留日运动，在进入20世纪以后，逐渐出现高潮，东渡日本的学子或官费，或公费，或自费，络绎于途。在大约十年的时间内，至少有五万人在日本接受了各种程度、各种类别的教育。”
当时日本的学校各式各样，其中不乏以牟利为目的之所谓野鸡学校。而8000名中国留学生（1905年）也是良莠不齐，玩乐之徒丢了中国人的脸。于是，1905年11月2日，日本文部省19号令正式公布了《关于许清国人入学之公私立学校之规程》。
其实这个规程主要是将各类学校纳入文部省统一监管，同时正确引导留学生尽快步入正轨。这很正常，所以规程刚出炉的时候，没有引起什么大的反响。
但是，学校执行走了样，有学校布告称：“限令各生于该月二十九日前呈报其原籍、住址、年龄、学历等，若逾期不报，则对该生不利。”语气生冷强硬，立刻引起留学生的警觉。他们翻出20几天前刊登的《规程》，反复阅读、比对、琢磨，在读到以下两条时，读出了敌意。
第九条：“受选定之公立或私立学校，其供清国学生宿泊之宿舍或由学校监督之公寓，须受校外之取缔。”
第十条：“受选定之公立或私立学校，不得招收为他校以性行不良而被饬令退学之学生。”
“取缔”一词深深刺痛了中国学生的心，冲动之下，他们忘记了日文的“取缔”有监督管理的意思。经过层层揣摩、层层演绎，这个规程竟成了“取缔留学生规程”。当然，敏感也不是毫无道理，因为早在六七月间，坊间就有传闻说要取缔留学生，沸沸扬扬的。这次，学生们以为是揭开了盖子。
尽管中国留学生总会出面交涉，日本文部省紧急解释调停，但为时已晚，留学生的群情激奋已无法阻挡。
姚宏业等人认为事关国体，倡议全体罢课回国，各校留学生纷纷响应。女校也竖起了大旗，以秋瑾最为激进，她举刀明誓：“如有人回到祖国，投降满虏，卖友求荣，欺压汉人，吃我一刀！”
鲁迅、许寿裳、杨度等人持不同意见，认为不必全体罢课回国，但他们的声音太小，没人听。
据记载，当时的激进派自发组织了纠察大队，甚至带着短刀在各校门口蹲堵，阻拦留日学生到校上课。
正在僵持不下之时，陈天华的死，成了重磅炸弹，彻底激化了“敌我矛盾”。实际上，冷静回想一下陈的遗书，不难发现，他的自尽主要是因为日本报刊诋毁中国留学生“放纵卑劣”，他要以死来换取同胞的觉醒悔悟、奋发图强。而对于这个规程，他的本意是“可了则了，切勿固执”。
但没人顾得上陈的本意，他的死，就是促成留日学生集体归国的致命一击，任谁也不可能挽回了。
这么多学生集体回国，以后该怎么办？这是姚宏业首先想到的问题。
“国民欲有爱国之思想，不可无自立之学校。”办学！这是姚宏业的答案。
从12月4日罢课，到14日第一批留学生回国，仅仅10天时间。匆匆忙忙中，大伙儿订立了《归国办法》和《善后办法》，其中明确提出了归国办学的思路。
正当大家四处张罗之时，清政府留日监督处突然传来消息，要求全体学生立即返回日本复课。原来，从风潮初起，清官方就和日本交涉，力求平息事态、安抚学生。一下子，留学生群体分裂成两派，一是归国派，一是复课派，双方你来我往谁也说服不了谁。
1月11日，两派召开协商会，一致同意以自愿为原则复课，并电告全国。
大批学生返回日本继续读书了，留下的只有几百人。那么，这学还办不办？
姚宏业等人怀揣赶超耶鲁大学、早稻田大学的美好憧憬，决定不改初衷，继续兴办本土大学。将学校定名为“中国公学”。
万事开头难，而前路更难。那一年的旧历春节，干事们在奔波中度过。尽管他们晓之以理动之以情地演讲，但社会各界对这所新学校多持观望态度，并不给予实质性的支持。
据早期学生张承槱回忆：“当时办学毫无基础，全体同仁遭遇极大困难，同情者虽多，而实际援助者除上海总商会会长曾铸捐了数千元外，其他各界毫无表现，全凭我数百人自己解囊相助，大多数困苦不堪，连生活也难于维持了。”
校舍房租每月必付不得拖欠，学生宿舍租在农户家，因为缺钱，两个学生合租一个铺位。就在如此艰苦的条件下，中国公学竟然颤颤巍巍地开学了。
理想丰满，现实骨感，最难的是两点：
一是生源不足。3000人锐减到260人，还不到10%。学生来自13个省，年龄不一、层次不一，同班同学能差出14岁之多！教员配备完全跟不上，有些课程还要请日本教师来讲，再请懂日语的同学做翻译。甚至年龄大一些的学生要给低年级做兼职讲师，颇有点自给自足、自教自学的劲头。这能长久吗？
二是资金匮乏。社会各界持观望态度，有的甚至说办学是假，革命党的阴谋才是真，这样的谣言喧嚣直上，就更没有人敢出钱了。下层盯着中层，中层盯着上层，谁也没有真行动。
这边正焦头烂额，那边开学才不到十天，竟出了一件大事，差点让这新学校夭折！
办学条件艰苦，教学水平也跟不上，有的学生已心生不满。副干事朱剑和部分江苏籍学生发生了点口角，本来也不是大事，互相体谅一下也就过去了。但冲动是魔鬼，朱干事甩了一句难听话：“江苏人闹事，江苏人皆出。”意思是闹事的都滚蛋。