有三次生活和学习环境的变换，在傅雷的人生道路和事业的进展中，带有关键性的意义。而每次变换，都是他母亲决断和选择的结果，第一次是上面已经提到过的，全家由落后闭塞的乡村，搬到略为先进开放的周浦镇。第二次，就是接着要讲到的，1920年年仅12岁的傅雷，由母亲从“小上海”把他送到当时中国最繁荣开放、文明程度最高的大上海，考入南洋中学附属小学四年级。（再一次，是以后将要谈到的，傅雷的出国留学。）现在，离开了管教严厉的母亲，周围又是一群活泼好动的伙伴，傅雷的顽皮劲儿，又有些故态复萌了。交织上孤高和聪颖的性格，傅雷的不安分比起大上海的小鬼来，往往有过之而无不及。他在南洋中学附小一年多，竟被校方指责为“顽劣”而开除了。
第二年——1921年，傅雷以同等学历，考入上海徐汇公学念初中。徐汇公学即现在徐汇中学的前身。那时候，是一所教会学校，校长由意大利神甫担任。在学生中，教友与非教友是分开编班的。时间安排得非常紧张。每一个环节的活动，又都是在监学督促之下进行的。早上起床后，刚漱洗完毕，就列队到自修室去自修。7点多，又一起进食堂用餐。吃饭也有一套规矩。学生们先是静静地站立在餐桌旁边，等到早就端坐在食堂高台上的监学，摇响小铃，大家才能坐下来开吃。早饭必须在规定的时间中吃完。到了时间，监学的小铃一摇，没有吃完的，也得赶紧去排队，上操常晚上自修到9点钟，熄灯睡觉。一个大房间内，一人一张床，每张配备有一根木棍。监学也跟学生住在一起。上床后，先把帐子挂好，然后把木棍压在帐子外边。早上一醒来，头一件事就是把木棍放到地上。监学一看棍子在地，就知道你已经醒了。这个学校的学生都得住校，一个月只许回家一次。每次回家，要由家长填写卡片，亲自来领，才能离校。上午8点走，下午5点必须返校。学校的种种制度是很严格的。
在这样一所教会学校中，傅雷常常感到有些不适应。他在班上显得很“个别”，和谈得来的人交往时很豪爽，很诚恳；对一般人，他不愿与之交接。即使最亲密的朋友，他也直言不讳，遇有一言不合，往往争吵不休，甚至动手动脚。对老师，他也从不盲从。教会学校中的老师有两类，一是世俗的，一是修女或神甫。不论是谁，傅雷有不同意见，或认为他们讲得不对，就要与之争论，不到对方肯定他的说法有些道理，他就不肯罢休。他的“傅”姓，在法文中拼写为Fou。有一次，胡毓寅等几位同学，将他的姓氏法文拼写，译成一个不太雅观的中文词语（“痴子”）用作他的绰号。傅雷听说后，火冒三丈，几乎要和大家拼命。
法语是徐汇公学的主课，每天上两节。傅雷在这里学了不到三年，打下了法语的基矗他对数学课很是头痛。有一次考试，他演算到一半，就将钢笔尖用力往课桌上一戳，把没有做完的考卷交了上去。在教会学校里都得念圣经，傅雷对此很反感。他用激烈的言辞，公开表示反对宗教信仰。这样，在初中未正式毕业时，他又被学校开除了。
离开徐汇公学后，傅雷于1924年，仍以同等学历考入上海大同大学附属中学，在学制上进入了高中阶段。以后两三年间，中国发生了一系列重大的历史事件。自幼刚直不阿、并能独立思考的傅雷，随着见闻的丰富、认识的发展，越发表现出了不安分的个性。尤其到上海后的几年中，少年傅雷的心灵，经受了五四运动流风余波的冲撞，他在政治思想上，开始表现出了反帝反封建的鲜明色彩。到大同大学附属中学的第二年——1925年，傅雷从震惊中外的“五卅”惨案中，目睹了帝国主义者屠杀中国同胞，同学和友人遭到巡捕毒打的情景。他和同学们一起走上街头，示威游行，演讲呐喊，控诉帝国主义者及其走狗的血腥暴行，激发民众的爱国热情。转年——1926年春天，在北伐战争不断取得胜利的鼓舞下，大同大学附中的学生们，开展了反对学问的斗争，被称之为“大同风潮”。傅雷和他的同学姚之训，是掀起这一风潮的带头人。大同校董吴稚晖，为了压制风潮，串通租界巡捕房，下令逮捕学生。当时甚至有传说，傅雷是共产党，这就更增加了他被捕的危险性。傅雷母亲闻讯后，为了儿子的安全，立即赶到学校，硬是把他拉回了乡下。以后，傅雷再没有返回大同附中继续上学。
在大同大学附中时，傅雷结交了第一个终生相交的知心好友——雷垣。俩人的结交，开始是很偶然的。傅雷学的是文科，雷垣则是理科的学生，他们本来并不相识。雷垣也喜欢国文，作文写得不错。一次，他写了自己的身世，文章贴到了墙报上。傅雷看到雷垣的文章后，由于所叙的身世与自己的遭遇太相同了，——雷垣自幼父母双亡，孤儿的生活度日如年，傅雷深受触动，潜然泪下。他找到雷垣宿舍握着他的手说：“‘同是天涯沦落人，相逢何必曾相识’，我愿意与你结为知心的朋友。”雷垣欣然允诺。文理科学生的宿舍本来是分开的，傅雷为了能与雷垣有更多交心的机会，便从文科搬到了理科，与雷垣住在一起。傅雷去世后，雷垣在回忆他们中学时期的交往时说；“我们很合得来。不过，有时彼此对一些问题见解不同，也会吵起来。傅雷脾气急躁，常会脸红耳赤。吵过之后，第二天，他会来道歉，说自己脾气不好。我很喜欢他的直率，也从不计较他的脾气。”雷垣中学毕业后学的是音乐和数学，后来又成了傅雷长子傅聪学习钢琴的启蒙老师。人之相交，贵在知心。人们都说，傅雷孤高桀骜，难以交往。但从他与雷垣的交往中可以看出，他盼望的是心灵上的真正相倾相契，谁做到了这一点，就能得到他的信赖。傅雷也并非是一味自赏的人，他知道自己的弱点；对知心者，他从不原谅自己的缺点。
先前两次是被学校开除，这一次在大同附中，傅雷是被迫辍学离校的。这样，他在小学、初中和高中阶段，实际上都没有取得正式毕业文凭。