1904年，严修、张伯苓在家塾教育基础上创办中学，学校初称“私立中学堂”，后易名“敬业中学堂”、“私立靠前中学堂”。

1906年，天津邑绅郑菊如捐助学校十余亩土地，因土地位于德国人汉纳根(Hanneken)开设的大广地皮公司①界内，汉纳根不肯相让，后经张伯苓与其交涉，将郑菊如所捐之地换成另一块空地。这片空地位于天津城西南的开洼地带，有“南开洼”之称。经过这一番周折后，学校在“南开洼”修建校舍 。

天津有一种“方位词+开”的地名，除南开之外，还有北开，西开，“洼”是大水坑的意思。 “南开洼”即是指天津老城南边的大水坑。

从1900年的老地图中能看出，天津老城南侧确实有很多水域，并且清朝初期，天津城南门之外的官道两旁就已经河网纵横，坑塘密布，颇具泽国水乡的江南风貌。

1907年秋，学校由严宅迁入新校舍，学校因所在“南开洼”地名改称“私立南开中学堂”，后来又成立南开大学，南开女中，重庆南开中学等南开系列学校。这便是“南开”名称的由来。