1922年10月23日，上海大学正式成立。就这样，于右任在卸下靖国军总司令职位不到5个月，又当上了新创办的上海大学校长。
上任伊始，于右任就确定办学宗旨：培养建国人才，促进文化事业。学校草创，百端待举，于右任决定与共产党联手，把上海大学办成东南地区最高学府，革命人才的摇篮。1923年春，中共领导人李大钊来到上海，于右任立即面晤恳谈办学事宜。李大钊从革命实际出发，指出上海大学应当培养革命急需的人才，主张创设社会学系，并推荐共产党员邓中夏出任校总务长，瞿秋白担任社会学系主任。接下来，许多优秀共产党员进校任职任教。上海大学顿时面貌一新。学校原来只有文学、美术两科和一个普通班，至此开设了中国语言文学系、英国语言文学系、美术科和中学部，首创了独一无二的社会学系。不到两年时间，上海大学就崭露头角，社会上广泛流传着“文有上大，武有黄埔”的说法，把上海大学与黄埔军校并提，可见这座“东方红色大学”在世人心目中的地位。