拉曼大学的成立与拉曼学院(现为拉曼大学学院)息息相关。1964年，马来西亚华人公会(简称马华公会)筹划建造一所学院。该学院名称沿用了我国的建国首相名字——东姑阿都拉曼(Tunku Abdul Rahman)。

1972年9月15日，时任教育部长敦胡先翁(我国第三任首相)移交学校董事会组织规程(Instrument of Government)予该学院，一片在吉隆坡文良港 (Setapak) 范围191英亩的土地最终拨给拉曼学院进行建造。

拉曼学院的成立与成就，更推动与启发开办私立大学的计划，随后也获得政府的许可，成立一所私立大学。

2001年7月5日，由时任教育部长丹斯里慕沙莫哈末(Tan Sri Dato' Seri (Dr.) Musa bin Mohamad)依《1996年私立高等教育机构法案》，成功邀请马华公会开办拉曼大学。

拉曼大学的成立适时地成为马来西亚政府对高等教育的认可，成为重要的一环，推动与确保知识财产可以持续成长，以满足我国对高等教育的知识提升，刺激经济的发展。

由马华公会时任会长敦林良实领导，完成大学蓝图的设计，建立大学的内部架构，其工委会领袖则由时任拉曼学院校长丹斯里黄丽绥博士担任，筹备大学成立的计划书。经过数月的会议、审议与研究，完成了最后的大学框架。

2002年3月，拉曼大学在雪兰莪州八打灵再也设立临时校区，主要提供八门科系修读。同年，拉曼大学迎来第一批2002/03季度的大学新生，于5月开课正式入学就读。