早在19世纪末叶，当第一批犹太人新居在以色列创建时，来自德国海德堡大学的数学家赫曼·斯卡支拉教授就撰写了一系列文章建议犹太民族创办希伯来大学。

到1902年，查姆·马丁·巴博教授和伯索得·菲威尔博士联合提出了创办大学的具体规划，得到了犹太复国运动领导人的支持。于是便开始征集学校用，并于1918年由威兹曼博士主持举行奠基典礼。

7年后希大正式开办。

希大刚成立时只有3个研究所：微生物、化学和犹太人研究所，共有33名教员，141名学生。一年之后，希大又设立了巴勒斯坦自然史研究所和卫生学系。不久，世界犹太复国主义组织下属的一家图书馆又并入希大，这就是著名的犹太人国家及大学图书馆。

希大于1931年向其13名毕业生授予它有史以来第一批学位枣文学硕士学位。1936年开始授予博士学位。

在希大创建后的最初岁月里，大学办学条件相当艰苦，设备不足，但是大学的科学家们还是想方设法开展科学研究，其研究领域主要涉及植物群、动物群、以色列的地质地理及地方疾病防治等。 

到了20世纪30年代，由于大批在欧洲遭受歧视迫害的犹太学生及学者涌入，希大得到了迅速扩大。

到1947年，希大已发展成一所规模庞大、设备完善、集科研和教学于一体的综合性大学，担负起了巴勒斯坦 地区发展中的犹太人研究中心。

到1967年为止，学生人数已超过1.25万名。1967年6月9日，耶路撒冷重又统一，希大长期的流亡生涯至此告终。于是希大马上就开始重建和扩大斯科普司山校区，使其在1981年重新成为希大的主校区。

2020年7月，加入以色列基因编辑技术联盟。