晚清时期

清宣统元年七月二十五日（1909年9月9日），清政府批准军机大臣、学部尚书张之洞的奏请，筹建京师图书馆（国家图书馆前身），调内阁大库、翰林院、国子监南学书，以及文津阁《四库全书》、敦煌劫余遗书作为基本馆藏。京师图书馆成立后，缪荃荪首任监督。

1916年，教育部饬京师图书馆，凡在内务部立案的出版图书均交京师图书馆庋藏，国家图书馆职能开始体现。

民国时期

1928年，南京国民政府成立；同年7月，国立京师图书馆更名为国立北平图书馆，隶属大学院。为解决经费问题，经南京国民政府教育部与中华教育文化基金董事会（简称“中基会”）谈判并签定协议。

1929年8月，国立北平图书馆与中基会属下的北海图书馆合并，合并后馆名仍为国立北平图书馆，直接接受南京政府教育部和中基会合组的国立北平图书馆委员会领导。中海居仁堂为一馆，北海庆霄楼为二馆。

1931年，在文津街建成了新馆舍。

抗日战争期间，该馆部分馆藏和馆员南迁，并陆续在上海、香港、昆明、重庆等地建立了办事处。抗日战争胜利后，该馆驻各地办事处及藏书，除存美国国会图书馆的善本书和自南京运台北的18箱内阁大库舆图外，陆续运回北平。在此时期内，该馆多次遇到严重的经济困难。

建国初期

中华人民共和国成立后，1949年9月27日更名为国立北京图书馆，归属文化部领导。

1951年6月，更名为北京图书馆。

1958年6月，改属北京市领导。

1960年11月，重归文化部领导。

改革开放

1975年3月，共和国第一任总理提议并批准兴建北京图书馆新馆。

1998年12月，北京图书馆更名为国家图书馆，对外称中国国家图书馆。

1999年4月16日，为中国国家图书馆题写馆名。

中国国家图书馆的自动化工作起步于70年代中期。1989年大型计算机综合管理系统启动，进行图书馆自动化应用系统的开发与实践。

从1995年开始，按照数字化、网络化建设的思路，制定了《国家图书馆网络建设发展规划（1997-2000）》，集中力量，在网络建设、软件开发、数据加工等方面开展攻关。

1999年2月，在中国国内图书馆界率先采用先进的千兆位以太网络技术，开通了拥有3000个信息节点的馆域网，将各个应用子系统连接起来。在互联网建设方面，开通了国际互联网中国国家图书馆站点；分别、清华大学、北京大学等实现了100M速率的专线联接；与中国计算机公用网、中国教育科研网、中国科技网及北京有线电视网、国家广播电影电视总局全国有线电视网、网通等实现了高速互联，使国家图书馆初步建成网上信息资源的中心枢纽。

2001年11月，“国家图书馆二期工程暨国家数字图书馆工程”正式立项，作为国家信息产业基础建设的重要内容，已列入国家“十五”计划，国家经费总投入为12.35亿元，开始付诸实施。

2002年起，中国国家图书馆还承担了二项国家重点文化工程：“中华再造善本工程”、“送书下乡工程”。

2003年10月28日，中国国家图书馆ALEPH500计算机综合管理系统已全面投入运行。