国立国会图书馆，是隶属于日本国会的国家机关，是以协助国会的立法活动为首要目的的议会图书馆。同时，作为日本唯一执行呈缴本制度的国立图书馆，兼有为行政司法各机关以及日本国民提供服务的功能。
国立国会图书馆的前身是旧帝国议会两院所属的众议院图书馆、贵族院图书馆以及属于文部省的帝国图书馆。两个议院的图书馆起源于1891年（明治24年）设立的图书室，而帝国图书馆的前身则为1872年（明治5年）设立的书籍馆。
此后，日本邀请美国图书馆访问团，并吸取了其意见，于1948年制定了国立国会图书馆法（昭和23年法律第5号）。该法很大程度上受到了该访问团的影响，因此也以美国国会图书馆为范本，将图书馆定位为议会图书馆的同时也确立了其国立图书馆（国立中央图书馆）的地位，并规定了以网罗整理国内文字资料为目的的法定呈缴本制度。
随着该法的制定，国会图书馆开始筹建。1948年2月25日国立国会图书馆正式成立，首任馆长为日本国宪法制定时任国务大臣的宪法学者金森德次郎。首任副馆长为曾任尾道市立图书馆长的美学家中井正一。同年6月5日，图书馆在原赤坂行宫（现迎宾馆）的临时馆址正式开馆。
1949年（昭和24年），根据国立国会图书馆法的方针，曾依照出版法（明治26年法律第15号，被昭和24年法律第95号废止。）收藏呈缴图书的上野国立图书馆（1947年（昭和22年）改称帝国图书馆。）被合并至国立国会图书馆，至此，国立国会图书馆成为了名副其实的日本唯一的国立图书馆。原帝国图书馆的藏书和设施继续保留在上野区，成为了国立国会图书馆分支机构之一的支部上野图书馆。
根据《国立国会图书馆建筑委员会法》（昭和23年法律第6号），国立国会图书馆的正式馆舍被定于国会议事堂北侧的德國駐日大使館舊址（东京都千代田区永田町），选用了前川国男的设计方案，并在1961年（昭和36年）完成了首期工程，开始收藏图书。开馆之际馆藏图书有205万册，主要包括从贵族院和众议院两院附属图书馆继承的图书、赤坂的临时国会图书馆收藏的图书约100万册，以及以战前帝国图书馆馆藏为主体的上野图书馆的藏书约100万册。
在开馆7年之后的1968年（昭和43年），本馆工程竣工落成，包括一栋地上6层，地下1层的办公楼和17层高的书库楼。
进入1970年代，随着藏书量的迅速扩充以及读者的增加，本馆的设施也开始捉襟见肘。为此，在本馆北侧增建了新馆，并于1986年（昭和61年）对外开放。该馆的设计同样由前川国男负责。随着拥有地上4层地下8层的新馆的落成，国立国会图书馆的馆藏容量达到了1200万册，这也是设计者预计到21世纪初将达到的馆藏能力极限。
另外，在关西分馆开馆前后，另一个将支部上野图书馆改造为国际儿童图书馆的计划也得到实施。国际儿童图书馆主要负责国立国会图书馆藏书中的儿童书（主要以18岁以下读者为对象的图书馆资料），在2000年（平成12年）部分开馆，最终在2002年（平成14年）全面开放。
近年来，除了致力于发展电子图书馆外，也有一系列对国立国会图书馆组织结构的变革，包括2005年国立国会图书馆法中规定的图书馆长享受的国务大臣待遇被取消，2006年自由民主党行政改革总部提出图书馆的独立行政法人化方案，以及2007年首次任命与国会无关的长尾真（原京都大学校长）为馆长等。
国立国会图书馆法的序言中，明确指出“国立国会图书馆秉持‘真理使我们自由’的信念，背负为宪法承诺的日本民主化和世界和平作出贡献的使命，根据本法设立序言中的“真理使我们自由”一段，明确提出，图书馆通过公平提供各类资料来保障国民的知情权，并以成为健全的民主社会的基础为国立国会图书馆的基本理念。
1961年（昭和36年）正式开放的东京本馆的2楼目录大厅墙上，镌刻着首任馆长手书的“真理使我们自由”，这句话在来馆的读者心中都留下深刻印象，并被认为代表了所有图书馆的一般理念，甚至可以说战后日本图书馆界的发展在很大程度上也受到这句话的影响。
国立国会图书馆是隶属于日本立法机关的日本国会的独立国家机关，由众议院、参议院两院议长及两议院中常设的议院运营委员会负责监督管理。统管图书馆事务的国立国会图书馆长，则由两议院议长任命。
根据日本法律，国立国会图书馆由中央图书馆和支部图书馆组成。中央图书馆分为位于东京永田町的东京本馆和位于京都府的关西分馆，这两个图书馆负责收藏保存除国际儿童图书馆涉及的图书以外的各类图书资料。此外，在国会议事堂中，也设有附属于中央图书馆的国立国会图书馆国会分馆。
作为支部图书馆，主要有国际儿童图书馆、东洋文库以及各个行政司法部门内部的图书馆。其中的国际儿童图书馆，负责保存和提供借阅根据法定呈缴本制度而收集的日本国内出版物中的18岁以下读物，因此性质上接近于中央图书馆的分馆。另外，支部东洋文库是由专门研究亚洲的图书馆兼研究所的财团法人东洋文库捐助成立的。
设立于行政司法各机关内部的支部图书馆，将在“对行政·司法提供的服务”一节详述。这类图书馆在制度上属于国立国会图书馆的支部，构成了日本唯一的国立中央图书馆的庞大网络的一部分。尽管这些图书馆的设立主体是各个行政司法机关，但是同时作为国立国会图书馆的支部图书馆，因此其地位比较特殊。
由东京和关西两部分组成的中央图书馆共有900人左右职员，并根据工作性质细分为众多部门，其中唯一一个根据国立国会图书馆法而设立的部门是“调查及立法考査局”。这个部门由若干位专业调查员为核心，负责在众参两院常任委员会认为必要的领域进行高水平的调查工作，发挥了为国会服务的重要作用。
国立国会图书馆提供的服务，主要有以下三部分构成。
从“国会图书馆”的名称中便可理解，对国会提供的服务是其首要任务，但是对普通国民的服务也是其重要一环。作为日本唯一的国立中央图书馆，国会图书馆依照呈缴本制度不断网罗收集日本国内的出版物，还负责制作《全国总书目》。此外，图书馆也致力于与各国图书馆展开交流合作，互相提供资料的国际交换、借阅、复印，以及对管理日文图书的外国图书馆职员的培训活动。
对一般读者的服务，主要通过读者直接来馆、通过读者身边的邻近图书馆间接服务以及下文提及的通过互联网提供电子图书馆服务等形式提供。
国立国会图书馆主要服务部门，即东京本馆、关西分馆、国际儿童图书馆等三馆都可以直接接待读者，除了一些特殊的情况或者贵重图书外，图书馆庞大的资料均面向读者开放。
作为间接的使用方法，普通读者对于在离自己最近的图书馆无法获取的资料，可以通过图书馆际借阅服务来利用国会图书馆，也可以请求国立国会图书馆提供参考调查服务。
与一般公共图书馆不同，国立国会图书馆以保存资料为首要目的，因此对于来馆的读者也不提供借阅服务。另外，由于保存资料数量非常庞大，服务对象遍及日本全国及海外，因此对个人读者的使用有诸多限制，往往会使人感到不便。很多情况下，读者利用身边的公共图书馆往往会更加便利，只有在一般图书馆找不到资料的时候才去利用国立国会图书馆。从这一点来看，国会图书馆是查找资料的最后保障。
国立国会图书馆对国会的服务，除了提供资料、借阅读书等一般图书馆具备的功能外，还有作为议会图书馆特有的立法调查功能。
东京本馆和国会议事堂内的国会分馆设有国会议员专用的议员阅览室，在本馆还设有议员研究室。这些设施除了提供议员进行政策性研究外，也往往是政治家进行磋商密谈的场所。此外，国会分馆对国会议员和职员都提供资料出借服务，也不存在出借資料的数量限制。
国立国会图书馆的另一个主要服务对象就是国家行政司法机关。对此国立国会图书馆也提供图书馆资料的出借、复印等服务，但其窗口是各个机关内部的支部图书馆。行政司法各部门的附属图书馆（支部內閣府圖書館、支部最高裁判所图书馆等），负责收集所在机关的出版物和业务上的资料，并由各个机关拨款營運，但在制度上又属于国立国会图书馆的一个组成部分。另外，各支部图书馆之间通过国立国会图书馆中央馆为中心的網路，互相交换机关出版物、资料的互相借阅、职员的共同培训等。
行政司法各部门的支部图书馆馆长从各自的事务官或技术官员中选任，但任命权属于立法机关职员的国立国会图书馆长。这种将三权结合在一起的支部图书馆制度，在世界各国的国立图书馆中也极为罕见，成为了日本国立国会图书馆的一大特色。
世界各国的国立中央图书馆，通过法律确立的呈缴本制度，要求所有出版者都向其存缴其出版物，以网罗收集本国内的出版物为其主要职责。
日本国立国会图书馆法规定，国内全部的政府机关、团体个人都有义务将其出版物存缴至国立国会图书馆。作为存缴对象的出版物，包括图书、册子、定期出版物（杂志、报纸、年鉴）、乐谱、地图、缩微胶卷资料、盲文资料及CD-ROM、DVD等通过载体出版的电子出版物（包括音乐CD和游戏软件等）等。关于存缴的份数，对于政府机关要求存缴2份至30份不等，民间出版物仅要求存缴1份。
作为呈缴本以外的资料收集手段，有捐赠、采购、出版物的国际交换等。采购主要用于古书古代典籍等不属于呈缴本对象的资料、百科全书、辞典、年鑑等使用频率很高的参考工具书、以及被认为对学术研究有价值的外国资料等。国际交换的对象主要是各国国立图书馆议会图书馆通过呈缴本制度收集的多份政府机关出版物。
关于国立国会图书馆的藏书构造和图书馆技术方面，很大程度上受到了1948年盟軍駐日總司令部（GHQ）民间信息教育局特别顾问RobertBringhamDowns提出的报告书（日文称“”）的影响。根据该报告书的思路，图书馆最初的图书整理分为日式书籍或中文古典典籍以及洋文书籍兩大类，前者根据日本十进分类法（NDC），而后者采取国际上通用的国际十进分类法（UDC）。但是考虑到庞大的藏书量上架存放时，十进分类法有不便之处，在1960年代改用国立国会图书馆分类表进行整理。考虑到使用日本十进分类法的其他图书馆和一般读者的需要，日式书籍或中文古典典籍仍在书目数据中保留了日本十进分类编号來分类。
根据呈缴本制度，原则上国立国会图书馆在持续收集日本国内的全部出版物，因此国会图书馆的馆藏资料书目，就等同于日本国内全部出版物的书目。这样，国立国会图书馆网罗的资料的书目信息目录就被称为“全国总书目”，国立国会图书馆将每周根据呈缴本制度收录的书籍信息收载入《日本全国总书目》。
《日本全国总书目》除了通过互联网公开外，还通过定期出版物的形式出版发行。另外，还做成电子信息库《JAPAN/MARC》，制成CD-ROM版和DVD-ROM版出售。其基本功能就是，检索调查日本国内出版物的综合性索引。
国立国会图书馆成立当初的收藏资料，主要由二战前的帝国议会两院附属图书馆为了议会会议而收集的资料和当时日本唯一的国立图书馆的帝国图书馆的藏书组成。其中，帝国图书馆在战前根据出版法的呈缴本制度网罗的日文图书、珍贵的古书、洋书等，具有非常高的价值。
根据2004年度（平成16年度）末的统计，国立国会图书馆收藏资料共计图书8,369,233册、杂志176,961种、报纸10,351种，另外缩微胶卷、地图、电子资料等非图书形态的资料共约1,200万件以上。
进入1990年代，随着信息科技革命，国立国会图书馆开始探索充实主要以互联网为载体的电子图书馆服务。
近代数码图书馆的公开范围只限于著作权保护期限届满或得到著作权人许可的资料，但是由于可以通过互联网随时随地看到明治及大正时代的出版物，因此其文化价值得到了很高的评价。
WARP就是，将通过互联网公开的学术杂志、政府机关网页等内容，经其管理者许可后保存于国立国会图书馆的储存设备，并通过互联网对外公开的系统。与不能改变内容的CD-ROM不同，WARP是一种将可被管理者自由改写的网络电子信息与纸质媒体一样收集、整理、保存、公开的尝试。
在图书馆出入口处，有着多名职员或第三方专业机构的人员负责日常监查。在进馆时，首先要从发卡机中领取只限当天使用的IC卡。领取IC卡时需要输入本人的姓名、住址、等信息。对于已经登记过的读者，只要持有“登记读者卡”，就可以仅凭输入密码就获得IC卡。之后，读者将IC卡通过类似于地检票机的机器后，进入馆内。另外，由于东京本馆和关西分馆都禁止携带不透明的袋类入馆，因此必须将一些物品存放于入口处的投币式储物柜中。
读者需要离开图书馆时，首先须将借取的资料归还至服务柜台，之后通过门口的检票机，离开图书馆。如未归还资料，不得离开馆区。
由于东京本馆保存有庞大的资料，因此原则上对所有资料均实行读者不能直接接触的“闭架式”管理方式。因此，读者需要首先利用NDL-OPAC（国立国会图书馆藏书检索申请系统）检索必要的资料，并通过该系统提出申请。图书馆工作人员根据NDL-OPAC的申请记录将资料从书库中取出，但由于书库过于庞大，取书过程往往需要数十分钟，而且每人每次的申请数目也有限。
东京本馆由本馆和新馆两栋建筑物组成。本馆的2层柜台负责图书的取还，而新馆的2层柜台负责杂志的取还。另外，根据主体类别放置的特别资料、有特色的资料等分别放置于各个专门室。其中还有许多经常被利用的参考资料如字典、统计资料、年鉴、报纸等，可以被读者直接翻阅。
然而，在关西分馆设有自助复印机，读者可以自行复印所需资料的一部分。这种情况下，需要工作人员检查复印资料的内容是否符合规定。