Die Bibliothek ist einschichtig gegliedert in eine Zentralbibliothek, 17 Zweigbibliotheken, die zum Teil weitere Teilbibliotheken unterhalten, und das Universitätsarchiv. Herzstück der Bibliothek ist die Zentralbibliothek, die derzeit ein neues Gebäude - das Jacob-und-Wilhelm-Grimm-Zentrum - erhält. Sie ist auch für die historischen Buchbestände wie die private Arbeitsbibliothek der Brüder Grimm zuständig.

Auf dem Campus Adlershof befindet sich die Zweigbibliothek Naturwissenschaften mit rund 400.000 Bänden, die im Jahr 2003 durch die Zusammenlegung der Zweigbibliotheken Chemie, Geographie, Mathematik/Informatik, Physik und Psychologie entstanden ist.