Бібліотека НМІУ була створена в 1902 р. як науково-допоміжний відділ Київського музею старожитностей та мистецтв. У 1909 р. нараховувалось 1700, а на початок 1916 р. – 5 366 книг, брошур, періодичних видань з археології, історії, етнографії, мистецтва, питань культури.
Бібліотека поповнювалась завдяки пожертвам різних наукових установ, товариств, навчальних закладів, меценатів (В. Кульженко, родина Терещенків). Цінні художні видання подарував Б. Ханенко, М. Біляшівський – частину своєї бібліотеки, Д. Щербаківський – колекцію рукописних церковних книг і стародруків XVI–XVIII ст., долучились о цієї справи й інші.
Пізніше з бібліотеки до музейних фондів були переведені колекції стародруків, рукописних та документальних пам’яток, картографічні і образотворчі матеріали з історії України та Києва.
У бібліотеці зберігаються видання музею перших десятиліть ХХ ст.: путівники по музею та звіти за 1904–1915 рр., які містять відомості про нові надходження, склад колекцій, каталоги виставок.
До рідкісних видань належать «Сказание о населенных местностях Киевской губернии. Собрал Л. Похилевич» (К., 1864), «Список населенных мест Киевской губернии» (К., 1900), «Описание Киева. Сочинение Николая Закревского» (М., 1868), «Киев теперь и прежде. Составил М. М. Захарченко» (К., 1888).
Бібліотека НМІУ, яка нараховує бл. 25 тис. найменувань, продовжує комплектуватися науковими виданнями.