Зібрання зброї почало формуватися одночасно з виникненням музею. Колекція поповнювалася дарунками Б. Ханенка, П. Потоцького, В. Тарновського, А. Левковича.
У роки Другої світової війни колекція зброї зазнала значних втрат. У повоєнний час зібрання розширювалося за рахунок надходжень із виставок військових трофеїв, завдяки передачі з інших музеїв, закупівлям. Останнім часом до колекції надійшли предмети, передані правоохоронними органами України.
Нині зібрання налічує 2 тис. од. зб. від пізнього середньовіччя до сучасності. Це, зокрема, шаблі різних країн, що відрізняються формою клинка, будовою ефесів, художнім оздобленням; турецькі ятагани XVIII–ХІХ ст.; бойові, парадні, чиновницькі та студентські шпаги. Окремо представлена зброя на ратищах (алебарди, протазани, бойові ціпи, бердиші, списи) та метальна зброя – лук та арбалети. Вогнепальну зброю репрезентують гарматки з козацьких човнів-чайок, дев’ятиствольна ожига – прообраз сучасного кулемета, рушниці, бандолети, пістолети, мисливські рушниці з ударно-колісцевими та ударно-кремінними замками, виготовлені в Західній Європі, країнах Сходу, на Кавказі, в Росії. Новітні види вогнепальної зброї представлені взірцями, названими на честь прізвищами їх конструкторів – Бердана, Кольта, Нагана, Манліхера, Маузера, Мосіна.
До зібрання входить і перший зразок штатного озброєння незалежної України – кортик Військово-морських сил, затверджений у 1992 р.
Сьогодні фондова група комплектується засобами оборони, що застосовувалася в Києві під час Революції Гідності та зброєю (переважно пусковими пристроями та використаними боєприпасами), що використовувалася під час воєнних дій на Сході України з 2014 р.р.
