Az intézmény gyűjteménye a 2004-ben megszűnt Budapesti Rendészeti Szakközépiskola könyvtárának állományából, a korábban megszüntetett BM Központi Könyvtár könyvanyagából, valamint a múzeum által gyűjtött könyv, dokumentáció és újságcikk archívumból került kialakításra.

A Rendőrség és a Határőrség integrációjának következtében 2008 januárjában a könyvtár állománya kiegészült a Határőrség Országos Parancsnoksága könyvtárának könyv- és folyóirat állományával.
A könyvtár így mintegy 50000 kötetes állományt gyűjtött össze, amelyben szakirodalmi művek, szakmai folyóiratok és szépirodalmi alkotások egyaránt elérhetőek voltak.

2009 májusában azonban el kellett hagynia addigi helyét, és átköltözött mai helyére a Király u. 71. szám alá, ahol 2009. szeptember 14-én újra megnyitotta kapuit.
A könyvtár átköltöztetése során az az elv vezérelt bennünket, hogy mindazokat a dokumentumokat, amelyek a rendőrség munkájához, illetve a rendőrség múltjához kapcsolódnak, a mostani szűkösebb körülmények között is az érdeklődök rendelkezésére tudjuk bocsátani.

Az új helyszínen kialakított könyvtárba a Kerepesi úti könyvtár anyagának kb. harmada került át. Ez kb. 12000 dokumentumot (könyv, folyóirat) jelent.
A szépirodalom és a duplum-példányok a raktárban maradtak.