Až do začátku 19. století nebyla chemie jako samostatný obor vyučována nejen na pražské univerzitě, většinou ani na jiných evropských univerzitách. Chemie byla považována za pomocnou lékařskou vědu. Nicméně první výuka chemie a fyzika na UK probíhala již od roku 1746 v Karolinu. Studium obecné i farmaceutické chemie bylo z lékařské fakulty převedeno na filozofickou fakultu roku 1848, kam v té době ještě přírodní vědy patřily.
Rozdělení Karlo-Ferdinandovy university v roce 1882 znamenalo příliv českých studentů, nedostávalo se výukových prostor. V roce 1892 vznikl na české universitě samostatný ústav, který se dělil na oddělení chemie obecné, anorganické, analytické a farmaceutické chemie. Stávka studentů v říjnu 1903 a následné zastavení přednášek kvůli nedostačujícím prostorám přinutila tehdejší školskou komisi vyjádřit souhlas se stavbou nových budov pro obě univerzity.
V letech 1903-1905 byla vystavěna budova Chemického ústavu české univerzity v Hlavově ul. 2030/II. Podle jiných podkladů byla budova předána do užívání až v roce 1906 jako Chemický ústav. Dostavby objektu jsou z let 1925 a z r. 1927. V budově Chemického ústavu pokračovala výuka chemie  a farmacie po vzniku Přírodovědecké  fakulty 1920.
První chemickou knihovnu dal vybudovat Bohuslav Brauner. U firmy Ant. Baumgartl a syn nechal zhotovit dřevěný nábytek, jak o tom svědčí štítky nalezené na skříních ve studovně. Oborová knihovny chemie sídlila od svého vzniku v budově Chemického ústavu české univerzity v Hlavově ulici 2030. V roce 1995 proběhla rekonstrukce a knihovna získala další místnost s vestavěným patrem, což umožnilo rozšířit knihovnické služby o internetové připojení a zkvalitnit zázemí knihovnic. V roce 2000 byla v knihovně instalován elektromagnetická ochrana fondu. Část staršího fondu časopisů byla pro svoji zastaralost a rychlý vývoj přesunuta do univerzitního depozitáře v Lešeticích.
V roce 2015 byla zahájena výstavba nové Knihovny chemie ve dvoře  Chemického  ústavu v Hlavově ulici. Stavba trvala dva roky, potýkala se s různými problémy, například se zjistilo, že základy obvodové zdi nejsou tak hluboko, jak se předpokládalo a bylo potřeba provést pilotování zdi. Tím se samozřejmě doba výstavby prodloužila. Po celou dobu výstavby spolupracovalo vedení knihovny s architektem. Podařilo se tak vytvořit moderní prostory, multifunkční, se spoustou zeleně, vlastní terasou, klimatizovaným depozitářem vybaveným posuvnými regály.
Knihovna byla slavnostně otevřena 1.6.2017 rektorem univerzity prof. T. Zimou a děkanem fakulty prof. J. Zimou.