邹城市图书馆起于1951年3月成立的邹县人民文化馆（1957年底，改称邹县文化馆）图书室，藏书量3万余册，工作人员2名。邹县人民文化馆首建馆址在县城内东门里关岳庙；1957年春，馆址迁往罗家大院（文庙街北首路西）；1957年底，迁入文庙原址——西门里大街24号。

1975年6月21日，在邹县文化馆图书室的基础上成立邹县图书馆，设借阅室、阅览室、书库。1976年，邹县图书馆与邹县文化馆分开办公，设馆长1人，副馆长1人。

1980年，在邹县太平路36号购地3.5亩，新建图书馆平房16间，共414平方米，藏书量6.8万册，职工10人。

1990年10月，在图书馆原址拆掉平房，兴建图书馆大楼，建筑面积2800平方米，共5层，藏书量10万余册。1992年4月竣工投入使用，1992年11月，对外开放。

1992年10月，邹县撤县建市，邹县图书馆改称邹城市图书馆，名称沿用至今。

2014年5月，邹城市图书馆搬迁至新建的邹城市文化艺术中心内，馆址太平东路2669号。新馆于2015年2月对外开放，共4层，建筑面积1.9万平方米，设计藏书量100万册。

1989年被济宁市文化局评为先进图书馆。同年被山东省文化厅评为先进图书馆。1993年8月，被定为山东省公共图书馆评估定级工作试点单位。1994年被国家文化部定为国家二级图书馆。1999年10月被国家文化部定为国家一级图书馆。