1954年10月，市北区政府设立秘书科、工商科、民政科、劳动科、文教科、调解科、卫生科、粮食科、手工业管理科、协商委员会等10个工作部门。设立9个街道办事处（区政府派出机构），分别为李村路街道办事处、大连路街道办事处、商河路街道办事处、热河路街道办事处、陵县路街道办事处、辽宁路街道办事处、市场三路街道办事处、大港一路街道办事处、胶州路街道办事处。
1963年2月，青岛市调整行政区划，将原台西区冠县路街道办事处划入市北区。至此，市北区政府辖10个街道办事处。
1994年5月，青岛市进行行政区划调整，原市北、台东两区整建制合并，又将四方区的吴家村、错埠岭街道办事处和李村镇、中韩镇的5个行政村划入，建立新的市北区。同年9月，设立浮山后街道办事处，辖新划入的5个行政村。至此，市北区政府辖街道办事处23个。
1996年11月，市北区政府对所辖街道办事处进行区划调整，将原来的23个街道办事处调整为16个，分别为冠县路街道办事处、泰山路街道办事处、胶州路街道办事处、热河路街道办事处、辽宁路街道办事处、黄台路街道办事处、华阳路街道办事处、登州路街道办事处、利津路街道办事处、延安路街道办事处、威海路街道办事处、北仲路街道办事处、宁夏路街道办事处、敦化路街道办事处、辽源路街道办事处、合肥路街道办事处。
2001年3月，市北区政府成立浮山后社区委员会，作为区政府的派出机构。至此，区政府辖16个街道办事处和1个社区委员会。同年8月，区机关进行机构改革。改革后，区政府设立办公室、经济计划局、教育体育局、科学技术局、财政局、民政局、劳动和社会保障局、司法局、人事局、城市建设管理局、对外贸易经济合作局、文化局、卫生局、计划生育委员会、审计局、统计局、财贸办公室等17个工作部门。派出机构设置不变。
2012年，市北区辖12个街道，2个商业区:台东路步行街、中山路步行街。80个社区。
