对于新生代来说，谈起中国的行政区划，时常会陷入一种迷茫的状态，比如青岛市的市，而即墨市和胶州市也是市，彼此之间虽然都叫市，但级别是不同的，青岛是地级市（但事实上，由于该市属于计划单列市，因此是副省级），而后者两个市，其实是县级市，在行政上，青岛代管后者。
其实在我国，地级市的存在以及在日常生活中的提及，时常会给人造成困扰，这种困扰，归根结底在于人们对地级市的范畴理解出现分歧。
数年前，网上流行这样一篇文章，说哈尔滨是我国最大的地级市，理由是哈尔滨的地盘，要比对岸的宝岛全岛面积还大。而这里所说的哈尔滨地盘，指的是哈尔滨市区以及哈尔滨附属的县级市所管辖的地区（包括广大农村）的总和面积。换句话说，指的是哈尔滨地级市所管辖的全部地区，而非哈尔滨的市区。
在日常生活中，人们对省城和县城的概念十分清晰，唯独对市区和地级市的辖区会出现混淆，比如对于安徽人来说，省城合肥，往往指的是合肥这座城市，不过，一般不会包括合肥的附属地区，乡下人去县城，也会很容易把县城和自己所居住的乡村分别开。
而在地级市这一块，几乎没听说有“市城”这个概念，甚至很多地级市附属地区的景点、名胜，往往也会被说成在XX市境内，这让外地人很难分别出，这个XX市境内，指的是市区还是市的代管地区。
随着远古时代统治权的确立，最高统治者就需要考虑通过实际情况，来管理自己的地盘，而随着时代的变化，这种管理模式也在不断革新。
一般认为，中国最早的王朝是夏朝，倘若夏朝存在，一般认为，夏朝的行政范围仅限于其京城左右，之后的商周也大致沿用这个统治模式。不过，到了周朝，朝廷对地方的管理有所突破，在夏朝和商朝，朝廷只要求周围的生番主动朝贡即可。而西周时期，西周派遣宗室和功臣到生番的部族为诸侯，并逐渐改变了生番部族的生态。
秦灭六国以后，将这个制度变成了系统的郡县制度，并影响中国后来的历史长达数千年，直到元朝以后，事情发生了变化。
元朝的领土在中国历史上可谓前无古人，大元皇帝统治庞大的领土，如果按照以往的郡县制度，如此庞大的领土管辖，无疑会耗费元朝朝廷的精力，于是元朝推行了行省制度，在元朝境内设立若干个省，省下则设立府和县进行逐级管理。
其实严格来说，古代中国的所谓城市，和近代的城市是两个物种，比如城建方面的学者就认为，古代中国的地方治理属于有城无市的模式，指的是虽然存在城墙，但是却没有市政衙门这类机构，来负责城市的治理，并且在我国古代，市，往往指的是市井，可以理解成贸易集散的地方。
鸦片战争后，洋人对中国的影响不断加深，在洋人的要求下，清朝除了割让诸如香港岛这样的地区以外，还被迫开放上海等港口，并且随后不久，洋人又在我国的天津、上海等地开设租界，这些租界成立的同时，西洋人也将西洋的城建市政机构一并带到了中国，由此，出现了近代上海、天津这样的城市。
新中国成立后，按照法律层面上的精神，中国的地方行政管理，依旧奉行省、县和乡这三级制度，至少在法律层面来讲，中国的地级市地位争议很大。
按照法律规定，省直接管辖县（包括县级市），不过客观来说，一个省辖区内的县一般都有近百个，省政府的精力无疑无法直接管辖这么多的县（事实上，海南岛已经实现了省管县），因此，需要设立地级市，来针对这些县进行代管。
当然，对于古代人来说，是没有这个麻烦的，因为古人除了有省城和县城的概念之外，也存在府城的概念，比如扬州府的辖区，和扬州城的辖区，古人就划分得一清二楚。
不过，虽然地级市的范围容易被混淆，但毕竟对人们生活影响不大。