甘肃，古属雍州，地处黄河上游，它东接陕西，南控巴蜀青海，西倚新疆，北扼内蒙、宁夏，是古丝绸之路的锁匙之地和黄金路段。甘肃，是取甘州（今张掖）、肃州（今酒泉）二地的首字而成。 由于西夏曾置甘肃军司，元代设甘肃省，简称甘；又因省境大部分在陇山（六盘山）以西，而唐代曾在此设置过陇右道，故又简称为陇。其中天水在中国历史上地位非凡，被誉为陇上江南、羲皇故里，位于甘肃南部，名字是汉武帝所赐。
一、在中国历史上，天水在夏、商时期属雍州，周孝王十二年（公元前九世纪）赢非子在秦池（今张家川县城南一带）为王室养马有功被封于秦，号赢秦。秦即后世的秦亭，是今天水市辖区见于史籍的最早地名。
二、秦武公十年（前688年），秦灭圭阝戎、冀戎，置圭阝（今天水市城区）、冀（今甘谷县东）二县，这是中国历史上设置最早的两个县级建置。秦昭王二十八年（279年），设陇西郡。郡县制在今辖区确立。
三、东汉武帝元鼎三年，上邽经历了一次史无前例的大旱灾。穷苦的人们都为田禾枯干祈求神灵降雨。一天半夜，当人们熟睡时，突然天上响起巨大的雷声。又一阵“轰隆隆”巨响，大地裂开了，只见天上的河水，一落千丈倾泻下来，刚巧注入裂开的地缝。真是九天的银河落向人间，流了很长时间。接着又是几天的和风细雨，把一个干旱火烧的地方滋润得如翡翠一般，到处水灵灵的。 这次大地震引来了九天银河，人们认为是神灵显威，把“天河注水”传说得神乎其神，赞美这里最大的一汪湖水是“天水井”，还传说这水“春不涸，夏不溢，四季滢然”。 这一年，大将军卫青、骠骑将军霍去病西征匈奴获得大捷，疆域开拓，丝路畅通，为了更好地管理国家，西汉王朝把当时的陇西郡分为两郡。一天，汉武帝听到了“天河注水”的传说，十分高兴，下旨在上湖旁边，筑起一座城池，设新郡，名曰“天水郡”，天水之名正式出现在中国历史上！
四、三国魏文帝黄初元年（220年），一度设秦州。因秦邑而得名，从此有“秦州”的名称。隋唐时，实行州县二级制，秦州地域缩小，地域和今辖区大体相当。元代，秦州辖成纪、秦安、清水3县。明代，秦州辖秦安、清水、礼县3县。清雍正七年（1729年），秦州升为直隶州，直隶甘肃省，辖秦安、清水、两当、徽县、礼县5县。
民国二年（1913年），2月，北洋政府推行省、县二级制，暂存道制。巩秦阶道改称陇南道。撤秦州设天水县。1985年7月8日，天水市升为地级市。2015年10月9日，天水市秦州区齐寿乡等22个乡撤乡改镇，调整后，天水市共辖78个镇，35个乡，10个街道。