唐朝在沙州城内常驻有豆卢军四千三百人，隶属于河西节度使（驻凉州）。安史之乱时，唐朝征调陇右﹑河西诸军入援内地，吐蕃乘虚进攻陇右﹑河西，约在广德二年（764）或稍后攻陷凉州（今甘肃武威），大历元年（766）又陷甘州（今甘肃张掖）﹑肃州（今甘肃酒泉），唐移河西节度使治沙州。沙州和内地的交通被阻绝，但沙州人民仍坚守其地，直到德宗贞元三年（787）才投降。从此沙州被吐蕃贵族统治六十余年。唐朝失去了通往西域的要道。不过唐朝很幸运，虽然通往西域的要道被截断，但生活在河西等地区的汉人挺多，他们一心向往唐朝，不愿受吐蕃的残暴统治。
吐蕃统治河西地区时，有一个叫张议潮汉人出生了，他从小目睹了吐蕃残暴统治，决心光复河西地区，回归大汉。张议潮所在张氏家族世代是河西豪门望族，张议潮为了实现这个理想，他倾尽家财，招募并训练军队，等待机会与吐蕃作战。
唐宣宗大中二年（848），沙州汉族人民趁吐蕃势力衰弱时，在张议潮的领导下举行起义，赶走吐蕃镇将，并遣使取道天德军（今内蒙古乌梁素海东南缘）上表唐朝，报告沙州的归复。接着，张议潮又遣兄张议潭携瓜﹑沙﹑伊﹑西﹑甘﹑肃﹑兰﹑鄯﹑河﹑岷﹑廓等十一州的地图﹑户籍奉献给朝廷，唐朝皇帝没想到还有一支私人部队甘愿为唐朝效力。两年后，张议潮收复了河西地区11州，唐宣宗封张议潮为沙州节度使，成为唐朝戍边大员。867年，张议潮到长安任职，被封为光禄大夫、御史大夫、河西万户侯等职，872年张议潮在长安病逝。
但张议潮死后18年，张淮深被张议潮的女婿索勋所杀，索勋让张议潮另一个儿子张淮鼎为节度使，但两年后，张淮鼎去世。本应由张淮鼎儿子张承奉接任，但索勋没扶持张承奉，而是自立归义军节度使，不过依然是唐朝边防守卫部队。
归义军可是张氏一手建立的军队，现在虽说归了张议潮女婿，但张议潮的人却不愿意。张议朝第14个女儿与女婿李明振反对索勋领导归义军，他们派三个儿子杀死索勋，拥立张承奉为节度使。
归义军的内乱给活动在其周边和辖区内的少数民族提供了可乘之机，甘州被回鹘攻占，占据肃州的龙家也不再听从归义军的号令。凉州因有甘、肃二州相隔，实际上亦脱离了归义军的控制。
至九世纪末十世纪初时，归义军实际控制的已仅有瓜沙二州了。张承奉不甘坐守瓜沙，想用武力恢复归义军兴盛时的旧疆，并于开平四年（910）建立了"西汉金山国"，自称至文神武天子。连年的战争使瓜沙地区经济凋零，不少百姓家破人亡，境内"号哭之声不止，怨恨之气冲天"。失去人民支持的张承奉政权终于在开平五年被甘州回鹘击败，被迫认回鹘可汗为父，成为甘州回鹘政权的附庸。
张承奉死后，此时我国正处于五代十国的乱局。归义军统今也发生了变化，并不是张议潮的后人统治这支军队，而是归了曹议金。曹议金成为归义军节度使。乾化四年（914），沙州的另一个大族曹氏家族中的曹仁贵（后更名曹议金）取代了张承奉，恢复了归义军称号，瓜沙地区社会日趋安定，经济繁荣。议金之后，其子孙相继，这一时期先后有曹元德、曹元深、曹元忠、曹延恭、曹延禄等为节度使，凡七代，至公元1002年，将近90年时间，敦煌地区经历了从动荡不安到繁荣稳定的历史过程。
曹延禄执政晚期，归义军再度与甘州回鹘发生战争，引起瓜沙民众的不满。咸平五年（1002），归义军内部发生兵变，曹延禄与其弟曹延瑞被迫自杀。延禄的族子曹宗寿在众人推举下掌握了归义军政权，宋廷遂任命曹宗寿为归义军节度使。战争和内乱使曹氏归义军政权迅速衰落，而沙州地区的回鹘势力在这一时期却得到了迅速发展，成为与归义军政权抗衡的重要力量。此时，归义军政权已不堪一击，任何外来的攻击和内部的骚乱都足以使其倾覆。这使得在归义军政权庇护下的沙州佛教势力感到极度恐慌。天禧四年（1020）和天圣元年（1023），曹贤顺曾两次向宋廷进贡物品。景祐三年（1036）李元昊灭亡归义军政权，曹贤顺向西夏投降。