后来甘州回鹘脱离归义军，这让张淮深更是头疼不已。虽然张淮深不断地率军向甘州发起反攻，并杀死了甘州回鹘可汗，但是却不能将他们连根拔起。而唐廷此时历经黄巢起义，全国藩镇全独立了，唐廷对势力强大的归义军非常害怕。于是唐朝就想了个馊主意，让甘州回鹘牵制归义军，让他们都没精力打自己的主意。唐朝对甘州回鹘的默认，这无疑是给了归义军一记巨大打击。
让归义军失去了利用大唐这个“金子招牌”讨伐回鹘人的便利。如果说归义军的压力只限于外部，那就罢了。当时归义军最大的问题，在于内部。由于张仪潮有儿子，所以张淮深就要面临要不要把节度使位置还给自己的堂弟张淮鼎的选择。张淮深没处理好这个问题，后来他就死在了自己人手上。关于张淮深之死，历史上有不同说法，根据宋朝人编写的《新唐书》记载，认为是张议潮女婿索勋杀的；但当代有学者认为，应该是唐廷赐死的，或是李茂贞发兵杀死的。
由于存在不同说法，这里就不深究了。张淮深死后，张议潮的儿子张淮鼎接任节度使之位。他在位置上只待了两年即病死，临死前托孤索勋，让他扶立自己的儿子张承奉接位。但索勋辜负了张淮鼎，他自立为归义军节度使，引起了张议潮第十四女、李明振之妻张氏（索勋的小姨子）的不满。于是在公元894年，张氏派三个儿子杀死了索勋，拥立张承奉为归义军节度使。
张承奉即为第五任归义军节度使。张承奉接任后，先是推翻了欲把自己当作傀儡的姑妈和姑父，紧接着东征西讨，欲恢复爷爷张仪潮时期的荣耀。但是张承奉的扩张非常失败，他当时一面向西域打，进攻西州回鹘，一面又向东面扩张，打甘州回鹘，结果他两头都没打下来，反被两面夹击，被揍得很惨。公元904年，朱温杀唐昭宗，并策划了“白马驿大屠杀”。
这件事让很多节度使都非常不满。归义军是唐朝册封的藩镇，张承奉和其他地方的节度使一样，也非常不满朱温的大权独揽。因而在唐朝灭亡的前一年，归义军就独立了。公元906年，张承奉自立为王，自称“白衣天子”，把归义军改为“西汉金山国”。PS：“西汉”的意思是“西部汉人”，“金山”的意思是敦煌西南的金鞍山。“西汉金山”合起来的意思就是西部的汉人在敦煌建立的国家。
张承奉的这个举动，可能是想利用自己称王的号召力，凝聚内部民心，以便同甘州、西州两回鹘相抗衡。但是自立为王，显然不是一步好棋，因为唐朝当时还未灭，甘州回鹘可以借“背叛朝廷”为理由，攻击归义军。而且张承奉自立为王，不向朱温称臣，也得罪了朱温。公元911年，在后梁朱温的支持下，甘州回鹘猛攻归义军。张承奉不敌，被迫与甘州可汗签订了屈辱的城下之盟。
当时甘州回鹘的可汗狄银逼迫金山国的宰相和高僧向他下跪，还侮辱性地要求张承奉出城亲自下跪，让他认可汗为父。最后张承奉只好狡辩称，可汗应该先跪拜他的父亲，才能接受他儿子的跪拜。由于当时可汗的父亲不在场，所以此事暂时作罢。这起事件后，归义军元气大伤，沙州军民人口伤亡惨重，郊外的农田和果园被焚毁，灌溉系统也被破坏严重。
不过张承奉还是不死心，他虽然被迫废了西汉金山国，但仍然以敦煌王自居。后来张承奉病死，由于他没儿子，而且张氏也确实没资格继续坐节度使的位置了，所以张承奉死后，沙州大族就公推曹议金为节度使，接过了张氏的权柄。曹议金接任后，他意识到作为领土狭小、缺乏战略纵深的绿洲邦国，以强硬的方式打击四周外族是不理智的，也是不划算的。
并且将原本的藩镇强行升级为王国，这不仅在政治上把自己树立成了靶子，同时对领土控制权的渴求又缺乏应有的实力基础。可谓是没实力还要强行装叉的典范。所以，曹议金接任后，他第一时间就废除了敦煌国号，改回了归义军，并奉中原王朝为宗主国。此后，不管中原谁当家，曹氏控制的归义军政权都派使者去称臣纳贡，主动请封。当然了，只巴结中原王朝还是不够的，毕竟归义军的头号大敌是甘州回鹘。
当年甘州回鹘可汗放了狠话，只要归义军赶走出敦煌地界，就血洗敦煌城。所以曹议金时期，他积极和周围民族改善关系，比如他就曾把几个女儿嫁给了甘州回鹘的可汗和于阗王，给各国领导人当老丈人。曹议金死后，儿子曹元德接任，此后又传了六代，分别是曹元深、曹元忠、曹延恭、曹延禄、曹宗寿、曹贤顺。其中曹元德、元深、元忠是三兄弟，都是曹议金的儿子，元忠死后，大哥曹元德的儿子曹延恭即位。
