将军庙的由来据说是后人为纪念唐朝将军杨袭古所建。
新疆奇台县将军庙是著名的准东煤田所在区域的要地，乌准铁路中乌鲁木齐至准东北段，准东至将军庙段于2010年建成后通车，哈将铁路即哈密—将军庙的铁路。将军庙的由来据说是后人为纪念唐朝将军杨袭古所建。
将军庙所处的位置：正前方是砂砾覆盖着的广袤的将军戈壁，庙后是红色的山岩，北边一条古丝道穿山而过，车辙碾压和驮队曾走过的痕迹如今依然可辨。
从奇台县城出发，向东行驶至通往清河县的228省道后一直向北行约70公里，车在路边一处残垣断壁前停了下来，便见有用白色石头摆出的“将军庙”三个醒目的大字。下车后，见路边有一泉，名为“苦水泉”，据悉，天气再热这泉从不干涸，天气再冷也从不封冻。
大谷光瑞等人著的《丝路探险记》的记载：1908年，日本大谷探险队一行9人穿越蒙古戈壁沙漠，从蒙古科布多进入新疆准噶尔盆地的将军戈壁。记载他们当时见到将军庙的情景：“看到一座名叫将军庙的小祠，其背靠一个小沙丘，有一个朝南，面积约4坪（一填坪约为3.3平方米）的厅堂，中间有将军像，有羊腿、葡萄、面粉等供品。还有一个刻有光绪二十三年铭文的小钟”。
1994年版《奇台县志·文化》记录一个传说：相传中唐时期 ，一位朝庭将军率兵奉命远征，平定边疆外敌入侵，不幸闯进了准噶尔东部的这片茫茫戈壁，后来渐渐饥渴交加，人困马乏。一日，将军忽见远处波光粼粼，百帆竞发，于是率众士兵欣然前往，不知走了多长时间，那浩浩波滔却越来越远，最后渐渐消失。将军一行这才知道上了那海市蜃楼的当。无奈之下，将军只好命人就地掘泉，然而，泉水却苦涩无比，不能饮用。将军不禁仰天长叹：“天灭我也！”终于，全军数千将士只剩下了最后一壶水，将军不忍独饮，传众人舔之，最后水绝，全军覆没。后人有感于将军的品格，把将军征战的地方命名为将军戈壁，又不辞辛苦用驼队运来砖木，在将军遇难的地方，修建了将军庙。