大业四年五月初，杨广拜黄明辽为玉门道行军总管，兼领敦煌郡太守；以银青光禄大夫王威为副总管；李节为行军长史，出征伊吾。又诏草原胡部，从北面往攻助战。

李节自李筠死后，担忧李浑报复，惶惶不可终日。为了死中求活，原本已经淡化与黄明远关系的他，再次投效到黄明远的门下。不是投奔，而是愿意改名换姓，为奴为婢。

黄明远最终拒绝了，用一位申国公府的嫡出子弟为奴，他还不想惹那么大的麻烦。

不过这一次出征西域，黄明远正好希望有一人可为黄明辽佐贰，便选了善于诡谋的李节。李节是个聪明人，用好了就是一把利刃。留在中原因为身份原因黄明远总不敢信任他，怕其会被主，但到了西域，便没这么多考虑。

李节虽出身李家，但因为与李浑作对，也没人承认他是李家人了。黄明远使其跟随西征大军前往西域，虽然西域遥远，但也能躲避李浑，他也是欣然从之。

西征大军最重要的基地是敦煌，能不能在敦煌得到足够的修整和补给，关乎到此次西征的成败。

敦煌一地，自古与中原交往并不密切，权利多为当地世家盖、张、索、曹、郭、宋、容等掌握。单凭军队，黄明辽很难也没时间掌握敦煌。

黄明远怕黄明辽吃亏，因此又请求杨广任命留在敦煌郡的黄明诚为敦煌郡郡尉；崔仁恕为敦煌郡郡丞，兼领大军粮道，替黄明辽守备后路。

实际上在考虑西域战略之后，黄明远便对河西下手。大隋合并州县之后，在河西只有武威、张掖、敦煌三郡，黄明远身边没有能担任太守的人，因此便保举自己的姑父张志宽为张掖郡郡丞，又任命黄凤麟为福禄（治今甘肃省酒泉市）令，孙伏伽为允吾（治今甘肃省永登县，大业六年改名为会宁县）令。再加上原本为武威郡郡丞的安修仁，黄明远便将整个河西走廊的联系给打通了。

此次大军西征，将领缺乏，黄明远一股脑地将丰州将领填充进去，再命丰州旧将高震、伏延旺荣、蒙跃、暴固、尉迟恭等人跟随，黄明远甚至把自己的卫队长秦琼也交了出去。西征部队实际上便是另一个丰州军。

五月五日，大军在洛阳誓师西征。

杨广在圣旨中痛斥了伊吾的恶行，乃命黄明辽奉天子之命帅师伐国。

朝中众人对于此事，大多冷眼旁观。黄明辽此战若胜利，对大隋西域战略也有好处，哪怕失败了，也是黄明远的事情，与他们无关。