在整个西征的过程中，耶律楚材一直随军行动。成吉思汗虽然很器重耶律楚材，但史料并没记载任命他什么官衔，估计是类似于怯薛的侍从人员。成吉思汗最初交给他的任务似乎主要是占卜：“汗每出师，必命楚材预卜吉凶。汗亦自灼羊髀骨，用相参验。”现有史料记载楚材在成吉思汗时期的主要活动和建言，也大多与占卜等事有关。例如成吉思汗西征前祭旗之日，是夏六月，天气却降雪三尺，“帝疑之”，楚材说：“玄冥之气，见于盛夏，克敌之征也。”鼓励大汗定下出征决心。又如庚辰（1220年）冬大雷，帝复问之。对曰：“回回国（指花剌子模）主当死于野。”后皆应验。
更具神秘色彩的是角端事件：“甲申（1224年），帝至东（疑为西）印度，驻铁门关。有一角兽，形如鹿而马尾，其色绿，作人言，谓侍卫者曰：‘汝主宜早还。’帝以问楚材，对曰：‘此瑞兽也，其名角端，能言四方语，好生恶杀，此天降符以告陛下。陛下天之元子，天下之人皆陛下之子，愿承天心，以全民命。’帝即日班师。”（《元史》本传）由于此说怪诞不经，屠寄《蒙兀儿史记》将它删掉了。但此事虽为传闻，时间不合、地点不对或许有之，然蒙古将士未见过犀牛，以为怪兽，成吉思汗闻报，向博学多闻的楚材咨询，其事则很可能有。至于兽作人言，或为蒙古将士思归，附会于兽语，楚材亦将计就计，奉劝大汗班师，更在情理之中。总之史书所载传说之事，夸张、渲染、附会之处本不足为奇，关键的问题是楚材针对成吉思汗的迷信思想，善于“以神道设教”，将自己的积极主张用具有浓厚迷信色彩的手法表达出来，劝其接受，显示出楚材的聪敏。
当然，作为一个深受儒家思想熏陶，知识丰富，胸怀大志的青年，耶律楚材不会满足于仅仅依靠占卜、巫术之类去影响大汗。他时时希望能够真正施展自己的政治才能，帮助成吉思汗治理国家。史载西夏人常八斤以善造弓箭见之于帝，“每自矜曰：‘国家方用武，耶律儒者何用？’楚材曰：‘治弓尚需用弓匠，为天下者岂可不用治天下匠耶？’帝闻之甚喜，日见亲用。”同时，楚材也利用成吉思汗对他的信任，做了不少好事；如丙戌（1226年）冬，蒙古军攻下灵武，诸将争夺子女金帛，楚材独收遗书及大黄等药材。不久士卒大疫，楚材用大黄治病，救人甚多。
此外，耶律楚材还为成吉思汗掌管文书。当时，蒙古立国未久，诸事草创，各种规章制度正在逐步建立，战争仍在激烈进行，来往文书甚多。由于民族复杂，文书大约有蒙文、汉文、波斯文三个系统。蒙文由怯烈哥主管，波斯文由镇海主管，汉文即由耶律楚材主管。由于当时蒙古贵族多不识字，因而掌管文书的作用不应低估，他们常常可以利用方便的条件，按照自己的私意处理问题，具有一定的权势。当时不少中原地区的官僚地主都慕名而来，通过耶律楚材向成吉思汗钻营。耶律楚材是一个有高度封建文化修养的儒生，为人正直，把“行道泽民”作为自己的“素志”；虽然他自称“备员翰墨，军国之事，非所预议”，但必要时向成吉思汗提醒什么事该作，什么事不该作，还是非常方便的。肯定他会利用这个职务做一些有益的工作。
耶律楚材还主持了在塔剌思城屯田的工作。这个地方是古代中亚的名城，位于塔刺思河畔，为中西交通的要道。蒙古军攻占此城后，即以此为基地继续西进，陆续攻占了讹打剌城（阿里斯河注入锡尔河处附近），蒲华城（布哈拉）。最后攻占了花剌子模的首都寻思干（撒马耳干）。寻思干在西辽时称为河中府，当地土地肥饶，经济繁荣，多豪民。蒙古军入城之后，俘虏了三万名工匠，送往蒙古分赏诸将为奴。同时，又迁徙了四百多名豪民子弟到塔剌思城屯田。这是一个削弱新征服地区反抗力量的措施，对恢复发展后方的社会经济也有好处。耶律楚材奉命主持这一工作。大概这是他的主意。这对蒙古军事贵族只知道打仗，掠夺财富，转变到恢复发展社会经济，是很有意义的。
耶律楚材随成吉思汗西征七年，总的来看还不算太忙，经常与朋友游园、饮酒、赋诗。他在西域所交游，首推耶律阿海，当时他奉命镇守撒马耳干；其次为西辽前郡王李世昌（契丹人），并曾向他学习辽文；还有贾搏霄（疑为《元史》中的贾塔剌浑），冀州人，汉化很早的契丹人，西征时统炮兵，升元帅；郑景贤（号龙冈），是三皇子窝阔台的医官兼顾问，后楚材见重于太宗，很得帮之推荐，楚材与他赠和的诗多达七十五首。另外丘处机自辛巳（1221年）冬至壬午（1222年）夏，也在河中住了半年之久，楚材与他酬唱不少，至少当时很谈得来。楚材与护送真人西来的镇海将军（克烈人或回回人，通畏兀儿文）也很相投，后举荐他任右丞相。
从楚材的诗中看，他在西域的心情是矛盾的，一方面享受着乱世难得的安静生活，琴书自娱，饮酒赋诗，结伴郊游，甚至视河中为“锦城”，大有乐不思蜀之意。另一方面又有思乡念亲之叹和怀才不遇之感，甚至说：“归去不从陶令请，知音未遇孟尝君。”有人据此认为正是他不受成吉思汗重用，被视为半仙术士之流的原因。从楚材来说，不满足于当时的地位，想在政治上发挥更大作用，偶尔发发牢骚也是可能的，况且文人作诗，多有夸张。尤其是在时代风气污染下，精研佛、道理论的楚材流露归隐之念更有家常诗句在，但并不能据此认为他是失意政客。
从成吉思汗来说，当时确实未任楚材为相，一者是因为当时朝廷组织不够健全；二者是西征时以军事行动为主，少有政治措施，最需要的是军事人才。楚材是政治家，自然较少施展抱负的机会；三者是楚材所学习的治国平天下的儒学，对于生长于游牧社会，以弓马取天下的成吉思汗来说毕竟是太深奥难懂了，况且在当时的西域也用处不大。然而并不能因此说成吉思汗不重视他。怡恰相反，成吉思汗非常器重他的才能，留他随侍左右，就有亲自培养锻炼之意；另外可能也是作为一种“人才储备”，以便天下平定后使用。再者，在成吉思汗看来，观天象以察时变，求卜筮以定吉凶，是一项非常重要的工作，可以担任此职者，决非等闲之辈。更何况成吉思汗还常常用楚材办理文牍，让他对“行道泽民”之事随时进言。楚材除用不少时间观察天文，完成《庚午元历》外，还要处理大量公文、书信、国书，据说征召长春真人西行的诏书也是他写的。楚材自己也感到了大汗对他的信任和器重，在诗中常以调和鼎鼐的丞相自称：“自愧备员调鼎鼐，不知何事谬阴阳？”（《和冲霄十月桃花韵》）。
最能说明成吉思汗慧眼识才的，便是他晚年一再向他的继承人窝阔台说：“这个人（楚材）是老天爷赐给我们家的，你以后凡是军国大事都不妨交给他管。”《元史》、《新元史》均郑重其事地记录过这段话，显示出成吉思汗的远见。
