成吉思汗到云中地区巡视的时候，当地所设的课税使把账目和收来的财物全部拿来给他看。成吉思汗笑着对耶律楚材说：“你跟在我身边之后就能让朝廷有足够的财物用。汉人中有你这样的人吗？”耶律楚材说：“汉人当中比我强的人多得很，我这点才干只能勉强为皇上所用。”成吉思汗很欣赏他这种谦虚。窝阔台继承汗位后，耶律楚材继续获得信任，被任命为中书令。
窝阔台南征金朝时，耶律楚材建议免去那些发誓永不再叛的农民死罪，再制作旗帜交给那些来投降的人，让他们回家种田。以后遇到蒙古军队，只要拿出旗帜就不会受到任何骚扰。窝阔台采纳了耶律楚材的意见，很多老百姓就是因为这样才免去一死的。
蒙古原来规定，凡是进攻城池，如果守城的人敢于抵抗，攻下来之后就把守城的人全部杀死。后来蒙古攻打汴梁的时候，大将速不台对窝阔台说：“金人长期抗拒，为了攻下汴梁我们死了很多人，我请求攻下来之后把全城的人都杀掉！”耶律楚材听说后，马上对窝阔台说：“我们打了这么多年的仗，无非就是为了得到土地和人口。如果屠城的话，那只能得到土地。光有土地没有人，土地有什么用！”窝阔台还在犹豫，耶律楚材又说：“汴梁这地方很富裕，居民大多很有才干。如果都杀掉的话，我们什么都得不到。”窝阔台被他说动了，下令只诛杀完颜氏一族，其他人都免死。当时汴梁有100多万人，就因为耶律楚材几句话而留住了性命。