公元1253年秋，忽必烈领兵南下驻扎六盘山。何仁杰之父贺贲建宅时于残垣中得金数千，不敢私藏，持金前往忽必烈军营纳献，并推荐何仁杰的文才武略。忽必烈即将何仁杰录为自己的随从侍卫。从此，何仁杰跟随忽必烈南征北战，屡立战功。

忽必烈即皇帝位后，何仁杰在宫中辅助忽必烈处理军国要事。他提出的建议，多为忽必烈採纳。且言语谨慎，保守内宫机密，深受忽必烈的器重。至元十三年(1276)，忽必烈灭了南宋，统一了全国，何仁杰仍在忽必烈的身边参赞朝政。忽必烈欲选民间少女人后宫为妃，何仁杰认为此事不可行，劝谏忽必烈取消了这个打算；山后(即今山西北部)实行盐禁，危害到百姓的生活，经他又向忽必烈建议，取消了这个禁令，开放食盐的销售，受到百姓的称颂。

至元十七年(1280)，世祖忽必烈特授何仁杰为正议大夫命他出任上都(故治在今内蒙古自治区多伦北)留守，兼本路总管和开平府(治今内蒙古正蓝旗东北闪电河北岸)尹。元上都是元朝统治者立国发迹之重地，地位非常重要。元世祖忽必烈命贺仁杰出镇上都，负责北部边境的军政事务，责任重大，足见忽必烈对他的器重。第二年，又赐他三珠虎符，进官阶为资德大夫，兼虎贲亲军都指挥使。之后，又加荣禄大夫、中书右丞。他在上都二十多年，治理有方，未曾发生过失。
何仁杰为官谨慎，其生活作风亦很持重。他的妻子亡故后，忽必烈曾要他续取蒙古贵族之女继室，他坚辞不肯，仍娶了汉人平民女为后妻。后妻双目失明，他对妻子敬爱如初，并未纳妾。

元成宗大德九年(1305)，何仁杰72岁，他以年老辞官。成宗铁木耳準他以光禄大夫、平章政事致仕，并命参议陕西行中书省事务。何仁杰回归故乡养老。公元1312年，元仁宗爱育黎拔力八达即皇位，以何仁杰是元世祖朝老臣，欲召他到京谘询国事。时已79岁的何仁杰奉命由长安北上，途中患病，行至樊桥(在今山西临猗县境)而卒。朝廷赠他“恭勤谒力功臣”，仪同三司、太保、上柱国，追封“雍国公”。延祐六年(1319)加赠“推诚宣力翊运功臣”，太师、开府仪同三司、上柱国，追封“奉元王”。