隋大业十二年（616年）隋炀帝二次巡游江都，巡游队伍奢侈豪华，把沿途人民搅得倾家荡产。尤其是他幻想长生享乐，到处召请高道给他炼制金丹。他听说茅山道士王远知很有名气，就把王远知召迎来，并执以弟子之礼。而王远知是一位颇有政治见识的道士，他看到隋场帝荒淫奢侈，预见隋室必不长久，遂疏于炀帝面密结晋王李渊（唐高祖），向李渊"密合以符命"。公元618年李渊在关中建立大唐帝国，他的次子秦王李世民兴兵讨伐王世充，击败河北的刘黑闼和江南、淮南一带的小股割据势力后"尽有淮南、江东之地"。有一天，李世民想起王远知曾向父亲李渊"赛传符命"之事，便同房玄龄一道，穿着便服去拜访王远知他二人进入道观，见到王远知松身鹤骨，面如重枣，双目炯炯，声若宏钟，举止刚健。王远知一见来人便开口称道"此中有圣人…… "，李世民说"请审其实"，王远知接着说："方作太平天子，愿自惜也"，李世民嫣然一笑。道童献茶后，大家开怀畅叙，从天文地理，方道儒释，以及用兵之法、治国之道等上下古今天所不谈。最后，李世民请王远知出山为治国安民献计献策。王远知以自己年事已高，只愿继承陶（弘景）先生遗愿，崇扬道教，为国效劳。李世民不便勉强，告辞而归。

　　数年后，李世民登上皇位，即唐太宗，诏王远知进京至长安将加重用。王远知仍自辞年迈，坚持回隐茅山，太宗只得依从，并施法服，派人护送至茅山。贞观九年（635年）又于茅山为其建大平观以居之。