至元康四年，廆以大棘城，即帝颛顼之旧墟，乃与父涉归徙居，教民以农桑，法制同于上国。其时镇北将军王浚政法不立，不能存抚，士民避乱来奔者往复去之。闻慕容廆政事修明，爱重人物，故士民多来归之。廆举其英俊，随才授任，众至十数万，威名盛，遂霸棘城。
西戎吐谷浑，乃慕容廆之庶长兄也。其父慕容涉归在时，分部落一千七百家以隶之。其后不料涉归死了，慕容廆嗣其大位。廆既即位，聚集诸部议事。忽马奴来报，说御马出浴于河，因见吐谷浑所乘之马，各相狠斗，御马反输折足，请大王令人医治。廆听见其说，大怒，谓吐谷浑曰：“先公分封有别，奈何不相远离而令马斗？”吐谷浑曰：“马为畜，斗，其常性也，何怒于人？”廆转怒曰：“远别甚易，当去汝于千里之外矣。”
吐谷浑闻言曰：“远别甚易，恐后会为难。”言讫，忿气走出外，领家属遂西行。
弢怒不息。忽长史楼冯入内问廆曰：“大王何怒？大公子吐谷浑今领所属诸部西行矣。”廆以马斗之事言之，楼冯曰：“兄弟者，手足也，且与人相斗，去其右手，宁必胜乎？夫弃兄弟而不亲，则天下其谁亲之？安可以马斗而疏远至亲之骨肉耶？”廆心悔之，急曰：“卿可逮去追请吾兄还国。”于是楼冯即出追及，曰：“大王令小臣请公子还国，不可速离。”吐谷浑勒马答曰：“先公称卜筮之言，当有二子克昌，祚留后裔。我卑庶也，理无并大矣。今因马为弟所怒而别，殆天所启乎？诸君若请吾还，可驱我马令东，马若东还，吾当从。君之请若西，则不归矣。”楼冯使从人拥马东行数百步，马辄悲鸣，复西走不去。吐谷浑对楼冯曰：“我不归耳。”楼冯跪下曰：“此殆天意，非人事也。”于是，吐谷浑策马西行。楼冯回见廆，以吐谷浑之言不归之意说知。廆心愧，念思兄吐谷浑谓为阿千，乃自作阿千之歌，岁暮穷思常歌之，悲涕不胜。