马超解开他的捆绑，对他说：“现在胜败已经分明，您为了孤城请救兵却被人捉到这儿，怎么施展大义呢？如果听我的话，告诉城里，东方不会有救兵前来，这是转祸为福的计策，不然，现在就把你杀掉。”
阎温却假装应允，马超便用车载着他来到冀城城下。阎温朝着城内大声喊：“大军不出三天就会来，努力呀！”城内的人都为他哭泣，祝祷他万岁。马超恼怒地责问他：“你不要命了吗？”
阎温不回答。当时马超久攻不下，所以慢慢引诱阎温，盼他回心转意。又对他说：“城里的朋友，有想跟我同心合力的吗？”阎温又不理睬，马超便严厉地责怪他。阎温说：“事君之道只有一死，您却要让长者说出不义的话，我难道是苟且偷生的人吗？”马超于是杀了他。
阎温身死，韦康与汉阳郡太守大惊失色，于是决定投降马超。杨阜哭着劝阻，韦康不从，与太守派人向马超请和，并开城迎接马超，马超占据冀城，指使张鲁部将杨昂处死凉州刺史韦康和太守。
夏侯渊领兵前来，行军到距离冀城二百余里的时候，马超率领军队来战斗，击败了夏侯渊援军。随后汧氐也响应马超，夏侯渊只得撤军回长安，两年间不曾西进。马超以冀城为根据地，割据陇上，自称征西将军，领并州牧，督凉州军事。
韦康旧部杨阜，与同僚十多人都成为了马超部下，他们暗中联络为韦康报仇，但一时寻不着机会。杨阜妻子去世后，杨阜告假回西城，途中经过历城，劝说亲戚姜叙起兵讨伐马超.
姜叙之母也劝姜叙行动，于是，姜叙、杨阜与同郡姜隐、赵昂、尹奉、姚琼、孔信、武都人李俊、王灵、安定人梁宽、南安赵衢、庞恭等共同联合对抗马超。
建安十八年，马超在汉阳，再次联合羌胡，成为曹操之患，氐王杨千万叛应马超，屯驻兴国。同年冬，曹操给夏侯渊下了道西征的命令。
夏侯渊尚未行动，韦康旧部已决定讨伐马超。当时众人商议，令姜叙先起兵，马超闻知必定亲自出击，梁宽再从后关闭城门。约定以后，姜叙进兵卤城，尹奉、赵昂屯守祁山。
建安十九年正旦的时候，马超妾董氏的弟弟董种来向马超恭贺新年，马超捶胸吐血而说：“家门百口余人，全部被杀害，如今我们两个还有什么好相庆祝的？”
这年春季，姜叙和杨阜在卤城起兵。身在冀城的赵衢劝说马超出城，之后与梁宽关闭城门，杀死马超妻小。马超失去冀城，又攻不下卤城，进退两难，转而袭击历城，当时传闻马超已走奔汉中，历城误以为是姜叙军回来，因此并无防备。马超进入历城后，抓住姜叙的母亲，姜叙母亲骂道：“你是个背叛父亲的逆子，杀害君长的叛贼，天地岂能久容你，而不早死，还有什么脸见人！”马超大怒，杀死姜叙的母亲、兄弟，放火烧城而走，前往汉中投奔张鲁。杨阜与马超作战时，身上五处受伤，宗族兄弟七人战死。
建安十九年春，投靠张鲁后的马超，很受张鲁的欣赏，封马超为都讲祭酒，还打算把女儿嫁给马超，但是在部下的劝谏下，反悔了。马超向张鲁借兵，打算反攻凉州。马超领兵围攻祁山三十天，未能攻下，随后夏侯渊派张郃引援兵赶到，马超没有继续攻打，丢下军事器械做引诱，撤军回了汉中。张鲁的部下杨白等因为害怕马超的才能，想要加害于他，于是马超辞兵逃入氐中。恰逢刘备此时率兵入川，刘备派李恢结好马超，马超知道张鲁不是干大事业的人，于是写信给刘备，请求归附。
建安二十年，正旦时候，马超妾董氏的弟弟董种来向马超恭贺新年，马超捶胸吐血而说：“家门百口余人，全部被杀害，如今我们两个还有什么好相庆祝的？”到了夏季，刘备听说马超要来投，高兴的说道：“益州可以拿下了！”于是派人去迎接马超，且偷偷把自己的一支军队给马超，让马超率兵合围成都。马超率领兵马径直到成都，屯兵于城北，城中所有人都因为马超威名而惊恐，不到十天的时间，成都军民就崩溃了，刘璋随即开城投降。刘备平定西川后，迁升马超为平西将军，并命他督临沮。