腾也痛恨十常侍卖官受贿之举，再加上不愿和结义兄弟韩遂交锋，索姓杀了别驾，收拢官军，聚众六万余人与韩遂军合在一处。两兄弟又联合汉阳豪强王国，轻而易举的就攻下了凉州多郡之地，可以说整个凉州有一大半在二人掌握之下。
随后韩遂，马腾又推举王国为首领，大军进攻陈仓而不下，士卒疲惫撤军西归时被大胜黄巾而来皇甫嵩追击大破，斩首万余级。事后归咎责任，韩遂杀了王国，又劫持了汉阳名士阎忠为首领。韩遂为拉拢阎忠，甚至把大女儿韩琼许给阎忠之子阎行为妻。
可好景不长，没过多久，联军内部又出现内讧，马腾的士兵大多为凉州本地官军，而韩遂大军则由羌兵，山贼，土匪等胡虏组成，烧杀银掠无恶不作。凉州与鲜卑，匈奴，羌、氐接壤，几十年来战火不断，尤其这些游牧民族几乎每年都要挥军侵犯边界，以抢夺钱粮，妇女，可谓是罪恶滔天。
凉州虽然民风彪悍尚武成风，但到底还是汉人居多，马军军士以及将领对着这些胡虏自然不会有什么好脸色，尤以马腾麾下的年轻将领庞德为最。大军刚刚逃出皇甫嵩的追杀，两军就发生了好几次小规模的火拼，死伤数百人。
马腾虽念及与韩遂的结义之情，但心里也着实看不起韩遂手下的胡虏精兵，故此只能一边忍让，一边纵容，睁一只眼闭一只眼，只要两军不私下全面开战，他便放手不管。
韩遂亦有苦难言，这些胡虏本就叛军，军士散漫，好恶成姓，他又杀了北宫伯玉，李文博等人，底下士兵大多颇有不满，若是过于紧逼，恐怕立刻引起哗变，惹火烧身。
两人倒底是结拜兄弟，经过一晚上的密议，决定分兵。韩遂带着侯选、程银、李堪、张横、梁兴、杨秋等将领引八万羌军进驻凉州西北张掖郡；马腾则率领庞德，杨元，韩军，马志等将领引七万凉州精兵占据西凉东北的武威郡等地，并划定了自己的势力范围。再加上东南靠近长安被董卓部将牛辅，张济，李傕，郭汜把守的武都、汉阳、安定、北地四郡，凉州一分为三，势力范围