中平元年十一月，羌人北宮伯玉反叛，將時任涼州督軍從事邊允與涼州從事韓約劫為人質，不予放還。
涼州刺史左昌派蓋勛率軍駐守阿陽縣，叛軍見阿陽縣無法攻破，便轉向攻打金城郡，斬殺金城郡太守陳懿，脅迫邊章、韓約入伙，共推舉邊章為首領。
邊章又率軍包圍州治冀縣，左昌向蓋勛求援。蓋勛率援軍抵達冀縣，斥責邊章等人背叛朝廷。邊章、韓約都說：“左昌當初要是早聽您的話，派兵來救援金城郡，或許我們還能改過自新，如今罪孽深重，不能再投降了。”
于是，邊章等人哭泣而去，解除對冀縣城包圍。后又包圍護羌校尉夏育所部。而邊允改名為邊章，韓約也在此時正式改名為韓遂。
中平二年三月，韓遂等率領數萬騎兵打著誅殺宦官的旗號入寇三輔，侵逼園陵。漢靈帝遣左車騎將軍皇甫嵩及中郎將董卓征討，都不克，而邊章、韓遂等實力進一步擴大，擁有十萬之眾，天下為之騷動。
同年七月，皇甫嵩以無功免歸。八月，朝廷再次命司空張溫為車騎將軍、假節，執金吾袁滂為副，拜董卓破虜將軍，與蕩寇將軍周慎都歸張溫統帥。連同諸郡兵步騎共十多萬人，屯駐在美陽，來保衛皇家園陵。韓遂也進兵美陽。張溫、董卓與韓遂等交戰不利。
中平四年，韓遂殺邊章及北宮伯玉、李文侯，擁兵十余萬，進軍包圍隴西。
四月，涼州刺史耿鄙率六郡兵討伐韓遂。隴西太守李相如、酒泉太守黃衍反，與韓遂連和，耿鄙為別駕所殺。漢陽人王國，自稱合眾將軍，都與韓遂聯合，進而包圍漢陽，漢陽太守傅燮戰死。
馬騰為了自身的利益也擁兵反叛，韓遂等共推王國為主，攻掠三輔地區。
中平五年十一月，王國包圍陳倉，靈帝派左將軍皇甫嵩督前將軍董卓各率二萬人前往抵抗。
中平六年二月，王國圍陳倉已八十余日，但因城池堅固，一直無法攻破。皇甫嵩趁機率軍追擊，大獲全勝，斬首一萬多級。
韓遂和馬騰等人共同廢掉王國，脅迫前任信都縣令、涼州名士閻忠擔任首領，統率各部。
不久后閻忠憤恨病死，董卓也前往洛陽，馬騰和韓遂等人便逐漸開始爭權奪利，繼而互相攻殺，于是他們的勢力都是沒有增強，反而逐漸衰弱。
當年董卓勢大之時，馬騰和韓遂都對其很是畏懼，后來董卓殺死了并州丁原，收復了并州兵馬和呂布，以及漢朝朝廷的兵馬后，實力更是增強幾倍，因此兩人雖有野心卻也不敢圖謀司隸州和并州，只能在涼州內耗。
然而過去是過去，現在是現在，董卓不久前分兵兩路。
一路由親弟董旻，女婿牛輔和李儒等人率領并州兵馬剿殺馬騰和韓遂，自己則親自率領二十萬涼州鐵騎去進攻虛弱的曹操。
天下大勢誰也料想不到，就像誰也沒有想到曹操會在赤壁大敗，也沒有想到陳重竟然會出兵幫助曹操，更想不到曹操的手中還有改變天氣，降下暴雨的青龍寶玉。
清丘之戰大敗后，董卓一路退回了涼州，可是此時的馬騰和韓遂不管是為了自身的生死，還是為了以后的利益，他們都不打算向董卓屈服了。