再說跟隨馬騰的，其本名韓約，後改為韓遂，字文約，更是一名名多年的老牌軍閥，早年隨邊章反叛朝廷，後來又和馬騰，王國起義，其謀略更被稱為“黃河九曲”，幾乎為西涼的“不倒翁”，其手下亦有閻行（韓遂婿），宜，楊秋等將。
其在和元年（178年）九月，金城太守殷華在任上去世，韓約因為是殷華的故吏，於是與江英等追送殷華的到遐邱，刊石紀念其功勳。
中平元年（184年），韓約前往京師辦理公務，大將軍何進久聞其名，特與他相見，韓約勸說何進誅滅宦，何進沒有聽從，韓約於是請求歸還涼州。
中平元年（184年）十一月，羌人北宮伯玉反叛，將時任涼州督軍從事邊允與涼州從事韓約劫為人質，不予放還。涼州刺史左昌派蓋勳率軍駐守阿縣，叛軍見阿縣無法攻破，便轉向攻打金城郡，斬殺金城郡太守陳懿，脅迫邊章、韓約夥，共推舉邊章為首領。邊章又率軍包圍州治冀縣，左昌向蓋勳求援。蓋勳率援軍抵達冀縣，斥責邊章等人背叛朝廷。邊章、韓約都說：“左昌當初要是早聽您的話，派兵來救援金城郡，或許我們還能改過自新，如今罪孽深重，不能再投降了。”於是，邊章等人哭泣而去，解除對冀縣城包圍。後又包圍護羌校尉夏育所部。而邊允改名為邊章，韓約也在此時正式改名為韓遂。
中平二年（185年）三月， 韓遂等率領數萬騎兵打著誅殺宦的旗號寇三輔，侵園陵。漢靈帝遣左車騎將軍皇甫嵩及中郎將董卓征討，都不克，而邊章、韓遂等實力進一步擴大，擁有十萬之眾，天下為之。
同年七月，皇甫嵩以無功免歸。八月，朝廷再次命司空張溫為車騎將軍、假節，執金吾袁滂為副，拜董卓破虜將軍，與寇將軍周慎都歸張溫統帥。連同諸郡兵步騎共十多萬人，屯駐在，來保衛皇家園陵。韓遂也進兵。張溫、董卓與韓遂等戰，不利。
十一月，在夜晚有流星如火，長達十餘丈，照亮韓遂營中，驢馬都發出聲。韓遂、邊章軍隊都認為這是不祥的預兆，想要退回金城。董卓聽說後大喜，第二天，便與右扶風鮑鴻等合併進攻，大破韓遂、邊章軍，斬首數千級。韓遂等敗走榆中。張溫於是派周慎率軍三萬追擊，引軍包圍榆中城。而韓遂、邊章分兵駐守葵園峽，反而將周慎軍的糧道截斷。周慎到恐慌，便丟棄輜重撤走。
中平四年（187年），韓遂殺邊章及北宮伯玉、李文侯，擁兵十餘萬，進軍包圍隴西。四月，涼州刺史耿鄙率六郡兵討伐韓遂。隴西太守李相如、酒泉太守黃衍反，與韓遂連和，耿鄙為別駕所殺。漢人王國，自稱合眾將軍，都與韓遂聯合，進而包圍漢，漢太守傅燮戰死。耿鄙的司馬、扶風人馬騰，也擁兵反叛，韓遂等共推王國為主，攻掠三輔地區。
中平五年（188年）十一月，王國包圍陳倉，靈帝派左將軍皇甫嵩督前將軍董卓各率二萬人前往抵抗。
中平六年（189年）二月，王國圍陳倉已八十餘日，但因城池堅固，一直無法攻破。皇甫嵩趁機率軍追擊，大獲全勝，斬首一萬多級。韓遂等人共同廢掉王國，但是各部逐漸爭權奪利，繼而互相攻殺，於是勢力逐漸衰弱。
初平二年（191年），董卓長安，邀請韓遂、馬騰共同策劃進攻山東諸將。二人見天下大，也想要依靠董卓起兵。
初平三年（192年）六月，韓遂、馬騰等降，率眾詣長安。李傕控制下的朝廷任命韓遂為鎮西將軍，遣還涼州，馬騰任徵西將軍，駐軍郿。
興平元年（194年）三月，馬騰從涼州來朝，駐紮在霸橋。但他因私事有求於李傕未得到滿足而大怒，調集軍隊準備進攻李傕，獻帝派使者調解，馬騰不聽。韓遂率軍從金城來調解二人的糾紛，結果又與馬騰聯合。諫議大夫種邵、侍中馬宇、左中郎將劉範策劃讓馬騰進襲長安，自己為應，來誅滅李傕等。
不久，馬騰、韓遂率軍進駐長平觀，種邵等人的計劃洩，便從長安出逃到槐裡。李傕派樊稠、郭汜及自己的侄子李利進攻馬騰、韓遂，二人被擊敗，死傷一萬多人。韓遂、馬騰逃回涼州，樊稠率軍追擊。韓遂派人對樊稠說：“天下之事反覆無常難以預料，你我同鄉，今天雖有些小，恐怕還會走到一起的，想和你談一談。”二人於是並馬拉著手臂，說笑了很久。四月，李傕下詔赦免馬騰等，以馬騰為安狄將軍，韓遂為安羌將軍。二人結為異姓兄弟，甚為親近。
但後來，因部曲間的矛盾，馬騰、韓遂二人為仇敵，馬騰攻韓遂，韓遂敗走，又合兵還攻馬騰，二人為仇敵，韓遂殺掉了馬騰的妻兒，二人連年戰實力到一定程度的損失。
到後來曹派鍾繇、韋端前去勸和，二人亦到無法攻滅對方，平白使勢力損，給了別人機會，遂罷戰言和。
