不久，关羽就离开曹操，投奔在袁绍麾下的刘备。
刘备在得到诸葛亮后，越来越器重诸葛亮。
关羽、张飞对此事感到不悦，刘备解释道：“我得到了孔明，就像鱼得到了水，希望诸君不要再说了。”关羽、张飞才停止了抱怨。
建安十三年（208年），刘备投靠刘表，屯兵于新野。
曹操率领大军南下，刘备南逃，另遣关羽乘数百艘船驶向江陵会合，但刘备于途中当阳长坂坡被曹操军追至，幸而关羽驶至汉津，一同乘船至夏口。
刘备联合孙权击败曹操后，曹操留曹仁等防守荆州。
于是，刘备又与孙权大将周瑜夹攻曹仁，命关羽绝北道。
后来，刘备又向南收取荆州南部四郡（长沙、零陵、武陵、桂阳）。
关羽被拜为元勋，受封襄阳太守、荡寇将军。
此时，襄阳实为曹操势力范围，由乐进驻守，所以关羽驻兵于江南。
在此期间，关羽重修了江陵城。
建安十六年（211年），刘备入蜀，助刘璋防御张鲁，让张飞、赵云、诸葛亮与关羽共守荆州。
建安十八年（213年），刘备与刘璋决裂。
建安十九年（214年），刘备攻打雒城时，军师庞统中矢身亡。
刘备乃召张飞、赵云、诸葛亮入蜀支援，关羽驻守荆州。
刘备平定蜀地后，以关羽董督荆州事，授权掌管荆州地区刘备控制的部分，包括荆州南部四郡和从东吴借来的南郡，关羽事实上镇守荆州五郡。
建安二十年（215年），孙权知道刘备已夺得益州，希望取回荆州。
刘备却说：“当得到凉州时，便会把荆州交还。”
孙权对此十分怨恨，便派鲁肃索要荆州。
孙刘两方的将领在阵前“单刀会”，据理相争但最终不欢而散。
建安二十三年（218年），太医令吉本、少府耿纪、司直韦晃等人谋反。
不久，事情败露，几人被曹操所杀。
曹操曹仁行征南将军，讨伐关羽。
曹仁镇守荆州期间，大肆征调徭役，荆州境内的军民苦不堪言。
已经降曹20年的宛城百姓们，最终被曹仁逼反。
宛城守将侯音与卫开与吏民共同反曹，与关羽联合。
曹仁率军前往平乱，攻破宛城，将侯音斩杀，并且屠城。
建安二十四年（219年），刘备军与曹操军相争汉中，曹操的将领夏侯渊被刘备大将黄忠所斩。
曹操亲提大军来征汉中，刘备据守，黄忠又在汉水劫去粮草 。
曹操无奈只得退出汉中，刘备遂占据汉中。
同年七月，刘备自称汉中王，任命许靖为太傅，法正为尚书令，关羽为前将军，张飞为右将军，马超为左将军，黄忠为后将军，并派益州前部司马、犍为人费诗去关羽驻地授予关羽官印。
早在建安二十三年（218年），陆浑民孙狼等苦于徭役，叛上作乱，南附关羽 。
而在建安二十四年（219年）八月，于禁等七军覆没后，自许都以南的诸多山贼纷纷遥受关羽印号，为关羽的支党。
甚至连曹操所任命的荆州刺史胡修、南乡太守傅方投靠了关羽 ，其声势一度威震华夏！