周瑜病危，写信给孙权，推荐鲁肃代替自己。信中说：“当今天下，正值混乱多事，这正是我日夜忧心的事，愿陛下预先考虑尚未发生的事，然后才想到安逸享受。现在既然与曹操作对，刘备近在公安，边境附近的百姓尚未归附，应当用良将前往驻守镇抚。
鲁肃的智谋才略足以胜任，请求起用他来接替我。我死之日，也就没有牵挂的事了。”孙权采纳了周瑜的建议，当即任命鲁肃为奋武校尉，接替周瑜统领部队。周瑜私属部队四千多人，以及原来的奉邑四县，全都转归鲁肃所有。鲁肃开始时驻守江陵，后移兵下驻陆口。威望恩义，大行于众，部属增加万余人，被任命为汉昌太守、偏将军。
建安十九年，随孙权攻破皖城，改任横江将军。
在此之前，益州牧刘璋法度纲纪颓败废弛，周瑜、甘宁等人曾劝孙权借机攻取蜀地。孙权就此事征询刘备的意见，刘备心中有自己的打算，假意对孙权说：
“我与刘璋托名为皇族后裔，希望借助先人英灵，以匡救汉室。如今刘璋得罪了大家，我独自心内惊惧不安，不敢听说攻取蜀地的话语，希望您对他实行宽恕。如果这个请求没有得到答复，我当披散头发归隐山林。”
孙权答应了刘备的请求。然而，后来刘备却向西进军，图谋吞并刘璋，留关羽镇守荆州。孙权明白刘备的意图后，勃然大怒，骂道：““狡猾的东西竟敢耍弄诈术！”对刘备深为不满。
这时鲁肃与关羽邻界统兵，疆土犬牙交错，多次发生摩擦。鲁肃顾全大局，总是以友好的姿态安抚双方。刘备平定益州，孙权请刘备归还荆州中的长沙、零陵、桂阳三郡。刘备不肯。
孙权派吕蒙率军进取，长沙、桂阳二郡望风归附，唯有零陵太守郝普坚守不降。刘备得知，亲自引兵五万从成都赶回公安坐镇，派关羽率军三万争夺三郡。孙权也从秣陵进驻陆口，派鲁肃率领一万人屯守益阳，和关羽对抗。
鲁肃为了大局，邀请关羽相见，提出各自将兵马布置在百步以外，只有将军们各带单刀赴会。鲁肃做出决定后，他部下将领怕出变故，劝鲁肃不要轻蹈险地。鲁肃毫无畏惧，他说：“事到今日，应该把话说清。
刘备辜负国家，是非尚未论定。关羽又能怎么样呢？”毅然赴会。
会上，鲁肃数次指责关羽：“我们江东真心诚意将土地借给你们，是因为你们兵败远方而来，无有立足之地。现在已经得到益州，既然没有奉还荆州意思，那么就只要求你们归还三郡，而你们还不从命。”
鲁肃话音未落，荆州方面的一将说：“说到土地，只有仁德之人才能占有，哪来一家永远占住不放的道理！”鲁肃当即大声喝叱，辞色严厉。关羽此时也操刀而起，对那人说道：“这些自然是国家大事，他知道什么！”用眼光示意那人离去。
单刀会没有结果，双方僵持不下，战争一触即发。时曹操进攻汉中，刘备害怕失去益州，派人跟孙权讲和。双方议定，以湘水为界，平分荆州。江夏、长沙、桂阳三郡属孙权，南郡、武陵、零陵三郡属刘备。孙、刘休兵罢战。
建安二十二年，鲁肃病逝，享年四十六岁。孙权亲为举办丧事，并参加了他的葬礼。诸葛亮也为他举哀。
孙权始终不忘鲁肃在东吴政权创立过程中所起的重要作用。黄龙元年，在他称帝登坛祭天时，他对公卿们说：“过去鲁子敬曾经说道此处，可谓明于事势矣。”
当大帝迁都建业时，与将相文武大会，跟严畯说：“我过去把鲁子敬比作邓禹，当时你们争论没有停止过，现在又觉得如何呢？”严畯退席说：“我不明白这个意思，觉得夸赞鲁肃太过了吧。”
大帝说：“过去邓仲华见到光武帝，当时光武帝在更始帝手下，抚河北，行大司马事，光武帝最初并没有帝王的志向，是邓禹劝说他光复汉业，追索源头，开端是邓禹之议啊。子敬为人豪爽有奇略，与我最初相谈，便涉及帝王基业。