潘濬，字承明，是武陵郡漢壽縣（今湖南漢壽附近）人。他二十歲左右時，曾跟隨學者宋仲子學習。（《吳書》記載：潘濬為人聰明，觀察細緻，回答問題條理清晰、有邏輯，山郡人王粲見到他後，特別看重他的與眾不同，潘濬也因此漸漸有了名氣，後來在武陵郡擔任功曹（協助太守理政務的員）。）
還不到三十歲時，荊州牧劉表就徵召潘濬，讓他擔任部江夏從事（負責監察江夏郡員的職務）。當時沙羨縣（今湖北武漢附近）的縣長貪汙腐敗、行為不端，潘濬查明況後，直接下令將其死，整個江夏郡的員都被嚇得不敢再胡作非為。後來潘濬調任湘鄉縣（今湖南湘鄉）縣令，治理地方很有效，名聲遠揚。
劉備佔領荊州後，任命潘濬為治中從事（協助州牧理軍政事務的核心員）。劉備進軍蜀地後，特意留下潘濬，讓他負責荊州的日常事務。
孫權後來擊敗關羽、吞併荊州，任命潘濬為輔軍中郎將，還給他調配了兵馬。（《江表傳》記載：孫權攻佔荊州後，荊州原來的將領吏幾乎都歸順了東吳，只有潘濬稱病不肯面。孫權派人抬著床，到潘濬家裡把他接來，潘濬卻趴在床蓆上不肯起，眼淚不停地往下流，哭得搭搭，連話都說不完整。孫權親自上前安他，還喊著他的字說：“承明啊，從前丁父是鄀國的俘虜，周武王卻任命他為軍隊統帥；彭仲爽是申國的俘虜，周文王卻讓他擔任令尹（楚國最高職）。這兩個人都是你們荊州的先賢，剛開始雖然是俘虜，後來卻都被重用，了楚國的名臣。你怎麼偏偏不一樣，不肯歸順我，難道是覺得我比不上古代的賢君，沒有容納人才的度量嗎？” 說完，孫權讓邊的侍從用手巾幫潘濬臉，潘濬這才起下床，向孫權行禮謝恩。孫權當即任命他為治中從事，荊州的軍政事務，全都讓他參與商議決策。
後來，武陵郡的部從事樊伷，煽當地數民族部落，打算把武陵郡獻給劉備。有人向孫權建議，派一名督軍率領一萬人馬去討伐樊伷。孫權沒有同意，特意召見潘濬詢問對策。潘濬回答：“只要派五千兵馬過去，就足夠活捉樊伷了。” 孫權疑地問：“你怎麼這麼小看他？” 潘濬解釋說：“樊伷出南的世家大族，只會耍皮子，其實本沒有真才實學。我之所以這麼瞭解他，是因為以前樊伷曾給州里的員辦過宴席，結果等到中午，飯還沒端上來，有十多個人等不及，自己站起來走了。從這件小事就能看出，他本沒能力辦大事，就像看侏儒只看一節就知道他的本事一樣。” 孫權聽了哈哈大笑，採納了潘濬的建議，當即派他率領五千兵馬出征，結果真的斬殺了樊伷，平定了叛。）
之後，潘濬升任威將軍，被封為常遷亭侯。（《吳書》記載：芮玄去世後，潘濬接管了芮玄的兵馬，駐守在夏口（今湖北武漢附近）。芮玄，字文表，是丹楊郡（今安徽宣城附近）人。他的父親芮祉，字宣嗣，跟隨孫堅征戰，立下不功勞，孫堅推薦芮祉擔任九江太守，後來又調任吳郡太守，在每個職位上都有不錯的名聲。芮玄的哥哥芮良，字文鸞，跟隨孫策平定江東，孫策任命他為會稽東部都尉，芮良去世後，芮玄接管了他的兵馬，被任命為武中郎將，因功被封為溧侯。孫權為太子孫登挑選妃子時，大臣們都稱讚芮玄的父親芮祉、哥哥芮良，三代人都以品德、道義和文武才能聞名，於是孫權就娶了芮玄的兒做太子妃。黃武五年（西元 226 年），芮玄去世，孫權特別惋惜。）
孫權稱帝后，任命潘濬為府（掌管皇室手工業、財政的員），進封他為劉侯。（《江表傳》記載：孫權曾多次去野取樂，潘濬勸諫孫權說：“天下還沒平定，有太多重要的事要理，野不是急事務，而且拉弓時弓弦可能斷裂，箭括可能損壞，都容易造危險，懇請陛下看在我的面子上，不要再野了。” 潘濬出宮後，看到孫權用來蔽野的帳幔還在，就親手把它拆毀了。孫權從此再也沒有過野。）
後來潘濬升任太常（掌管禮儀、祭祀的員）。當時五谿地區（今湖南、貴州界一帶）的數民族發叛，勢力盤錯節，孫權授予潘濬符節（代表朝廷權威，可自行決斷軍務），讓他統領各路軍隊前去討伐。潘濬在平叛過程中，該獎賞的絕不拖延，該懲罰的絕不姑息，法令嚴明，沒人敢違抗。這次平叛，斬殺和活捉的叛軍加起來有上萬人，從此數民族部落的勢力大大削弱，武陵郡一帶恢復了安寧。（《吳書》記載：驃騎將軍步騭駐守在漚口（今湖南長沙附近），請求在各郡招募士兵，擴充自己的兵力。孫權徵求潘濬的意見，潘濬說：“地方上有不豪強將領，在民間橫行霸道，危害百姓。加上步騭有名權勢，各地員都結他，要是允許他招募士兵，肯定會出子，不能答應他。” 孫權聽從了潘濬的建議。
中郎將豫章郡人徐宗，是當時有名計程車人，他曾去過京城，和孔融有過往。但徐宗作為儒生，行事放縱不拘小節，手下計程車兵也紀律鬆散，不遵守軍令，還經常帶頭做壞事，潘濬毫不猶豫地把他死了。潘濬執法嚴明，不怕別人議論，類似的例子還有很多。
歸義侯蕃，憑藉出的口才，到不豪傑的賞識，潘濬的兒子潘翥也和他有往來，還送給他糧食財。潘濬聽說後，非常生氣，寫信斥責潘翥說：“我蒙國家的大恩，立志以死報答，你們在都城，應該想著恭敬順從朝廷，親近賢才、仰慕善行，為什麼要和蕃這種投降的俘虜往，還送他糧食財？我在遠方聽到這件事，心裡又震驚又愧，好幾十天都悶悶不樂。這封信送到後，你立刻去使者那裡接一百杖的懲罰，還要把送出去的財追回來。” 當時的人都覺得潘濬太小題大做，可沒過多久，蕃果然圖謀叛，被死了，大家這才佩服潘濬有先見之明。
《江表傳》記載：當時潘濬的姨表兄零陵郡人蔣琬，擔任蜀漢的大將軍。有人在武陵太守衛旌面前挑撥離間，說潘濬派使者和蔣琬聯絡，想給自己留條後路，投靠蜀漢。衛旌把這件事報告給孫權，孫權卻說：“承明不會做這種事。” 當即把衛旌的奏表封好，拿給潘濬看，還把衛旌召回都城，罷免了他的職。）
在此之前，潘濬和陸遜一起駐守在武昌（今湖北鄂州），共同負責留守後方的事務，後來兩人又各自回到原來的職位。當時校事（負責監察員的特務機構員）呂壹玩弄權，濫用職權，上奏彈劾丞相顧雍、左將軍朱據等人，顧雍、朱據都被起來，限制行。
黃門侍郎謝厷在和呂壹聊天時，問他：“顧丞相的事怎麼樣了？” 呂壹回答：“況不太好。” 謝厷又問：“如果顧丞相被罷免，誰會接替他的職位？” 呂壹沒有回答，謝厷接著說：“難道是潘太常嗎？” 呂壹過了好一會兒才說：“你說的差不多。” 謝厷對呂壹說：“潘太常一直對你恨得咬牙切齒，只是因為他在外地，沒機會對付你罷了。要是他真的接替顧丞相，恐怕第二天就會收拾你。” 呂壹聽了非常害怕，趕不再追究顧雍的事，把他放了。
潘濬請求回都城建業（今江蘇南京）朝見孫權，想趁機會當面極力勸諫，揭發呂壹的罪行。等他到了建業，才聽說太子孫登已經多次向孫權進言，卻沒被採納。潘濬於是大擺宴席，邀請朝廷百參加，打算在宴會上親手殺死呂壹，自己承擔所有後果，為國家除掉這個禍害。呂壹暗中得知了潘濬的計劃，趕稱病不去赴宴。此後，潘濬每次進見孫權，都會詳細陳述呂壹的詐險。漸漸地，孫權對呂壹的寵越來越淡，後來終於下令死了呂壹。孫權還主承認自己的過錯，責備大臣們沒有及時進諫，這件事在《孫權傳》中有詳細記載。
