腎結石需與下列疾病進行鑑別。
1.膽結石 膽結石可致膽絞痛，易與右側腎絞痛相混淆。膽結石合併有膽囊炎時，可出現右上腹部持續性疼痛，陣發性加劇，墨菲徵陽性。右肋緣下有時可有觸痛並隨呼吸移動的腫大膽囊，或邊界不清、活動度不大而有觸痛的被大網膜包裹的包塊。膽結石病人尿常規檢查一般正常，B超檢查可以確定診斷。
2.腎結核 腎結石合併有梗阻和感染時應與腎結核相鑑別。腎結核往往有慢性頑固的膀胱刺激症狀，經一般抗生素治療無明顯效果;尿中有膿細胞，而普通尿培養無細菌生長;有時伴有肺結核或腎臟的小結核病灶;膀胱鏡檢查可見充血水腫、結核性結節、結核性潰瘍、結核性肉芽腫和瘢痕形成等病變，在膀胱三角區和輸尿管開口附近病變尤為明顯。輸尿管口常呈洞穴狀，有時見混濁尿液排出;鈣化型腎結核在平片可見全腎廣泛鈣化，局灶性者在腎內可見斑點鈣化陰影。腎結核造影的早期X線表現為腎盞邊緣不整齊，有蟲蛀樣改變，嚴重者可見腎閉塞、空洞形成，腎盞腎盂不規則擴大或模糊變形。
3.海綿腎 海綿腎的發病率為1/5000，患者的腎髓質集合管呈囊狀擴張，大體外觀如海綿狀。70%病例存在雙側腎病變，每個腎臟有1個至數個乳頭受累。本病出生時即存在，但無症狀，通常到40～50歲因發生結石或感染合併症才被發現。集合管擴張造成長期的尿液滯留，加上經常合併的高尿鈣症，是發生結石和感染的原因腎小管濃縮和酸化功能常受損。腹部平片可見腎臟大小正常或輕度增大，腎區內可見成簇的多發性結石(在乳頭區呈放射狀排列)。靜脈腎盂造影見到的髓質集合管呈扇狀囊狀擴張為診斷本病的依據。
4.腎盂腫瘤 腎盂腫瘤多為乳頭狀瘤，良性與惡性之間常無明顯界限，轉移途徑與腎癌相同;由於腎盂壁薄，周圍淋巴組織豐富，所以常有早期淋巴轉移。該病多在40歲以後發生，男性多於女性。早期表現為無痛性血尿，但無明顯腫塊;晚期因腫瘤增大，造成梗阻時可出現腫塊。尿沉渣檢查有時可見腫瘤細胞，血尿時膀胱鏡檢查可見患側輸尿管口噴血。在造影片上有充盈缺損，需與透X線結石鑑別。CT和B超可協助鑑別。
5.膽道蛔蟲症 腎結石病人出現腎絞痛時，應與膽道蛔蟲病進行鑑別。膽道蛔蟲主要表現為劍突下陣發性“鑽頂樣”劇烈絞痛，其特點為發作突然，緩解亦較迅速。疾病發作時，病人常輾轉不安，全身出汗，甚至臉色蒼白，四肢發冷，並常伴有噁心嘔吐，嘔吐物可含膽汁甚或蛔蟲。發作間歇期，疼痛可完全消失。有時疼痛可放射至右肩部或背部。B超可明確診斷。
6.急性闌尾炎 右側腎結石病人出現腎絞痛時，應注意與急性闌尾炎進行鑑別。轉移性右下腹痛是急性闌尾炎的特點。70%～80%的病人，在發病開始時感覺上腹疼痛，數小時至十幾小時後轉移至右下腹部。上腹部疼痛一般認為是內臟神經反射引起，而右下腹痛則為炎症刺激右下腹所致。急性闌尾炎的腹部體徵表現為右下腹有侷限固定而明顯的壓痛點，當腹痛尚未轉移至右下腹前，壓痛已固定在右下腹，這在診斷上具有重要意義。若症狀不典型或闌尾位置異常，應參考其他症狀體徵進行鑑別。如一時難以確診，應嚴密觀察，全面分析，以減少誤診。
7.急性胰腺炎 腹痛是急性胰腺炎的主要症狀。腹痛常開始於上腹部，但亦可侷限於右上腹或左上腹部，視病變侵犯的部位而定。如胰頭部病變且合併膽道疾患，除右上腹痛外，可向右肩或右腰部放射;炎症主要侵犯胰尾時，上腹疼痛可向左肩背部放射。疼痛的性質和強度大多與病變的程度一致。水腫性胰腺炎多為持久性疼痛，可伴有陣發性加重，多可忍受;出血或壞死性胰腺炎則多為刀割樣劇痛，不易為一般鎮痛藥所緩解，嚴重者可發生休克。根據病史、體徵及血、尿澱粉酶的測定，多數急性胰腺炎的診斷一般可以確立。
8.卵巢囊腫蒂扭轉 腎結石女性病人出現腎絞痛時應注意與卵巢囊腫蒂扭轉相鑑別。卵巢囊腫蒂扭轉的典型症狀為突然發生劇烈腹痛，甚至發生休克、噁心、嘔吐。婦科檢查發現有壓痛顯著、張力較大的腫塊並有侷限性肌緊張。如果扭轉發生緩慢，則疼痛較輕，有時扭轉能自行復位，疼痛也隨之緩解。
9.淋巴結鈣化 若位於腎區內，可誤診為腎結石。淋巴結鈣化為圓形顆粒狀緻密影，內部不均勻，且多發、散在，靜脈尿路造影片加側位片有助與腎結石區別。
10.其他 腎結石還應與其他引起腰背痛、腹痛的有關疾病進行鑑別，如宮外孕破裂、胃炎、胃潰瘍等疾病。
