1.CML 巨脾、血中出現幼稚粒細胞、骨髓有核細胞增生活躍的MF易與CML相混淆。但CML具備以下特徵可資鑑別：①CML脾臟明顯腫大時，白細胞多>50×109/L。②血中的幼稚粒細胞比例較高。③中性粒細胞鹼性磷酸酶積分減低。④外周血的紅細胞及血小板的異形性不明顯，一般無淚滴樣紅細胞和畸形血小板。⑤即使CML晚期合併。MF，骨穿一般無“幹抽”現象，骨髓切片中纖維組織增生也不像特發性MF那樣明顯，常呈局灶性或較輕。⑥脾穿刺物塗片中以成熟粒細胞為主，而MF則粒、紅、巨核系均增高。⑦CML病人Ph染色體和bcr/abl基因重組陽性。
2.骨髓轉移癌 常伴幼粒、幼紅細胞血象，可有貧血。一般病程短、脾腫大較輕，骨髓中可找到癌細胞，部分患者可找到原發病灶。有時癌症轉移後可產生繼發性MF，但纖維化往往較侷限。
3.多毛細胞白血病 多毛細胞白血病患者也有巨脾和貧血，骨髓穿刺也常呈“幹抽”，未作深入檢查時，易與TMF混淆。但多毛細胞白血病有全血細胞減少，血液和骨髓中均有較多帶有纖毛的淋巴細胞。骨髓病理檢查多毛細胞多呈散在或簇狀分佈，胞質豐富、透明、胞核間距離寬，成“蜂窩狀”，網狀纖維少。外周血無淚滴樣紅細胞和畸形血小板。
4.再生障礙性貧血(AA) MF晚期發生全血細胞減少時需和AA鑑別。後者脾臟不腫大，血中無幼粒、幼紅細胞，紅細胞形態正常，骨髓活檢結果與MF明顯不同，AA有時骨髓可呈增生狀態，但絕無巨核細胞和纖維組織增生。
5.急性溶血性貧血 急性溶血性貧血時，白細胞計數可以增高，外周血中出現不成熟粒細胞和幼紅細胞，脾臟可有輕度腫大。但急性溶血性貧血膽紅素和尿膽原升高。
6.真性紅細胞增多症晚期 PV晚期有5%～15%病例與原發性骨髓纖維化的表現相同。不過，在此之前，有多年紅細胞增多的病史，和與之相關的特殊的臨床表現和血液學發現。
