一般认为，关节软骨是膝关节骨关节炎最早发生病变的部位。关节软骨的退行性改变及破坏是其基本病变。最早期的病理变化是关节软骨表面的胶原纤维出现退化，软骨负荷面变薄，可见龟裂、粗糙不平。随着胶原纤维退化的进一步发展，在关节损害的边缘和邻近的细胞间质胶原退化更加明显。软骨的深层发生裂隙，关节软骨失去其原来的蓝白光滑的色泽，而变成暗黄和颗粒状。软骨面的缺损程度在病变不同时期各异。

磨损最大的关节面上的软骨被擦掉，使软骨下骨显露。由于不断摩擦，骨面变得很光滑，呈象牙样。磨损较小的外围软骨面出现增殖和肥厚。通过软骨内化骨，形成骨赘。骨赘经常出现在关节的周边，包括新生的关节软骨帽和有作为软骨内过程一部分的新骨形成。由于中央部位软骨的消失和外围软骨的增生，改变了关节面上生物应力的分布，使关节面不同部位承受不同的应力，至关节软骨全层消失，露出骨质。

关节软骨在承受瞬间压力时主要依靠细胞外间质结构的完整性而不是软骨细胞内的成分。在骨关节炎中，软骨间质的破坏不断发展而导致关节功能的逐步丧失，除了细胞间质分子组成上的变化，超分子结构如胶原网的稳定作用和细胞间质分子形状也发生变化。这种病变的生物化学基础表现为关节软骨中的蛋白多糖含量下降，Ⅱ型胶原纤维的含量虽然变化不大，但其走行方向异常。

骨关节炎时软骨蛋白聚糖的变化包括两个方面，一方面是浓度的变化，另一方面是它组成成分的比例和分子链的变化。研究表明，骨关节炎疾病的发展和蛋白聚糖含量下降（特别是硫酸软骨素）及蛋白多糖的解聚相关。资料显示，Ⅱ型胶原含量基本不变，主要是结构的改变；Ⅱ型胶原纤维的肿胀、胶原网的破坏，减弱了对蛋白多糖的限制。电镜观察发现，随着骨关节炎的进展，增粗的Ⅱ型胶原纤维中出现了Ⅰ型胶原纤维。