山茶科是在宏观形态上缺乏单一共衍征、需要用多种性状组合界定的科，因此其范围在历史上多有变动，经常包括五列木科(除五列木属)、肋果茶科、翼萼茶科、泽茶科、四贵木科(含假红树科)等科中的一个或几个在内。但按照APG IV系统，翼萼茶科属石竹目，泽茶科属金虎尾目，与其他属于杜鹃花目的科关系均较远;在杜鹃花目内，四贵木科、肋果茶科+五列木科和狭义山茶科构成3个独立的演化支。[1]传统山茶科中的厚皮香亚科(包括厚皮香族和美杨桐族)因与五列木属关系更近，已经转入五列木科。

　　山茶族(Theaeae)是山茶科的最大族，也是演化史极为复杂的族，其中各属的界限和系统发育关系至今仍未完全厘清。目前，山茶族包括圆籽荷属(Apterosperma)、大头茶属(Polyspora)、柃茶属(Laplacea)、核果茶属(Pyrenaria s. l.)和山茶属(Camellia)5个属。其中，前3个属原先认为与湿地茶属(Gordonia)更近缘，大头茶属和柃茶属甚至习惯被包括在广义的湿地茶属中，但分子结果表明它们与山茶属更接近(柃茶属也因此成为山茶族中唯一的美洲属)。[3][4]早期的研究显示圆籽荷属是山茶族的基部群，大头茶属为单系群并与山茶属关系最近;[3]然而，更多的采样表明大头茶属可能才是山茶族的基部群，而其他几个属在分别用质体基因和核基因构建系统发育树时呈现不同的关系，显示杂交在山茶族的演化中很可能起到了重要作用(比如圆籽荷属可能就是杂交起源)。[4]

　　山茶属是山茶族的最大属，也是经济价值最高的属。目前已有证据表明它是并系群。[4]此外，传统上在该属内划分的组很多也非单系群，比如金花茶组即是如此。