主要区别有，品种不同、形态特征不同、生境分布不同，具体如下：
一、品种不同
1、大叶黄杨
别称冬青卫矛、正木，属无患子目、黄杨科、黄杨属、大叶黄杨种。
2、小叶黄杨
别称瓜子黄杨，属无患子目、黄杨科、黄杨属、小叶黄杨变种。
二、形态特征不同
1、大叶黄杨
灌木或小乔木，高0.6-2.2米，胸径5厘米，小枝四棱形（或在末梢的小枝亚圆柱形，具钝棱和纵沟），光滑、无毛。叶革质或薄革质，卵形、椭圆状或长圆状披针形以至披针形，长4-8厘米，宽1.5-3厘米（稀披针形，长达9厘米，或菱状卵形，宽达4厘米），叶面光亮，中脉在两面均凸出，侧脉多条，与中脉成40-50度角，其余均无毛，叶柄长2-3毫米。
花序腋生，花序轴长5-7毫米，有短柔毛或近无毛，苞片阔卵形，雄花：8-10朵，花梗长约0.8毫米，外萼片阔卵形，蒴果近球形，花期3-4月，果期6-7月。
2、小叶黄杨
灌木，生长低矮，枝圆柱形，有纵棱，灰白色，小枝四棱形，全面被短柔毛或外方相对两侧面无毛。叶薄革质，阔椭圆形或阔卵形，长7-10毫米，宽5-7毫米，叶面无光或光亮，侧脉明显凸出；叶柄长1-2毫米，上面被毛。
花序腋生，花序轴长3-4毫米，被毛，苞片阔卵形．背部多少有毛；雄花：约10朵，无花梗，外萼片卵状椭圆形，蒴果近球形，花期3月，果期5-6月。
三、生境分布不同
1、大叶黄杨
产于中国贵州、广西、广东、湖南、江西。生于山地、山谷、河岸或山坡林下，海拔500-1400米。
2、小叶黄杨
分布于中国安徽、浙江、福建、江西、湖南、湖北、四川、广东、广西等省区，生溪边岩上或灌丛中，海拔600-2000米。
参考资料来源：百度百科-大叶黄杨
参考资料来源：百度百科-小叶黄杨
