语法单位是在语句中活动的能够在组合的某一位置上被替换下来的片段。

语法单位有大有小，最大的语法单位是句子，比句子小的依次是词组、词、语素。语素是最小的语法单位。有单纯词和合成词两种。单纯词：由一个语素构成(连绵词、外来词、叠音词)。其中连绵词又分为双声连绵词和叠韵连绵词。合成词：由两个或两个以上语素构成。有主谓结构、动宾结构、偏正结构、并列结构、动补结构等。