『小學』這一名稱，來源于漢代。班固據劉歆《六藝略》在《漢書•藝志》中把古字書及漢時所作字書列為『小學』類，並且說：『古者八歲入「小學」，故《周官•保氏》掌養國子，教之六書(六書即漢字的六種造字法)。』據此，『小學』初指學童開始讀書識字和識字課本一類的書。古人非常重視『識字』，認為掌握了一個字的音、形、義三方面才算是認識了一個字，所以把學童的識字及有關的類書，稱作『小學』，意思是這是塾師講授、學童學習的基礎課。到了漢代，由于秦王朝的焚書和秦漢之際的長期戰亂，戰國文化傳統幾乎中斷，古籍和古字書中的文字本來是兒童就能認識的，可當時大多數人卻已不認識了，因而學習研究古文字就成了某些人的當務之急或專門職業了。漢代人把這種學習和研究古文學，也叫作『小學』。從此，『小學』這一名稱就成為一門研究文字的學科了。直到清末，章太炎才把它改為『文字學』。後來研究文字的人對文字的音形義三方面各有所專，于是，『文字學』又分工為『文字學』、『音韻學』、『訓詁學』三門獨立的學科了。所以，從前把『文字學』稱為『小學』，『小學』之名即由此而得。