江戸時代に幕府が洋式軍隊を導入する際に、兵士の背嚢として輸入したもののオランダ語の呼び名「ランセル」(ransel)がなまって「ランドセル」になったものだといわれています。明治時代に帝国陸軍にて将校用背嚢として制定され、以後終戦まで殆ど形を変わらず使用され続けました。
通学かばんとしての利用は、明治に入って官立の模範小学校として開校した学習院で、これを元にした物が使われるようになり、後に伊藤博文が当時皇太子であった大正天皇の学習院初等科の入学祝い品として献上し、それが徐々に浸透して今のような形になったといわれてます。