일제 내지 본대가 아니라 조선군(일본제국) 소속이었다.

일본의 식민지가 된 조선에 상설 군사력을 배치하기 위하여 1918년 경성부의 용산에 사령부를 두고 3년의 시간에 걸쳐 편성되었다. 조선을 군관구로 하였으므로 원칙대로라면 조선에서 병력을 조달해야 하지만 당시 조선인에게는 일본군에 복무할 의무가 없었고, 조선에 거주하는 병역 대상 일본인의 수가 많지 않았던 관계로 병역자원은 일본에서 조달하였다. 나남의 19사단이 한반도 북부 지역을 관할하는 것과 맞춰 남부 지역을 주로 담당하였다.

77(평양 주둔), 78(용산 주둔), 79(용산 주둔), 80(대구 주둔)의 4개 보병 연대를 보유하였다. 이중 앞의 두 연대는 39여단, 뒤의 두 연대는 40여단이다. 그 외에 기병 28연대와 야포병 26연대, 공병 20대대(1936년 연대 승격)가 용산에 있고 마산에 중포병대대가 있었다. 이후 제6비행연대와 제6고사포연대가 추가되고, 1943년에는 삼각편제로 전환되어 77연대는 30사단으로 전출된다.

한반도 내에서 평안무사한 나날을 보내던 중 심심해진 수뇌부의 독단행동을 따라 1931년 발발한 만주사변에 2개 연대로 39여단을 구성하여 파병하고 좀 있다가 나머지 1개 여단도 파병, 사령부까지 따라나간다. 진저우 공략에 일조하고 1932년에 철수하며, 1937년에는 전시 동원되어 노구교 사건으로 촉발된 중일전쟁에 참전하지만 영문 위키에 의하면 전투는 겪지 않았다고 한다. 이후 1939년 말에 소집해제로 경성으로 복귀한다.

태평양 전쟁 개전시에는 한반도 내에서 예비전력으로 대기하고 있었으나 1942년에는 예하 77연대를 30사단에 내주었고, 개전 이전부터의 상비사단이었기 때문에 전력을 높게 평가받아 18군으로 전속되어 남방전선으로 차출되었다. 25,000에 달하는 병력이 조선을 떠났으나 뉴기니 전선의 악조건 속에서 버티다가 대부분의 병력을 잃었고 단지 1,711명이 살아서 고향으로 돌아갔다. 미군이나 호주군과의 전투에서 전사한 자보다 말라리아 등의 질병으로 인한 사망자가 더 많다.