백제와 신라의 영토 확장으로 인한 각축장이 되었다가 점차 신라의 영역에 편입되었다. 신라 초기에는 일선군(一善郡)이었고 616년(진평왕 38) 일선군은 일선주로 승격하였다. 통일신라 때인 757년(경덕왕 16)에 일선주는 숭선군(嵩善郡)으로, 사동화현은 인동현(仁同縣)으로 개칭되었다. 9주 5소경 중 상주에 속했다.

후삼국 시대에는 이 일대에서 고려와 후백제가 삼국통일 운명을 건 마지막 전투인 일리천 전투를 펼쳤다.

고려가 삼국을 통일한 뒤에는 1914년까지의 선산군 지역인 일선군(一善郡)과 1914년까지의 인동군(특히 구 인동면) 지역의 사동화현(斯同火縣)이 있었다.

995년(성종 14)에 숭선군이 선주(善州)로 승격하였다. 그러다가 1143년(인종 21)에 일선현으로 강등되었다.

1413년(태종 13)에 일선현서 선산군(善山郡)으로 승격되었다. 이 때 선산군의 중심지가 현재의 선기동(선주원남동)[1]에서 선산읍 동부리, 서부리로 이동하였다.

1895년 23부제 때 선산군, 인동군은 대구부에 속하였다. 그러다가 1896년 선산군, 인동군은 다시 경상북도에 속하였다.

1914년 부군면 통폐합 때 인동군이 폐지되어 칠곡군에 병합되었고 선산군은 존속되었다. 당시 선산의 일본어 독음은 ぜんさん. 구미는 きび였다.