Kim Cương trước đây là vùng núi hoang sơ hiểm trở, cái nơi cư ngụ của các loài sơn thú, rừng nguyên sinh đất đai màu mở đã thu hút con người đến đây lập nghiệp. Để khai thác nguồn tài nguyên kinh tế miền tây Hương Sơn và nước bạn Lào, năm 1921 thực dân pháp đã khánh thành đường  8 Việt- Lào lưu thông hai quốc gia. Sau khi có đường 8 thực dân Pháp đã nhảy vào khai thác tài nguyên đất đai và nhân công rẻ mạt như đồn điền Sông Con, Hà tân, khe tạt, Voi Bổ về làm giàu chính quốc. Tên Kim Cương cũng ra đời từ đó.

Cuối năm 1945 đầu năm 1946 xã Kim Cương được thành lập, có chung tuyến biên giới với nước CHDCCHND Lào dài 46 Km, diện tích 43 ngàn Ha bằng 1/3 diện tích huyện Hương Sơn, phía Bắc giáp núi bà ngụ, phía nam giáp xã Hương Giang, Hương Khê, phía tây giáp Lào, phía Đông giáp cầu Rào qua.

Dân số ban đầu của xã gồm có 49 hộ, trong đó có 14 hộ người Lào với 399 nhân khẩu. Riêng vùng Khe chè có 14 hộ trong đó có 5 hộ người Lào chưa nằm vào sự quản lý của xã Kim Cương. Địa hình có trực quốc lộ 8, sông ngàn Phố xuyên qua trung tâm xã lên biên giới cầu Rào qua, Cầu Trưng, Rào Mắc, Nước Sốt, Cầu Treo các địa danh đã đi vào lịch sử lòng người.

Nhân dân xã Kim Cương được hình thành ban đầu gồm phu đồn điền, dân làm trại, một số bà con do nạn đói 1939-1945 và một số hộ người Lào

 Năm 1954, Kim Cương chỉ là 1 thôn của xã Tây Sơn. Sau Năm 1954, Tây Sơn tách thành 3 xã: Sơn Kim, Sơn Lĩnh, Sơn Tây. Theo Nghị Địng 09/2004/NĐ-CP ngày 02/1/2004 xã Sơn Kim được chia làm 2 xã Sơn Kim 1 và Sơn Kim 2. Sơn Kim 1 có 12 thôn, diện tích 19.700 ha, có 4.378 nhân khẩu.

Địa giới hành chính xã Sơn Kim 1: Đông giáp xã Sơn Tây và Thị Trấn Tây Sơn; Tây giáp nước bạn Lào; Nam giáp xã Sơn Kim 2 và nước bạn Lào; Bắc giáp xã Sơn Hồng và Sơn Tây.