从商周开始一直到秦汉之际，大河家一带成为西羌民族的重要活动舞台。汉武帝时期，西汉国力强盛，元狩二年（前121年），汉武帝派骠骑大将军霍去病远征河西，击败匈奴，开辟了河西四郡（即武威、酒泉、张掖、敦煌），并进入河湟地区，在这一地区设置了枹罕、允吾、令居等县，作为防御羌人入侵的屏障。元鼎六年（前111年），汉武帝派将军李息、郎中令徐自为率兵征讨河湟羌人，在湟中设置“护羌校尉”，开始经略河湟地区，大河家一带正式纳入西汉政府的版图。

西汉元康三年（前63年），“先零羌乃与诸羌大共盟誓，将欲寇边。”汉宣帝派光禄大夫义渠安国领兵“行视诸羌，分别善恶”。但义渠安国以欺骗手段召杀先零羌酋豪40余人，并纵兵杀死先零羌民千余人。义渠安国的残酷屠杀政策，激起羌人极大的怨愤和恐惧，于是诸降羌皆叛。后将军赵充国向宣帝上书对叛首先零羌进行武力镇压，对胁从的罕、幵等羌进行招抚的建议，宣帝最后采用了他的计策，任命后将军赵充国率6万大军进兵湟中。宣帝神爵元年（前61年）六月，赵充国击败湟水流域的先零羌，招抚黄河沿岸羌人归降，罢兵屯田。神爵二年（前60年），西汉政府在大河家设立了河关县，“盖取滨黄河之关塞”而得名，约辖今青海东部黄河以南部分地区和今积石山县一带，属金城郡，这里被正式纳入汉朝的郡县体系。

汉代设立的河关县县治在今大河家镇康吊村六社以西50米处，城址地处黄河南岸高出河床100多米的塬面上，南北长约250米，东西宽约200米，占地面积约5万平方米。城墙为夯土版筑，现四周仅存残垣，城内已成耕地，但田间地埂则散布有大量的汉代砖瓦等遗存，更为重要的是，这里还出土了石斧、石火盆、汉瓦等汉代的文物。

西晋惠帝永宁中（301—302年），凉州刺史张轨分西平郡界，置晋兴郡。废河关县，改设临津县，属晋兴郡。“临津县，前凉张轨置，后魏省，治所在今甘肃临夏县西北”（《中国古今地名大辞典》）。后凉吕光龙飞二年（397年）“克河关，复置河关县，后没入吐谷浑，遂不复”（《禹贡锥指》）。