秦朝置泥阳县，故址今甘肃宁县米桥乡。属北地郡。

西汉和东汉时沿置，属凉州北地郡。兴平元年（公元194年），李傕控制下的东汉末代皇帝汉献帝分凉州部分地域设立雍州，泥阳改属雍州。建安十八年（213年）省凉州，与司隶校尉部的三辅一起并入雍州。

三国时，黄初元年（220年），曹魏分河西8郡复置凉州，徙泥阳县于祋祤（治在今陕西耀州河东堡东侧）。更祋祤县为泥阳县，并为侨置北地郡治。

北魏太平真君七年（446年），废泥阳入富平县，徙北地郡于通川故城（今富平县境）。景明元年（500年），复置泥阳县，县置在今陕西耀州河东堡东侧，并为北雍州治。

西魏元钦元年（552年），改北地郡为通川郡，并改北雍为泥州治，泥阳县为州郡治。