三国置江由戌，西魏改为江油县。江由，取涪江水清澈如油之意。一说系油溪而来。1958年改江彰县。1959年复改江油县。1988年设市。
　　1913年，江油县乡镇行政区划，仍沿袭清宣宗道光二十年（1840年）的旧制，全县分东、南、西、北等四乡，称东乡、西乡……乡以下全县分十甲，甲以序数为名，称一甲、二甲、三甲……每乡辖二三个甲，亦称东六甲、西八甲。县以下时为乡、甲二级制，甲是最基层行政单位。
　　1914年，全县4乡分设为8个乡，以序数为名称一乡、二乡、三乡……乡以下仍设甲，全县仍分10甲，每乡辖1至2个甲；江油是乡、甲两级制。与江油相邻的彰明县（1958年撤，并入江油县）将清末的9个乡20个保改为9个区、18个保、4个团，实行区、保（团）、甲三级制。
　　1929年，全县8个乡改为8个区，称一区、二区、三区……10个甲分设为18个乡，乡以乡治所在地较大场镇名称为名，如大康乡、新安乡、永平乡等，每区辖2至3个乡，每乡辖几个至10多个甲，时为区、乡、甲三级制。
　　1936年1月，为解决当时严重的社会治安问题，全县分为3个区，24个联保，492保、4920甲，区仍以序数为名，联保以保公所所在乡场名称为名，如双河联保、中和联保、让水联保等，保、甲以乡联保为一块按序数称呼。如一保、二保，一保一甲、二保一甲。时为区、联保、保、甲四级制。
　　1940年8月，为适应抗战需要，统一行政区划，撤销联保改为乡镇，撤并部分保、甲。全县仍分为3个区，原24个联保改为4个镇17个乡，原492个保撤并为295个保，原4920个甲撤并为3156个甲。时为区、乡（镇）、保、甲四级制。与江油相邻的彰明县，当年也在按省政府指令调整县以下行区划，撤销区的建制，由县政府直辖联保（当时彰明是全省最小的一个县，面积仅600多平方千米）。
　　1950～1955年，先后7次调整行政区划。至1955年，全县分设5个区（县的派出机构）、2个镇、32个乡、284个村、10个居民委员会，约3000个村（居）民小组。
　　1958年秋，彰明县并入江油县，全县分设为9个区、40个政社合一的人民公社、361个管理区、1588个生产小队。
　　1984年后，江油县（市）多次进行撤区并乡建镇工作。（以上根据相关网站资料整理，有改动）
　　2000年，江油市辖4个街道、20个镇、21个乡：长钢街道、武都长钢街道、含增长钢街道、华平街道、中坝镇、三合镇、太平镇、含增镇、青莲镇、彰明镇、龙凤镇、武都镇、大康镇、新安镇、战旗镇、双河镇、永胜镇、小溪坝镇、重华镇、河口镇、厚坝镇、二郎庙镇、马角坝镇、雁门镇、九岭乡、西屏乡、方水乡、八一乡、香水乡、大堰乡、东兴乡、北城乡、义新乡、贯山乡、新春乡、新兴乡、东安乡、文胜乡、铜星乡、重兴乡、云集乡、石元乡、敬元乡、六合乡、枫顺乡。根据第五次人口普查数据：总人口849761人，其中各乡镇人口（人）：长钢街道：28515、武都长钢街道：19472、含增长钢街道：8873、华平街道：3753、中坝镇：77523、太平镇：66140、三合镇：94215、含增镇：9371、青莲镇：16117、彰明镇：17639、龙凤镇：14195、武都镇：34694、大康镇：21360、新安镇：17527、战旃镇：16614、双河镇：16572、永胜镇：26741、小溪坝镇：16267、河口镇：13187、重华镇：16486、厚坝镇：21787、二郎庙镇：33212、马角镇：18684、雁门镇：10733、九岭乡：16339、八一乡：14685、方水乡：14473、西屏乡：15962、香水乡：8095、大堰乡：16169、东兴乡：10410、北城乡：6195、义新乡：13532、贯山乡：13874、新兴乡：14076、新春乡：14715、东安乡：12970、铜星乡：12010、文胜乡：8864、重兴乡：9598、云集乡：9464、石元乡：4448、敬元乡：7247、六合乡：4398、枫顺乡：2560。
　　2003年12月8日，经四川省人民政府（川府民政[2003]33号）批准，江油市北城乡人民政府驻地由白石村一组迁至白衣村九组天竹山。
　　2004年，江油市辖4个街道（长钢、华平、武都、含增）、21个镇（彰明、重华、三合、含增、龙凤、永胜、双河、河口、马角、青莲、武都、雁门、新安、战旗、九岭、太平、大康、二郎庙、中坝、小溪坝、厚坝）、20个乡（六合、西屏、北城、铜星、新春、新兴、义新、贯山、石元、枫顺、敬元、大堰、东兴、八一、云集、重兴、东安、文胜、方水、香水）。
　　至2005年，全市辖4个街道、20个镇、21个乡，481个村、59个社区1、31个家属委员会，3433个村民小组、615个居民小组。
　　2006年1月6日，经四川省人民政府（川府民政[2006]2号）批准，江油市撤销北城乡建制，将原北城乡的龙井、兴隆、云顶3个村和白石村的第五、六、七、八村民小组所属的行政区域划归永胜镇管辖，将原北城乡的白衣、柳林、代东、大坪、观雾、小河6个村和白石村的第三村民小组所属的行政区域划归武都镇管辖。