同じく明治21年秋、山県は陸軍内部の反山県派将軍(鳥尾小弥太、三浦梧楼、曽我裕準、堀江芳介)を年末をもって 退役に追い込んだ上で、二度目のヨーロッパ視察旅行(第一回は明治2年~3年)へ出発する。目的は地方制度調査である。 帰国後間もなく、黒田内閣は条約改正問題で総辞職し、後継内閣組閣は彼にお鉢が廻って来た(明治22年12月)。 そして山県は現役の陸軍軍人のまま、首相となった。「内相となりて陸軍より離れず、首相となりて内務より離れず、責任を 重んずるとも云ふべく、権勢に執着するとも云ふべし」と三宅雪嶺は評している(「同時代史」)。また「前に内主外従たりし軍備が、 今や外主内従たらんとし、方向が一転しつつあり」とも述べている。
 そして23年2月、紀元節に金鳶勲章(第一級~第七級)制度が制定され、3月30日から4月3日に掛けて、濃尾平野を 中心として、明治天皇が統監として参加する陸海軍連合大演習が行われた。陸上では、第三師団と第四師団が実戦さながらの 演習を行い、演習終了後、天皇は神戸から高千穂艦に乗御し、満艦飾の扶桑、大和、葛城、高雄、八重山、金剛、比叡 の八艦をひきいて呉鎮守府の開廳式へ臨み、ついで佐世保軍港へ行幸した。
 6月7日、山縣有朋は、彰仁親王と共に、陸軍大将へ昇進する。皇族でない者が大将となるのは、西郷隆盛以来のことである。
 23年の7月1日から3日かけて第一回衆議院選挙が実施されるが、議席の過半数を制したのは、民権派(「民党」と呼ばれる)の 「立憲自由党」と「立憲改進党」であった。国会開催の冒頭、山県総理大臣は施政方針演説を行い、二四年度予算案に言及し、 歳出の大部分を占める「陸海軍費」につき、「主権線」・「利益線」の言葉を用いて理解を求めた。「利益線」の焦点は朝鮮である。 間もなくシベリヤ鉄道が完成し、朝鮮に「多事」を、「東洋に一大変動」をたらすであろう。朝鮮の独立が失われれば、「わが対馬諸島 の主権線は頭上に刃を掛くる」状態となる、それを防ぐための軍事予算であると力説した。しかし予算案上程に至ると、民党二派は 「民力休養」を唱え、大削減を求めてきた。窮地に陥った山県は民権派出身の陸奥宗光農相と後藤象二郎逓相へ助けを求める。 陸奥・後藤が民党側有力者、板垣退助・林有造・大江卓らと話し合った結果、かなり削減されたがなんとか政府側が容認できる 程度で予算は成立し、波乱に満ちた第一回議会は終わった。山縣らによりこの時代(明治20年代)に形成された政治骨組は 昭和初期まで続く。地方官官制は勅令によるもので、それにより任命された知事を頂点とする府県は内務省の出先機関化しており、 「官治的自治」と称されるべき性格になっていた。地方議会は存在し、議員は選挙で選ばれたが、その選挙は納税額により有権者を 区別する等級政治制度であった。


4