Yleisesti ottaen voidaan sanoa, että valtion julkisen hallinnon tehtävänä on panna täytäntöön lainsäädäntöelimen hyväksymiä lakeja ja toteuttaa käytännössä ylimmän poliittisen johdon hyväksymiä toimintapolitiikkoja (policy). Jaakko Nousiaisen mukaan valtion hallinto-organisaatio on "tavoitteellinen, monitasoinen ja laaja-alainen kokonaisjärjestelmä, joka ottaen huomioon taloudellisuuden, tehokkuuden, vaikuttavuuden ja oikeusvarmuuden tuottaa poliittisen päätöksentekojärjestelmän ohjaamana kansalaisten kulloinkin tarvitsemat suoritteet ja palvelukset".
Periaatteessa voitaisiin ajatella, että valtionhallinto ainoastaan toteuttaa lojaalisti ja rationaalisesti poliittiselta johdolta saamiaan tehtäviä. Käytännössä hallinnon suhde politiikkaan on kuitenkin laajempi ja monimutkaisempi kuin hallinnon puolueettomuutta olettava yksinkertainen ja muodollinen alistussuhde. Perustehtävänsä lisäksi hallinnon edustajat osallistuvat laajamittaisesti monien poliittisten päätösten valmisteluun. Lisäksi poliittiset toimintaohjeet saattavat monissa tapauksissa jättää runsaasti tilaa erilaisille käytännön ratkaisuille. Kaikkineen hallinnon ja politiikan välinen suhde vaihtelee maasta toiseen.
Valtionhallinto on kokonaisuudessaan hyvin laaja organisaatio, ja monet siihen kuuluvat yksikötkin ovat hyvin suuria. Täten sillä tai sen osilla on myös omia intressejä, joita se pyrkii ajamaan muodollisten päätöksentekofoorumien lisäksi esimerkiksi osallistumalla yhteiskunnalliseen keskusteluun. Tässä mielessä myös hallinnon koolla on merkitystä. Esimerkiksi hyvinvointivaltion kehittyminen teki julkisen sektorin työntekijäjärjestöistä tärkeitä taloudellisia etujärjestöjä.
Lisäksi voidaan ajatella, että hallinto-organisaatio on tyypillisesti yhteiskuntaa ja poliittista järjestelmää koossa pitävä voima. Siinä missä poliitikot vaihtuvat, virkamiehet yleensä pysyvät paikallaan. Hallinnon rakenteita ei muuteta kovin usein, ja tietty hallintokulttuuri saattaa vaikuttaa pitkään vielä muuttuneissa rakenteissakin. Yhtäältä tämä hallinnon rooli edesauttaa vakaata kehitystä, mutta toisaalta sen voi myös ajatella vastustavan muutosta dynaamisissa historian vaiheissa.
Länsimaissa julkista hallintoa on pyritty monella tavoin uudistamaan viimeisten parin vuosikymmenen aikana. Yksi tämän uudistamisen ilmentymistä on siirtyminen hallinnon käsitteestä hallinnan käsitteeseen. Valtionhallinnon tehostamisen lisäksi keskustelu on suuntautunut yleisemmin pohtimaan valtion roolin muutosta suhteessa taloudelliseen ja sosiaaliseen kehitykseen. Hallinnassa ei ole kysymys enää vain valtion omien palvelutehtävien hoitamisesta, vaan laajemmasta ongelmakokonaisuudesta, jossa etsitään toimivaa yhteyttä valtion, markkinoiden ja kansalaisyhteiskunnan välillä globaalissa taloudessa ja ylikansallisessa poliittisessa järjestelmässä.
Senaatti jakautui oikeusosastoon sekä talousosastoon, joka puolestaan jakautui edelleen toimituskuntiin. Senaatin alapuolelle muodostui keskushallinto, joka sisälsi ylihallituksia, hallituksia, johtokuntia ja konttoreita. Kaikkineen hallinto laajeni autonomian aikana etenkin keskushallinnon uusia virastoja perustamalla. Näin Suomeen syntyi eräänlainen hallinnollinen sekajärjestelmä ministeriöineen ja suhteellisen itsenäisine keskusvirastoineen.
Suomen itsenäistyessä valtion hallinnollinen organisaatio oli puolustus- ja ulkoasiainhallintoa lukuun ottamatta pääasiallisesti valmiina. Sisällissodan aikana Suomessa oli itse asiassa voimassa kaksi hallintokoneistoa, joista valkoisten hallinto jatkoi sodan päätyttyä maan virallisena hallintona. Ylimpänä hallintoviranomaisena oli kollegiaalisesti toimiva valtioneuvosto (entinen senaatti), joka jakaantui suhteellisen itsenäisiin, mutta melko passiivisiin ministeriöihin. Niiden rinnalla oli useita tehtäväpiiriltään kasvavia erillisiä hallintoviranomaisia.
Ministeriöt alkoivat itsenäisyyden alussa eriytyä osastoihin, erityisesti vasta perustetut sotaministeriö ja ulkoasiainministeriö. Keskushallinnon rinnakkaisuutta ja päällekkäisyyttä pyrittiin jo tällöin purkamaan tässä kuitenkaan erityisemmin onnistumatta. Valtionhallinnon organisaatiota muutettiin aluksi usein ja huomattavasti, kunnes ajan mittaan kehitys tasaantui. Kuten edellä valtiontaloutta käsiteltäessä on käynyt ilmi, keskushallinnon laajeneminen ei vielä itsenäisyyden alkupuolella ollut kovin voimakasta yleisestä eriytymiskehityksestä huolimatta.
Toisen maailmansodan aikana perustettiin lukuisia uusia virastoja ja hallintoyksiköitä, joista vain osa lakkautettiin olojen palattua normaaleiksi. Sodan seurauksena hallinnossa aikaisemmin vahvana vaikuttanut legalistinen ajattelutapa sai rinnalleen rationalisointia ja tehokkuutta korostavia hallinto-opillisia vaikutteita. Sodan aikana myös erilaiset välillisen hallinnon tehtäviä suorittaneet elimet ja organisaatiot valjastettiin osaksi valtion kokonaisponnistuksia. Valtioneuvosto otti itselleen aikaisempaa selvemmin toiminnallista yhteensovittamista korostavan koordinoivan roolin, joka myös säilyi sillä sodan päätyttyä.
Sodan aikana ja sen jälkeen koko julkinen sektori ja hallintokoneisto muuttuivat suuresti. Voimakas laajeneminen sijoittui sekä edelleen osastoiksi ja toimistoiksi eriytyviin ministeriöihin että lukumäärältään kasvaviin ja samaten eriytyviin keskusvirastoihin. Toisaalta valtion oma piiri- ja paikallistaso supistui, kun valtio siirsi erityisesti palvelutehtäviään suoraan kuntien hoidettavaksi. 1960-luvulla valtionhallinnon kehittämis- ja ohjaustoiminta alkoi keskittyä valtiovarainministeriöön. Tämä sekä eräät muut uudistukset siirsivät päätösvaltaa ministeriöihin ja heikensivät vastaavasti keskusvirastojen itsenäisyyttä.
Oma kehityskulkunsa on niin sanottu hallinnon politisoituminen. Vaikka porvarilliseen yhteiskuntaan kriittisesti suhtautuneet vasemmistolaiset piirit tulivat toisen maailmansodan päättymisen jälkeen osaksi suomalaista poliittista elämää sekä eduskunnassa että hallituksessa, hallinnon virkamieskuntaan rekrytoitumisessa ei kuitenkaan tapahtunut mitään merkittävää muutosta. Muutenkin käsitys valtionhallinnon ja erityisesti keskusviraston itsenäisestä asemasta eli tällöin vielä vahvana.
Monien hallintoon ylipäänsä aikaisemmin epäillen tai kriittisesti suhtautuneiden puolueiden ja poliitikkojen asenteet alkoivat kuitenkin ajan mittaan muuttua. Hallinto alettiin nähdä selvemmin yhteiskunnallisen vaikuttamisen yhtenä välineenä. Vasemmiston tultua hallitukseen 1960-luvun lopulla perustettiin runsaasti uusia keskusvirastoja, joilla oli selvä yhteys valtion uuteen rooliin taloudellisen kasvun takaajana ja hyvinvoinnin edistäjänä.
Hallinnon muutoksiin liittyivät samalla etenkin 1960- ja 1970-luvulla laajamittaiset poliittiset virkanimitykset, jotka ulottuivat varsin alas virkahierarkiassa. Näin hallinto ja puoluepolitiikka kytkeytyivät tiiviisti toisiinsa. Tämän seurauksena yhtäältä poliittinen ohjaus ulottui hallintokoneiston sisälle ja toisaalta virkamiesten vaikutus puoluepolitiikkaan voimistui.
1980-luvulla paineet hallinnon uudistamista kohtaan kasvoivat erityisesti kansainvälisen toimintaympäristön muutosten, hyvinvointivaltion rahoitusongelmien sekä julkisen sektorin toimivuutta ja tuloksellisuuden parantamista koskevien vaatimusten myötä. Muutos alkoi pyrkimyksillä hallinnon palvelevuuden ja taloudellisuuden lisäämiseen Harri Holkerin sinipunahallituksen aikana, mutta sen toimeenpanemista edesauttoi myös syvä taloudellinen lama, johon Suomi joutui 1990-luvun alussa.