Eingangs muss erwähnt werden, dass die Organisation der öffentlichen Verwaltung in Österreich durch den Bundesverfassungsgesetzgeber detailliert geregelt ist. Die wichtigen verfassungsrechtlichen Grundsätze für die Organisation der Verwaltung sind jedoch die Gewaltentrennung, das Weisungsprinzip, die Bundesstattlichkeit sowie die territoriale Selbstverwaltung und der Grundsatz der Gesetzmäßigkeit, welches auch als Legalitätsprinzip bezeichnet wird. Das Prinzip der Gewaltentrennung legt fest, dass die Staatsorgane zur Besorgung von Verwaltungsaufgaben zuständig sind. Dafür ist wiederum auch das Weisungsprinzip wesentlich. Danach ist die Verwaltung nämlich in ihrem Aufbau und in ihrer Tätigkeit ein hierarchisches System, wobei ihre Spitze durch die obersten Verwaltungsorgane des Bundes und der Länder gebildet wird.
Es muss beachtet werden, dass gewählte oder ernannte bzw. vertraglich bestellte berufsmäßige Organe unter Leitung der obersten Verwaltungsorgane des Bundes und der Länder auf Zeit die Verwaltung führen. Die gewählten oder ernannten bzw. vertraglich bestellten berufsmäßigen Organe sind daher an die Weisungen der obersten Verwaltungsorgane des Bundes und der Länder gebunden. Weiters sind die obersten Organe jedoch für ihre Tätigkeit parlamentarisch verantwortlich. Es muss jedoch beachtet werden, dass die Besorgung von Verwaltungsaufgaben durch Organe oder durch Rechtsträger, die dieser Weisungsbindung nicht unterliegen, einer verfassungsrechtlichen Legitimation bedarf.
Das bundesstaatliche Prinzip wiederum sieht eine Trennung der Zuständigkeit des Bundes und der Länder in Angelegenheiten der Verwaltung und die Teilung der staatlichen Verwaltungsorganisation in eine Verwaltungsorganisation des Bundes und in eine Verwaltungsorganisation der Länder vor. Es muss beachtet werden, dass die Besorgung von Verwaltungsaufgaben des Bundes durch Organe der Länder oder dass die Besorgung von Verwaltungsaufgaben der Länder durch Organe des Bundes jedoch nur dann zulässig ist, wenn die Bundesverfassung dies auch ausdrücklich vorsieht. Hierbei ist dennoch zu berücksichtigen, dass die Verwaltung des Bundes im Bereich der Länder in der Regel von Organen der Länder zu besorgen ist. Denn nur in den bundesverfassungsgesetzlich genannten Angelegenheiten darf die Verwaltung des Bundes in den Ländern durch eigene Bundesbehörden besorgt werden. Das soeben Gesagte gilt jedoch nur für den Bereich der Hoheitsverwaltung. Denn für die Privatwirtschaftsverwaltung des Bundes besteht wiederum kein vergleichbares Gebot zur Führung der Bundesverwaltung durch Organe der Länder. Dennoch können aber die Bundesminister die Besorgung solcher Geschäfte auch Organen der Länder übertragen.
In bestimmten Fällen kann sogar eine Durchbrechung der Trennung der Verwaltungsbereiche des Bundes und der Länder vorgesehen werden. Denn die Landesgesetzgeber können nämlich die Mitwirkung von Bundesorganen bei der Vollziehung von Landesgesetzen vorsehen, wobei hierfür jedoch die Zustimmung der Bundesregierung eingeholt werden muss.
Es ist ebenso erwähnenswert, dass die Gemeinden wiederum Gebietskörperschaften mit dem Recht auf Selbstverwaltung sind und zugleich aber auch Verwaltungssprengel sind. Außerdem haben die Gemeinden als Selbstverwaltungskörper im eigenen Wirkungsbereich eigenverantwortlich, also frei von Weisungen staatlicher Organe, alle Angelegenheiten wahrzunehmen, die im ausschließlichen oder überwiegenden Interesse der örtlichen Gemeinschaft gelegen sind und geeignet sind, durch diese Gemeinschaft innerhalb ihrer örtlichen Grenzen besorgt zu werden. Es muss beachtet werden, dass die Gemeinden als Verwaltungssprengel im übertragenen Wirkungsbereich, den staatlichen Behörden des Bundes und der Länder untergeordnet jene Aufgaben zu besorgen haben, die ihnen durch Gesetze des Bundes und der Länder übertragen werden. Jedoch haben Gemeinden, denen durch Landesgesetz ein eigenes Statut verliehen wurde, neben den Aufgaben der Gemeindeverwaltung auch die Aufgaben der staatlichen Bezirksverwaltung zu besorgen.
Es muss beachtet werden, dass das Legalitätsprinzip auch für die Verwaltungsorganisation gilt. Das Legalitätsprinzip legt nämlich fest, dass die staatliche Verwaltung nur aufgrund der Gesetze tätig werden darf und dass der Gesetzgeber verpflichtet ist, das Verwaltungshandeln hinreichend vorherzubestimmen. Das heißt, dass ihre Regelung dem Gesetzgeber vorbehalten ist, wenn sie nicht bereits durch den Bundesverfassungsgesetzgeber erfolgt ist.