Während der Belagerung Akkons im dritten Kreuzzug stifteten die Hansestädte Bremen und Lübeck 1189 ein Koggensegel, um Kranke und Verwundete vor der Sonne zu schützen. Im September 1190 übernahm eine Gruppe um einen Meister die Pflege der Bedürftigen vor den Mauern der belagerten Stadt. Damit beginnt die Geschichte des Deutschen Ordens. Nach der Eroberung der Stadt im Juli 1191 erhielt der Orden ein Grundstück, auf dem er das „Haus der Deutschen“, ein Spital, errichten ließ. 1198 erhoben deutsche Kreuzfahrer den Spitalorden zu einem Ritterorden und folgten damit wahrscheinlich einem Auftrag des kurz zuvor verstorbenen Stauferkaisers Heinrich VI. Der neue Ritterorden sollte seinen Spitaldienst, den er beibehielt, nach der Regel der Johanniter gestalten, im übrigen aber die Templerregel befolgen. Insgesamt waren die Anfänge bescheiden.
In den neuen Orden wurden Ritterbrüder als Kämpfer zu Pferd, Priesterbrüder für die geistliche Versorgung und Sarjantbrüder oder Graumäntler, wie sie später nach ihren grauen Umhängen genannt wurden, als Kämpfer zu Fuß aufgenommen. Alle drei Gruppen waren vollwertige Ordensmitglieder und hatten die Gelübde der Keuschheit, der Armut und des Gehorsams abzulegen. Da sie wegen des Keuschheitsgelübdes keine legitimen Nachkommen haben konnten, mußten sie, anders als weltliche Ritter, nicht für ihre Erben sorgen. Wegen des Armutsgelübdes sollten sie kein privates Vermögen anhäufen, sondern alles dem Orden übereignen. Nach dem Gehorsamsgebot konnten die Oberen bzw. der Ordensmeister erwarten, daß ihren Befehlen Folge geleistet wurde. Allerdings war die Befehlsgewalt der Oberen stets an den Rat und die Zustimmung der wichtigsten Mitbrüder gebunden.
Infolge der drei Gelübde konnte der Orden eine vergleichsweise modern anmutende Verwaltung aufbauen. An der Spitze stand der auf Lebenszeit gewählte Meister oder Hochmeister, dem ein Großkomtur als Stellvertreter, ein Marschall als Befehlshaber der Ordenstruppen, ein Spitalmeister als Verwalter des Hauptspitals, ein Trappier für die Kleiderkammer und ein Treßler als Verwalter der Finanzen unterstanden. Sie sollten den Meister im Haupthaus unterstützen. Außerhalb des Heiligen Landes standen Landkomture an der Spitze von Ordensprovinzen, den sogenannten Balleien.
Die Balleien im Deutschen Reich unterstanden dem Deutschmeister, einem der drei Landmei‧ster. Daneben gab es noch die Landmeister von Preußen und Livland. Unter den Landmeistern und -komturen rangierten die Komture als Vorsteher der Ordenshäuser oder Kommenden. Der Verwaltungsaufbau wurde in wesentlichen Teilen von den älteren Ritterorden übernommen, aber nach den eigenen Bedürfnissen umgestaltet. Die Balleien im Westen Europas dienten in erster Linie der Unterstützung der Ordensunternehmungen in Palästina, Preußen und Livland. Sie bildeten die Etappe, die Mittel für die Kämpfe im Orient wie in Nordosteuropa erwirtschaftete, jedenfalls im 13. Jahrhundert und auch noch darüber hinaus. Zudem konnten dort Brüder rekrutiert werden.




