Zakony rycerskie zaczęły powstawać w trakcie krucjat. Do największych należeli templariusze oraz joannici, którzy zrzeszali wówczas rycerstwo z terenów Francji i Włoch. Ze względu na to, że w krucjatach brało udział coraz więcej rycerstwa niemieckiego, postanowiono o powołaniu zakonu, który opiekowałby się nimi (przede wszystkim rannymi). W ten sposób w 1190 r. powołano Zakon Szpitala Najświętszej Marii Panny Domu Niemieckiego w Jerozolimie, który powszechnie zaczęto nazywać krzyżakami, od czarnego krzyża widniejącego na białych płaszczach, którymi bracia się okrywali.
Jeszcze podczas trwania III krucjaty, papież Klemens III nadał zakonowi ziemie wokół Akki. Po swojej stronie chciał mieć krzyżaków także cesarz Henryk VI i w 1197 r. oddał im rozległe ziemie w południowych Włoszech.
Od początku istnienia bractwa, wielcy mistrzowie zakonu Najświętszej Maryi Panny odznaczali się wybitnymi umiejętnościami dyplomatycznymi. Po roku 1220 ich majątek i posiadane ziemie przewyższały to, co posiadali templariusze i joannici. Należące do nich tereny znajdowały się na obszarze dzisiejszych Włoch, Niemiec, Palestyny, Sycylii, Turcji i Libii. Ich wpływy rosły, w zachodniej Europie zaczęły powstawać kolejne konwenty.
Wielki Mistrz Hermann von Salza miał jednak większe ambicje niż porozrzucane po całej mapie Europy niewielkie stosunkowo posiadłości. Marzył o stworzeniu państwa zakonnego. Okazja nadarzyła się w roku 1221 r., kiedy król węgierski Andrzej II zaprosił zakon dla obrony swoich wschodnich granic przed plemionami Kumanów. Krzyżacy mieli otrzymać część Siedmiogrodu, lecz ich dążenie do niezależności i próby wyrwania się spod lenna Węgier się nie powiodły. Król, z poparciem węgierskich duchownych, doprowadził do wygnania krzyżaków ze swoich terenów.
Próby chrystianizacji Prus trwały od początku lat dwudziestych XIII w. Zaangażowani w nią byli piastowscy książęta oraz zakon cystersów z Łekna. Na chrystianizacji pruskich pogan zależało przede wszystkim papieżowi Honoriuszowi III, który chciał utworzyć w Prusach państwo kościelne. Kilka lat starć z miejscową ludnością nie przyniosło jednak żadnych rezultatów.
Prawdopodobnie w roku 1226 Konrad Mazowiecki, za namową Jadwigi Śląskiej (żony Henryka Brodatego), zdecydował o sprowadzeniu na teren Polski Zakonu Najświętszej Maryi Panny, zaprawionego w bojach z niewiernymi.
Krzyżacy otrzymali w dzierżawę ziemię chełmińską i michałowską, lecz władzę nad tymi terenami miał nadal Konrad. Zakon dość szybko rozprawił się z pogańską ludnością Prus, zajmując coraz większe tereny. Po zajęciu przez nich ziemi dobrzyńskiej, książę Konrad wycofał dla nich poparcie i formalnie odebrał wszystkie ziemie, które wcześniej oddał w dzierżawę.
Po raz kolejny (i nie ostatni) jednak krzyżacy wykazali się przebiegłością. Zwracając się i pomoc do cesarza Fryderyka II, poprosili o potwierdzenie, że wszystkie ziemie, które aktualnie zajmują, w świetle prawa, należą do nich.
Cesarz skłonił się ku tej prośbie. W 1235 r. wydał tzw. Złotą bullę, w której ogłaszał, że ziemie chełmińska i michałowska faktycznie należą do krzyżaków. Spór o przynależność tych terenów rozstrzygał także legat papieski, który przychylił się do argumentów zakonu. Konrad został zmuszony uznać to postanowienie. Jedyne, co udało mu się odzyskać to ziemia dobrzyńska.
Przez setki lat Polska prowadziła z krzyżakami niemal nieustanne wojny. Najsłynniejszą bitwą pomiędzy wojskami polsko-litewskimi a państwem zakonnym jest bitwa pod Grunwaldem z 1410 r., w której połączone siły Polski i Litwy odniosły zwycięstwo, a życie stracił Wielki Mistrz zakonu, Ulrich von Jungingen.
W roku 1525, po tzw. hołdzie pruskim, doszło do sekularyzacji Zakonu Najświętszej Maryi Panny, a państwo zakonne przekształciło się w Prusy Książęce, które 1701 r. utworzyły, wraz z Brandenburgią, Królestwo Prus. W 1871 r. premier Prus, Otto von Bismarck doprowadził do zjednoczenia państw niemieckich, które utworzyły Cesarstwo Niemieckie.
Kto wie, jak potoczyłaby się historia Polski, gdyby nie decyzja Konrada Mazowieckiego z początku wieku XIII.