Mit der Erbauung der Burg ist auch der Ort Hohenstaufen entstanden, in dem vor allem Handwerker und Bauern lebten, die die Herrschaft zu versorgen hatten. Vermutlich gab es zu dieser Zeit auch schon eine Kapelle an der Stelle, wo sich die heutige Kirche erhebt. Die evangelische Kirche stand allerdings bis zur Mitte des 19. Jahrhunderts unter dem Patrozinium St. Jakobs, erst im Schwunge der Nationalbewegung erhielt sie den illustren Namen Barbarossakirche.

Der ursprüngliche Sakralbau wurde Ende des 15. Jahrhunderts errichtet. Im Zuge der deutschen Nationalbewegung gründete der Hohenstaufener Pfarrer Eduard Keller 1833 den Hohenstaufenverein, der die Kirche ab 1859 zu einem nationalen Geschichtsdenkmal umgestaltete. 

Dabei wurde die Westfassade mit den Wappen der staufischen Herrschaftsgebiete, Ministerialengeschlechter und sieben Kurfürsten versehen. Die Kirche erhielt nach dem Stauferkaiser Friedrich I. Barbarossa ihren neuen Namen.