Die dem heiligen Jakobus geweihte Pfarrkirche wurde erstmals 1313 als Vikariatskirche erwähnt. Gegründet wurde sie von Hartberg aus und hatte schon zu damaliger Zeit einen ständigen Pfarrseelsorger.
Unter Pfarrer Adam Melchior Ettinger (von 1689 bis 1738 Pfarrer von Kaindorf) wurde die gotisch erbaute Kirche von Baumeister Remigius Horner erweitert und vergrößert. Während des Kirchenbaus fanden Arbeiter, als sie das alte Kirchenpflaster anhoben, einen bedeutenden Schatz. Die Gold- und Silbermünzen waren wahrscheinlich vom damaligen Pfarrer vergraben worden, als die Türken 1532 durch Kaindorf zogen und den Ort niederbrannten.
Ab Herbst 1717 konnte die neue Kirche für die Abhaltung von Gottesdiensten verwendet werden.
Auch in den nächsten Jahrzehnten gab es zahlreiche Baumaßnahmen. Im 19. Jahrhundert machten mehrere Blitzschläge die Erneuerung des Turmdaches notwendig.
Mit der Gesamtrestaurierung wurde 1882 begonnen, die am 25. Juni 1887 mit der Kirch- und Altarweihe durch den Bischof von Seckau beendet werden konnte.
Der umfangreichen Außenrenovierung 1947 folgte 1964 eine durchgreifende Innenrenovierung. Die letzte Außenrenovierung fand im Jahre 1998 statt, innen erfolgte 2008 der Einbau einer neuen Heizung, eine Ausmalung und Reinigung. Die neue Kirchenorgel wurde 2013 eingeweiht.
