Kyrkogården besöks av många människor. Att kyrkogården får vara något av en oas är därför viktigt. Grums kyrkogård är mycket gammal. Man vet inte med säkerhet när den grundlades, det finns uppgifter från 1714 och det äldsta bevarade protokollet är från 1754.

Den äldsta delen av kyrkogården finns närmast söder om kyrkan. Kyrkogården är indelad i kvarter. Kvarter ett och två inramas av lövträd bland annat ek, lönn och lind.  En del gravar är inhängande med ramläggningar, smides- eller gjutjärnsräcken. Gravvårdarnas utformning är mycket varierande på denna del av kyrkogården. En av de äldsta gravplatserna är den Löwenhielmska familjegraven som ligger nära kyrktornet. Till vänster om trappan rakt fram från kyrkporten är två av församlingens kyrkoherdar begravda, Gustaf Sillén död 1940 och Jakob Stake död år 1971. Häckar som ramar in gravplatser finns på vissa delar av den gamla kyrkogården. Övriga delar utgörs av sammanhängande gräsytor med indelning av spirea och rosenhäckar.
Nya kyrkogården, som invigdes 1986, har som inramning lövträd så som oxel, rönn och björk. Större ytor med olika slags prydnadsbuskar och träd ger den nya delen sin karaktär.