Sangen blev skrevet til vicevært for Northern California Broken Arrow Ranch, som Young købte for $ 350.000 i 1970. Sangen sammenligner en ung mands liv med en gammel manden og viser, at den unge mand til en vis grad har de samme behov som den gamle. James Taylor spillede banjo med seks strenge (tunet som en guitar) og sang på sangen, og Linda Ronstadt bidrog også med vokal.
I filmen Heart of Gold introducerer Young sangen som følger:
Omkring den tid, da jeg skrev (“Heart of Gold”), og jeg turnerede, havde jeg også – bare ved du, at være en rig hippie for første gang – jeg havde købt en ranch, og jeg bor der stadig i dag. Og der boede et par, der var vicevagterne, en gammel herre ved navn Louis Avila og hans kone Clara. Og der var denne gamle blå jeep der, og Louis tog mig med på en tur i denne blå jeep. Han får mig deroppe øverst på stedet, og der er denne sø der oppe, der fodrede alle græsgange, og han siger, “Nå, fortæl mig, hvordan har en ung mand som dig nok penge til at købe en sted som dette? “Og jeg sagde:” Nå, bare heldig, Louis, bare rigtig heldig. “Og han sagde:” Nå, det er den bedøveteste ting, jeg nogensinde har hørt. ” Og jeg skrev denne sang for ham.
Han fortæller en lignende historie, da han introducerede sangen ved en forestilling fra 23. februar 1971 udsendt af BBC (hvor han siger, at han købte ranchen fra “to advokater”).