Sangen ble skrevet for vaktmesteren på Northern California Broken Arrow Ranch, som Young kjøpte for $ 350 000 dollar i 1970. Sangen sammenligner en ung manns liv med en gammel mannen og viser at den unge mannen til en viss grad har de samme behovene som den gamle. James Taylor spilte seksstrenget banjo (innstilt som en gitar) og sang på sangen, og Linda Ronstadt bidro også med vokal.
I filmen Heart of Gold introduserer Young sangen som følger:
Om den tiden da jeg skrev («Heart of Gold»), og jeg var på turné, hadde jeg også – bare du vet, vært en rik hippie for første gang — jeg hadde kjøpt en ranch, og jeg bor der fortsatt i dag. Og det bodde et par som var vaktmesterne, en gammel herre som heter Louis Avila og hans kone Clara. Og det var denne gamle blå jeepen der, og Louis tok meg med på en tur i denne blå jeepen. Han får meg der oppe på toppen av stedet, og der er denne innsjøen der oppe som beiter alle beitemarkene, og han sier, «Vel, fortell meg, hvordan har en ung mann som deg nok penger til å kjøpe en sted som dette? «Og jeg sa:» Vel, bare heldig, Louis, bare skikkelig heldig. «Og han sa,» Vel, det er den kjedeligste tingen jeg noen gang har hørt. » Og jeg skrev denne sangen for ham.
Han forteller en lignende historie da han introduserte sangen på en forestilling 23. februar 1971 sendt av BBC (der han sier at han kjøpte ranchen fra «to advokater»).