日本现存最古老的和歌集《万叶集》中，收录了丹波大女娘子的诗句：“味酒呼 三輪之祝我 忌杉 手觸之罪歟 君二遇難寸。”（想见而见不到你，难道是因为我用手碰触了三轮神官所尊崇的神圣杉木？）

很久以前，日本最古老的神社——大和国一宫大神神社负责酿造大和朝廷用于祭祀的神酒。自古以来，它就是广为人知的祭祀酒神的神社，由于是向神明供奉的酒，因此被称为“神酒”。神社的后面耸立的三轮山，整座山都是神社的神体。而且，三轮山的杉木被当做神木，所以将大物主大神的神力栖息的杉叶扎起来悬挂在酒馆的房檐上的风俗被当成是杉玉的起源。像鼓一样被扎起来的杉叶据传一开始被称为“酒箒”和“酒旗”，到了江户中期则被称为“酒林”，挂于房檐当作酒馆的招牌。随着时间流逝，到江户后期就形成了传承至现在的球状“杉玉”。过去的人们认为杉叶可以防止酒的腐败，因此也曾流传过悬挂杉叶当护符的说法。

如今，日本清酒酿造厂房檐上悬挂的杉玉仍然承担着宣告开始压榨新酒的作用，成为一道独特的风景线。开始压榨新酒时悬挂的杉玉呈现着青绿娇嫩的颜色，后来随着时间流逝而干枯，呈现略带茶色的朴素质感。这种颜色的变化向人们传达着新酒的熟成程度。本公司也会在每年开始压榨新酒的时候挂上新的杉玉，表示对于酿成新酒的满怀感谢。当今的杉玉容易被误认为是酒馆的招牌，但其实它包含着向酒神表示感谢的意义和祈祷酿酒安全、生意兴隆，子孙满堂等的寓意。