日本現存最古老的和歌集《萬葉集》中，收錄了丹波大女娘子的詩句：“味酒呼 三輪之祝我 忌杉 手觸之罪歟 君二遇難寸。”（想見而見不到你，難道是因為我用手碰觸了三輪神官所尊崇的神聖杉木？）

很久以前，日本最古老的神社——大和國一宮大神神社負責釀造大和國用於祭祀的神酒。自古以來，它就是廣為人知的祭祀酒神的神社，由於是向神明供奉的酒，因此被稱為“神酒”。神社的後面聳立的三輪山，整座山都是神社的神體。而且，三輪山的杉木被當做神木，所以將大物主大神的神力棲息的杉葉紮起來懸掛在酒館的房檐上的習俗被當成是杉玉的起源。像鼓一樣被紮起來的杉葉據說一開始被稱為“酒箒”和“酒旗”，到了江戶中期則被稱為“酒林”，掛於房檐當作酒館的招牌。隨著時間流逝，到江戶後期就形成了傳承至現在的球狀“杉玉”。過去的人們認為杉葉可以防止酒的腐敗，因此也曾流傳過懸掛杉葉當護符的說法。

如今，日本清酒釀造廠房檐上懸掛的杉玉仍然承擔著宣告開始壓榨新酒的作用，成為一道獨特的風景線。開始製作新酒時懸掛的杉玉呈現著青綠色，後來隨著時間流逝而乾枯，呈現略帶茶色的樸素質感。這種顏色的變化向人們傳達著新酒的熟成程度。本公司也會在每年開始製作新酒時掛上新的杉玉，表示對於釀成新酒的滿懷感謝。當今的杉玉容易被誤認為是酒館的招牌，但其實它包含著向酒神表示感謝的意義和祈禱釀酒安全、生意興隆，子孫滿堂等的寓意。