1920年代，三得利创始人鸟井信治郎计划要在日本建造一家本土的威士忌蒸馏厂，尽管当时的日本国人都对此表示怀疑，但他的想法并不是凭空而来的。鸟井信治郎拥有丰富的商业经验，进口包括葡萄酒在内的西方洋酒，自己的商店“寿屋”在1907年推出的赤玉波尔图葡萄酒主打民族品牌，也大受欢迎。受到葡萄酒成功经验的鼓舞，他开始将眼光转到在日本生产威士忌上。
当然，山崎蒸馏所的建立除了鸟井信治郎的坚持外，也免不了提起另一个人——竹鹤政孝。1918年，出生于酿酒世家的竹鹤政孝受摄津酒造社长阿部喜兵卫与常务岩井喜一郎之命，至英国苏格兰格拉斯哥大学就读有机化学与应用化学系。三年间，竹鹤政孝积极拜访蒸馏厂，以学习钻研威士忌蒸馏酿酒技术。归国后，竹鹤政孝便与鸟井信治郎一同合作，着手建造日本第一家威士忌蒸馏厂。
1923年底，山崎蒸馏厂正式在大阪和京都之间的天王山下开始建造。关于酒厂选址，两人也产生过分歧。受到苏格兰酒厂的影响，鸟井信治郎和竹鹤政孝清楚明白盖蒸馏厂的关键在于自然环境和优质的水源，于是两人便共同开始在日本境内寻觅酒厂最为理想的位置。
位于大阪和京都之间的山崎满足了鸟井的全部要求，拥有缓和蜿蜒的山丘和潮湿的气候，桂川、宇治川和木津川在此交汇，提供了优质甘美的水源。
山崎是三得利开设的首家威士忌蒸馏厂，建于1924年，以制作单一麦芽威士忌为主。山崎标志中的“奇”与“寿”相似，暗含三得利的前身“寿屋”代代相传的理念。1984年，在建厂60周年时，酒厂第一支单一麦芽威士忌山崎12年诞生。
山崎的一大特点是使用各式各样的蒸馏器，日本的酒厂之间通常不会像苏格兰一样通过交换原酒来塑造想要的风格，因此需要通过不同造型的蒸馏器来制作出更多元风格的原酒。通过不同原酒的选择，山崎成功做到令不同年份酒款拥有鲜明的风格，比如12年带有成熟的果味和淡淡香料气息，18年更偏饱满圆润，25年则是酒厂最为深邃而复杂的体现。
在橡木桶的使用上，除了波本桶与雪莉桶外，山崎还会使用日本特有的水楢桶（Mizunara），并发布限量水楢版本酒款。另一特色在于它的橡木桶，酒厂的制桶历史可以追溯到建厂初期。1934年，立山源丞受雇于山崎，成为酒厂历史上第一任桶匠。由于当时日本本土并没有制作橡木桶的经验，立山源丞只能通过研究进口的橡木桶，从细节入手，边学习边研发出属于自己的制作技艺与工具。他的后代也跟随着他的脚步，将山崎橡木桶的风格代代传承。
1984年，山崎发布了第一款单一麦芽威士忌——山崎12年单一麦芽威士忌（The Yamazaki Aged 12 Years Single Malt Japanese Whisky），这也是日本第一款单一麦芽威士忌。该酒款在2003年国际烈酒挑战赛（International Spirits Challenge）中斩获了金牌，成为日本第一款在国际烈酒挑战赛中获得金牌的威士忌。
之后，山崎还推出了山崎18年单一麦芽威士忌和山崎25年单一麦芽威士忌等酒款，它们同样在重大国际烈酒赛事中屡获大奖，广受赞誉。其中，山崎18年单一麦芽威士忌包揽了2008年至2010年旧金山国际烈酒大赛的双金奖，而山崎25年单一麦芽威士忌在2012年世界威士忌大奖赛中被评为“世界最佳单一麦芽威士忌"。
山崎蒸馏厂虽然是日本历史最久的蒸馏厂，但它却不让历史与传统成为前进的包袱。要成就出优质的威士忌，很重要的，就是要取得丰富而多样化的原酒。而三得利所拥有100种原酒里，山崎蒸馏厂就保有其中的60种。山崎蒸馏厂持续不断地在制程中做改进与修正，以近乎实验的精神，反复精研酿制多样化、高质量原酒的工序。1987年与1988年时，山崎蒸馏厂曾经停工，为增加2个新的直火蒸馏机，以及8个木桶发酵槽，重拾连苏格兰蒸馏厂都已渐少使用的传统制法。三得利首席调酒师舆水精一表示：直火蒸馏机与木桶发酵槽，温度都是极难控制的，但是为了追求更好的、完熟的原酒，这是我们必须要挑战的。
