自1957年首届中国出口商品交易会（广交会）在广州举办以来，来穗外商激增，而在广州宾馆落成以前，广州的涉外宾馆酒店无法满足一年两届的“广交会”大规模的接待需求。
1966年，在周恩来总理的关怀下，国务院向广州划拨600万元专款，以解决涉外接待难题。1966年9月，“广州外宾旅馆筹建处”正式成立。由于“政治”的原因，广州宾馆在建设中曾一度停工，因为该项目是陶铸全力支持的，反对派认为“黑路线”的产物应该中止，后来在周恩来总理的指示下，项目得以继续实施。1968年，广州宾馆建成，总楼27层，高86.51米，建筑面积3.6万平方米。
广州宾馆是国内第一座由中国人自行设计、自行建造的宾馆。作为1968年～1976年间国内的最高建筑，广州宾馆曾被誉为“中华第一楼”，老广亲切地称之为“27层”。
1968年4月16日，《人民日报》第三版发表的题为《1968年春季我国出口商品交易会在广州隆重开幕》一文中写道：“交易会大厦临近新落成接待来宾的一座27层大厦——广州宾馆，今天也装饰一新，宽阔的新墙上，写着巨幅标语“大海航行靠舵手，干革命靠毛*东泽**思想”。这是广州宾馆第一次披红挂绿，气氛热烈而隆重，敞开热情、友好的胸怀，微笑、有礼地迎来了首批客人。
很长一段时间，广州宾馆都是广州的地标。无论在市中心的哪个角落，都能看到27层如火柴盒般的身影。
如今的广州宾馆，真的有点旧了。现在许多年轻一代的广州人都不把她当作高级宾馆了，这也是大多数老字号面临的致命问题，设施陈旧，相关先进配套难以在旧时设计的格局上加入。
但老字号有老字号的威望，什么时候去“广宾”，都会看见门口聚集着一批批港澳台侨胞，这里曾经是他们在广州最豪华、最熟悉的住地，出于情感、出于习惯，他们和他们的子女都很自然地走回到这里。