吴清源，原名吴泉，出生于福建省闽侯县一个盐商家庭，后随父母迁居北京。他的父亲吴毅是庶出，留学日本学习法政，非常热爱围棋，常常出入方圆社。母亲张舒文是清末翰林、民国奉天省长张元奇的长女。
在父亲的熏陶下，吴清源从小就对围棋产生了浓厚的兴趣，并且展现出了惊人的天赋。他过目不忘的能力让他在棋谱方面有着出色的表现。由于身体原因，他不能进行激烈的体育运动，围棋成为了他主要的消遣方式。他认真学习父亲带回来的日本棋书，同时也吸收了中国古棋的独特精华。他在与当时一流棋手汪云峰、顾水如、刘棣怀的对弈中不断提高自己的水平，被誉为“围棋神童”。
为了养活家人，吴清源开始在福建同乡的带领下到日本人的俱乐部下棋。一天，他和一个日本初段下了一盘棋，经过数小时的苦战后获胜。这引起了在北京经营美术商品的日本人山崎有民的注意。山崎有民将“北京有个围棋天才少年”的消息告诉了日本棋院的重要人物濑越宪作。濑越宪作对吴清源的才华产生了极大的兴趣，并开始关注他的发展。
东渡日本
1928年，桥本宇太郎四段受濑越宪作之托，专程来到中国，安排与吴清源的棋艺考试以及他赴日留学的事宜。在与吴清源进行的两场考试棋中，桥本宇太郎都未能取胜。1929年，吴清源远赴日本留学，受到了日本棋院总裁大仓喜七郎的热情迎接。在日期间，大仓喜七郎承诺每月提供给吴清源200日元的经济援助，为期两年。两年后，吴清源能否在日本立足，能否获得日本棋院的认可，将取决于他的棋艺是否能够持续精进。
为了评估吴清源的棋艺水平，日本棋院组织了一个审查会。审查会由本因坊秀哉九段、岩佐銈七段、濑越宪作七段、铃木为次郎七段、加藤信六段、岩本薰六段和小野田千代太郎六段等七人组成。审查会选出蓧原正美四段、村岛义胜四段、前田陈尔四段、桥本宇太郎四段、小野田千代太郎六段、木谷实四段和本因坊秀哉九段等七人分别与吴清源对局。在对局中，吴清源先后战胜了蓧原正美、本因坊秀哉和村岛义胜三人。根据这个成绩，审查会决定授予吴清源三段的头衔。
获得三段头衔后，吴清源并未停下对局的步伐，他继续与剩余的四人对局。除了输给木谷实一局外，他战胜了其他所有对手。1929年，吴清源在《时事新报》主办的擂台赛中与木谷实相遇，这场对局被誉为“模仿棋”的经典之战。1930年，吴清源晋升为四段，并正式成为日本棋院的棋士，开始参加一年两次的大手合（段位赛）。1931年，他在一项由东京时事新闻社发起的棋赛中展现出惊人的实力，连续击败了十八名对手。这次比赛的胜利使他的名字在日本棋界迅速崭露头角。为了庆祝这一壮举，东京时事新闻社连续刊登了他的对局情况约半年多时间。1932年春季比赛中，他再次获得全胜，勇夺桂冠；同年秋季比赛中，他仅在与小岛春一的对局中失利一局，总体成绩与木谷实并列第一。