山田耕筰,原名山田耕作,1886年6月9日出生于东京一个传道士家庭。其父山田谦造是一名医生、牧师和传道士。母亲的情况不详。姐姐恒子是一名基督教徒和社会运动家,1890年嫁给英国教师George Edward Luckman Gauntlett后改名ガントレット恒子。1904年,山田耕筰开始在东京音乐学校接受音乐教育,师从德国作曲家奥古斯特·尤尔克和海因里希·韦克迈斯特,1908年毕业。1910年3月,得到三菱财阀岩崎小弥太的资助,前往德国普鲁士艺术学院学习作曲,师从马克斯·布鲁赫、卡尔·利奥波德·沃尔夫和钢琴师卡尔·奥古斯特·海曼-莱因克。1912年创作了日本第一首交响曲『かちどきと平和』(凯旋与和平)。