1868年末，他以横山秀麿之名出生，正值日本在明治政府推动下迅速现代化。时代的社会动荡与新制度，后来促使他更坚定地维护日本艺术传统。

少年时期他迁往东京，明治时期的新式学校与展览正在重塑“现代艺术”的定义。他在接受传统绘画训练的同时，也不断接触城市中关于西化与身份认同的激烈讨论。

他进入东京美术学校学习，这所精英学府旨在推动日本艺术教育的现代化。在此他师从桥本雅邦，并接触到冈仓觉三所倡导的改革理念。

完成学业后，他被东京美术学校留任为教师，显示出早期即获得的才华认可。身处学院体系使他站在有关守护大和绘与狩野派传统的国家性争论中心。

他与主张振兴日本绘画、使其可与欧洲学院传统比肩的冈仓觉三紧密合作。与菱田春草等青年画家的交往，逐渐形成了后来定义日本画运动的重要群体。

他尝试以柔化轮廓与氛围式塑形进行表现，被批评者称为朦胧画法。这一方法挑战了以线描为正统的观念，在东京引发激烈争论，但也为日本画打开了新的表达可能。

在政治与行政纷争中，冈仓觉三被迫离开，横山大观与同阵营艺术家也随之遭到解聘。这次决裂迫使他开辟独立道路，并使他对以民族主义视角重塑日本绘画的信念更为坚定。

他与冈仓觉三及菱田春草等画家共同创建日本美术院，作为官办体系之外的替代平台。美术院在传统之内鼓励大胆实验，成为日本画改革的重要据点。

日本美术院定期举办的展览为他提供了全国性的舞台与赞助网络。他的山水与人物作品展示了如何以新的明暗与色彩和声实现现代化，同时不背离日本画的精神。

二十世纪初他出国旅行，接触欧洲博物馆与国际艺术市场，正值日本扩展外交影响力之时。这段经历强化了他的判断：日本画要走向世界，既需要技法革新，也需要自信而清晰的国家叙事。

文部省启动文展以规范并推广现代艺术，将艺术家纳入官方文化政策。横山大观在这一舞台中周旋，同时保持与日本美术院的联系，并对大众对现代日本绘画的审美取向产生影响。

他在亚洲旅行之际，日本知识界正讨论与区域文化的亲缘与领导角色。亲见历史遗迹与佛教图像后，他更倾向于创作宏大而沉思的作品，将山水与文明记忆联系起来。

菱田春草的早逝使日本画改革运动失去重要伙伴，也成为他情感上的转折点。此后他承继两人的实验遗产，更加强调纪念碑式的山水与孤寂、冥想般的气质。

随着冈仓觉三圈层的变化与前辈相继离去，他在日本美术院的影响力愈发突出。他协助主导展览、指导年轻画家，并将可辨识的现代日本画风格推广到更广泛的公众之中。

九一八事变后日本民族主义强化，文化界人士面临支持国家意识形态的压力。他创作多件地位显赫的绘画与面向公众的项目，被称颂为体现日本精神与使命。

随着全面战争爆发，展览与委托创作日益服务于宣传与士气动员。他的声望使其作品成为象征性的文化资产，其山水与坚韧主题被阐释为鼓舞国民的象征。

日本投降后，战前与民族主义关联较深的艺术家在盟军占领下受到审视。他仍持续创作，其声誉逐渐从战时象征转向技法造诣与历史地位的评价。

他于1958年去世，数十年来始终是日本现代绘画体制与日本美术院的核心人物之一。他的遗产通过博物馆收藏、门生与“传统与现代并行”的日本画理念延续至今。