穆勒出生于瑞士巴塞尔，19岁时进入瑞士联邦理工学院(ETH Zurich)学习物理学，师从著名物理学家沃尔夫冈·泡利。1958年获博士学位后，他先在日内瓦巴特尔研究所工作五年，1963年加入IBM苏黎世研究实验室，在此工作直至1994年退休。穆勒的早期研究集中在钙钛矿型氧化物的电学性质，特别是过渡金属氧化物中的 Jahn-Teller 效应和铁电性，这为他后来发现高温超导奠定了坚实的材料学基础。

在20世纪80年代初，氧化物超导材料的转变温度长期停滞在23K(Nb₃Ge)，多数物理学家认为受电声耦合机制限制，超导临界温度不可能超过30K。穆勒凭借其对氧化物材料的深刻理解，认为某些含铜的钙钛矿结构氧化物可能具有更高的超导转变温度。从1983年开始，他与年轻的德国物理学家贝德诺尔茨合作，系统地测试各种铜氧化物陶瓷样品。经过三年多艰苦的实验，1986年1月他们终于在镧钡铜氧(La₂₋ₓBaₓCuO₄)陶瓷样品中观测到35K的超导转变迹象。

1986年9月，他们在德国《物理学期刊》发表论文，题为《可能的高温超导：Ba-La-Cu-O系统中的迈斯纳效应》，这一发现立即震惊了物理学界。几个星期内，世界各地的实验室纷纷跟进，日本东京大学、中国科学院物理研究所、美国贝尔实验室等相继在铜氧化物体系中发现更高温度的超导电性，钇钡铜氧(YBCO)体系将Tc提升到93K，突破了液氮温区(77K)。高温超导的发现不仅具有重大科学意义，也带来了巨大的应用前景，从核磁共振成像到超导输电、磁悬浮列车都可能因此革新。

1987年，穆勒和贝德诺尔茨共同获得诺贝尔物理学奖，距离他们的论文发表仅一年多时间，这在诺贝尔奖历史上十分罕见，充分体现了这一发现的重大意义。穆勒在获得诺贝尔奖后继续从事高温超导研究，直到20世纪90年代末仍在发表学术论文。他的研究风格注重实验和直觉，善于从材料的微观结构出发寻找新现象。穆勒于2023年1月9日在瑞士苏黎世逝世，享年95岁，他留下的高温超导领域至今仍是凝聚态物理学最活跃的前沿方向之一。