温伯格1917年8月18日生于加利福尼亚州旧金山，其父是一名律师。受家庭影响，温伯格从小就对从政感兴趣，而且酷爱文学。 1938年，温伯格以优等生资格毕业于哈佛学院，获文学学士学位。3年后，温伯格毕业于哈佛法学院，并且是“美国大学优等生荣誉学会”会员。
哈佛法学院毕业后，温伯格投身军旅，成为步兵团二等兵。1942年他在一艘横渡太平洋的军舰上认识了后来的妻子。“我爱下象棋，而简是当时惟一会下象棋的护士”。后来他在澳大利亚、新几内亚岛及菲律宾的太平洋战区服役，先在第41步兵师，而后成为道格拉斯·麦克阿瑟将军情报部的成员。1945年8月，随着二战结束，温伯格回到美国，退役时军衔是上尉。
回国后的两年间，温伯格担任了上诉法院威廉·奥尔法官的法庭书记员。1947年，他加盟旧金山的一家律师事务所，并在1959年至1969年间成为该事务所的合伙人。1952年11月，温伯格被选入加州立法委员会。1956年，在加州报业通讯记者的一项民意调查中，温伯格被评为最具成效的立法委员。同时，温伯格于1959年至1968年间还为一些加州报纸的专栏撰稿，主持公共事务电视节目，同时还是旧金山某杂志社的正式书评人。 在加州期间，温伯格开始结识日后成为美国总统的里根，并逐渐成为其主要智囊之一。1967年，温伯格被任命为加州政府组织与经济委员会（即“小胡佛委员会”）主席，开始了仕途生涯。
1968年3月，温伯格被时任加州州长的里根任命为加州财政部长。1970年7月，理查德·尼克松总统任命他为行政管理和预算局副局长，并于1972年6月升任该局局长。预算局工作期间，温伯格大刀阔斧地削减政府财政预算，赢得了“大刀卡普”的绰号。
1973年2月，尼克松总统任命温伯格担任卫生、教育与福利部部长。福特总统任内，温伯格继续执掌该部，直至1975年辞职进入企业工作。出任里根时代国防部长前，温伯格先后担任纽约百事可乐公司董事、芝加哥桂格麦片公司董事等职。此外，他还担任贝克特尔集团公司副总裁、董事兼总法律顾问。 1980年11月，在温伯格等幕僚的帮助下，里根竞选总统获胜，这为温伯格走到政坛前台提供了机遇。一个月后，罗纳德·威尔逊·里根提名温伯格出任国防部长。表面上看，温伯格明显缺乏国防和军事战略事务的经验，因此，这一任命引来不少怀疑目光。
虽然只在军队呆过4年，但这丝毫不影响温伯格成为一名立场强硬的国防部长。他骨子里仇视苏联，主张以强硬姿态对抗苏联，反对美苏缓和。温伯格是里根“星球大战”计划的坚定支持者。在任期内，温伯格推行了大规模军事扩张计划，大规模发展包括隐形轰炸机和导弹在内的战略武装力量以对抗苏联，使美国军费在和平时期实现了最大幅度增长。他在任期间，美国军事预算增长到每年3000亿美元之巨。这一时期的军费开支超过越南战争阶段。以和平时期从事如此大规模的军备扩张在美国历史上前所未见。一直到2001年“911事件”之后，这一纪录才被打破。
在温伯格任上，里根政府启动了著名的“星球大战”计划。这一计划的正式名称为太空反弹道导弹系统——小布什政府本世纪重启的国家导弹防御系统算得上“星球大战”计划的一个具体而微的新版本。 20世纪90年代被民主党克林顿政府放弃之时“星球大战”计划耗费了数以百亿美元计的军费开支。却没有创造出任何具可用性的武器系统。但以“星球大战”为代表的军备竞赛策略，却成功地拖垮了冷战大敌苏联。一般认为资源无法支持巨额的军事开支是苏联不得不改弦更张、但经济仍不免于崩溃的主要原因之一。
自始至终，温伯格是美方军备扩张政策的象征。他对苏联威胁的警惕，使他成为1987年里根与戈尔巴乔夫达成的美苏裁军协议的最大反对派。在接受《纽约时报》采访时，他抱怨道?“戈尔巴乔夫是不像赫鲁晓夫那样脱鞋敲桌子，可他也有爪子。” 因此，温伯格获得了“冷战武士”的称号。
温伯格是意志坚强、争论中决不后退的人；他崇尚武力，认为武力的作用远比外交重要。因此，这种性格和立场，也导致国防部与国务院长期失和。 里根时代先后担任国务卿的亚历山大·黑格、乔治·普拉特·舒尔茨主张对苏缓和，实施温和主义的外交，但这遭到温伯格的反对。在温伯格的极力唆使下，1983年10月25日，美军入侵格林纳达。这是自从越南战争以来美国最大的一次军事行动，成为超级大国美国恃强凌弱的典型事件之一。此外，在温伯格入主五角大楼期间，美国国防部定期进行战争模拟演习，以便更好地判断美国面临的威胁和美军存在的缺陷。
1987年11月，温伯格宣布辞去国防部长职务，在职7年之久。在美国历史上，其在位时间仅次于越战时期的国防部长罗伯特·麦克纳马拉。直到在任的最后一刻，温伯格还不失时机地敦促里根加强美军军备，并指责以往多届美国政府使美军军力废弛。温伯格声称：“军备强则美国强”。 在里根举行的辞职仪式上，里根赞许温伯格是美国历史上最优秀的国防部长。温伯格辞职背后，与他的失势以及卷入伊朗门事件有关。美国媒体称，卷入“伊朗门”事件是温伯格的重大污点。 温伯格最初反对向伊朗出售武器，但对于里根政府的忠诚使他默认了这套秘密安排。
“伊朗门”是上世纪80年代中期里根政府向伊朗秘密出售武器的政治丑闻。里根政府希望以出售武器，达到“一石三鸟”：一换回美方人质，二将军售之款资助尼加拉瓜反政府军，三为提升伊朗对抗伊拉克的军力，好让两伊战争继续打下去。丑闻被揭露后，身为国防部长的温伯格难逃其咎。这在两个意义上是非法之举——第一，不得与恐怖分子谈判。第二，不得绕过国会资助中美洲反政府武装。温伯格最初反对向伊朗出售武器，但对于里根政府的忠诚使他默认了这套秘密安排。
由于“伊朗门”遭受挫折，里根政府的权力结构发生变化，“鸽派”开始占据上风。里根本人开始听从舒尔茨的建议，推行美苏缓和。在这种形势下，温伯格1987年萌生退意。出于国家利益考虑，国会没有弹劾里根。但温伯格因涉嫌向国会撒谎、隐瞒数千页手写文件的罪名，而接受过审讯。1992年，老布什卸任前，宣布给予温伯格赦免。据称，温伯格是和老布什走得最近的几个智囊之一。 提到温伯格，不能不提起一个人，他就是黑人国务卿科林·卢瑟·鲍威尔。温伯格的提携，在鲍威尔的仕途中起过重要作用。上世纪70年代，由于对管理有特殊兴趣，鲍威尔报考了白宫行政管理和预算局。当时任局长的正是温伯格，他很欣赏鲍威尔的才能。
温伯格担任国防部长后，鲍威尔成为他的高级军事助理。温伯格在其回忆录《在五角大楼关键的7年》中，对鲍威尔的评价很高。他说：“鲍威尔是我工作多年来所遇到的最优秀军官之一。” 国防部长的信任和扶持，使鲍威尔的仕途一片平坦。他曾是“伊朗门”中的主要人物，早期给伊朗运送的导弹都是他经手操办的。但事件败露后，温伯格将鲍威尔调往驻德国的第5军任军长，并晋升为中将，使他远离风暴的中心，得以在军界继续平步青云。
虽然温伯格离开了国防部，但他的军事战略思想在很长时间内主宰了五角大楼，直到“9·11”事件发生之前。扩军备战的初期，温伯格希望确定部署军队的原则，以避免重蹈越南战争的覆辙。不久后，做过律师的温伯格，用他严谨的头脑制定了适用于美军任何军事行动的六个原则。
这六个原则是：军事行动必须关系美国或美国的盟友至关重要的利益；一旦动用军队，就使用所有必要的资源保证取胜；军事行动必须有明确的政治目标；一旦政治目标不再存在，就应调整军事计划；动用武力必须获得美国公众和国会的支持；武力是解决问题的最后手段。由于后来鲍威尔对其进行了修正，美军的这套作战思想被称为“温伯格－鲍威尔原则”，也称“压倒优势原则”。
自1993年5月以来，温伯格一直担任福布斯公司董事会主席。此前，他还担任该杂志发行人。虽然从国防部卸任，但温伯格没有停止对国际事务的关注。1996年，温伯格与人联手推出了《下一场战争》，全面模拟未来二十年内全球最有可能爆发的五场战争。在温伯格模拟的第二次太平洋战争中，读者可以看到2007年日本是如何发动下一场战争，如何袭击中国，如何攻打东南亚和美国，又是如何被中、美等国联军打败的。
