1919年9月，黄昆出生于北京，祖籍浙江嘉兴，父亲黄徵是中国银行高级职员，母亲贺延祉也是银行职员。母亲毕业于北京女子师范大学，为人严肃认真，对黄昆少年时期的成长，有过很大影响。黄昆小学就读于北师大附小、上海光华小学，中学在燕大附中、北京通县潞河中学度过。他从小聪明好学，学习成绩优异，高中三年成绩始终是全班第一。
1937年，黄昆考入燕京大学物理系，1941年毕业。在大学期间，他对世界新兴的量子力学痴迷，完成了《海森堡和薛定锷量子力学理论的等价性》论文，获学士学位，毕业后在昆明西南联合大学物理系任助教。
1942年，黄昆考取西南联大理论物理研究生，导师为物理学家吴大猷。
1944年，黄昆完成了《日冕光谱线的激起》的论文，获北京大学硕士学位，毕业后，在昆明天文台任助理研究员。
1945年8月，他在英国布里斯托大学做了莫特的博士研究生，两年中黄昆完成了三篇论文，其中一篇论文后来被称为“黄漫散射”。 同年年10月，黄昆在英国布里斯托尔大学师从著名的理论物理学家、后来荣获诺贝尔奖的莫特（N.F.Mott）教授，把自己的研究方向选定为固体物理学。几个月后，初出茅庐的黄昆就完成了题为《稀固溶体的X光漫散射》论文，大胆提出了关于杂质和缺陷X光的散射理论模型。20年后，德国科学家在实验室中证实了黄昆的理论预言，国际学术界随即称之为X光“黄散射”。
1947年5月，黄昆到英国爱丁堡大学物理系，与当代物理学大师、诺贝尔奖获得者M玻恩（Born）合作，共同撰写《晶格动力学理论》专著。玻恩为该书写的序言中提到“本书之最终形式和撰写应基本上归功于黄昆博士。黄昆与玻恩合著的《晶格动力学理论》一书是国际公认的这一学科领域的权威著作，哺育了世界上几代科学家的成长。
1948年初，黄昆接受英国利物浦大学理论物理系主任佛罗利希（Frohich）的聘请，成为该系博士后研究员。在利物浦大学工作期间，他特别关注固体发光中心、半导体深能级等区域电子态、晶格原子的平衡位移和晶格中电子间相互作用。
1948年，获英国布里斯托尔大学博士学位，获得博士学位后，在英国爱丁堡大学物理系、利物浦大学理论物理系从事研究工作。黄昆在利物浦大学期间，结识了英国女同事A里斯(Rhys)，并建立了诚挚深厚的友谊。
1950年，黄昆与合作者首次提出多声子的辐射和无辐射跃迁的量子理论，即“黄—佩卡尔理论”。
1951年，黄昆回到北京大学任物理系教授，黄昆首次提出晶体中声子与电磁波的耦合振荡模式及有关的基本方程。
1952年4月，里斯来到中国，与黄昆结婚，后也在北京大学物理系工作。在北京大学，黄昆先后任北京大学物理系教授、副主任，半导体教研室主任。他与其他教学人员一起，建立了有中国特色的普通物理教学体系。他们强调立论要严谨、物理图像要清晰、讲授要深入浅出。直到现在，北大理科基础教学还发扬着他们讲课的传统。
1955年，选聘为中国科学院院士。
1956年，黄昆在北京大学物理系任教授期间，参与创建了中国第一个半导体物理专业，为中国信息产业培养了第一批人材。在北京大学任教期间，黄昆还主持本科生教学体系的创建工作，并著有《固体物理学》教材，享有盛誉。
1963年，被拉曼散射实验所证实，被命名为电磁声子，后来发现其他物质振动也有类似的与电磁波的耦合振荡模式，统称为极化激元。极化激元已经成为分析固体某些光学性质的基础，黄昆当时提出的方程，被称为“黄方程”。
1977年，黄昆调任中国科学院半导体研究所所长。他在组织全所科研工作完成国家任务的同时，十分重视全所学术水平的提高。他亲自给研究人员讲课，组织全所学术交流。他还在“晶体中电子非辐射跃迁理论”、“半导体量子阱和超晶格理论”的研究上取得了新成就，发表论文20余篇。在黄昆主持下，半导体研究所成立了中国半导体超晶格国家重点实验室，开创并发展了中国在这一材料科学和固体物理中的崭新领域的研究工作。
1980年，当选为瑞典皇家科学院外籍院士。
1988年，他们发表了后来被国际物理学界称为“黄－朱模型”的理论，多本国外的研究生教材详细介绍了这个理论。
1985年，当选为第三世界科学院院士。中国科学院半导体研究所研究员、名誉所长
2001年，黄昆与其北大校友王选一同获得了该年度国家最高科学技术奖。
2005年7月6日，16时18分，黄昆在北京逝世，享年86岁。
