雾霾的源头多种多样，比如汽车尾气、工业排放、建筑扬尘、垃圾焚烧，甚至火山喷发等等，雾霾天气通常是多种污染源混合作用形成的。但各地区的雾霾天气中，不同污染源的作用程度各有差异。
雾霾天气自古有之，刀耕火种和火山喷发等人类活动或自然现象都可能导致雾霾天气。不过在人类进入化石燃料时代后，雾霾天气才真正威胁到人类的生存环境和身体健康。急剧的工业化和城市化导致能源迅猛消耗、人口高度聚集、生态环境破坏，都为雾霾天气的形成埋下伏笔。
雾霾的形成既有“源头”，也有“帮凶”，这就是不利于污染物扩散的气象条件，一旦污染物在长期处于静态的气象条件下积聚，就容易形成雾霾天气。雾霾形成有三个要素：一是生成颗粒性扬尘的物理基源。我国有世界上最大的黄土高原地区，其土壤质地最易生成颗粒性扬尘微粒。
二是运动差造成扬尘。例如，道路中间花圃和街道马路牙子的泥土下雨或泼水后若有泥浆流到路上，一小时干涸后，被车轮一旋就会造成大量扬尘，即使这些颗粒性物质落回地面，也会因汽车不断驶过，被再次甩到城市上空。
三是扬尘基源和运动差过程集聚在一定空间范围内，颗粒最终与水分子结核集聚成霾。目前来看，在我国黄土平高原地区350多座城市中，雾霾构造三要素存量相当丰裕。