Учился в Винницком политехническом институте, а в 1985 году закончил с отличием юридический факультет Ленинградского Государственного Университета.
По окончании работал в Ленинградской прокуратуре.
1989 — начальник юридического отдела концерна "Монолит-Кировстрой", юрисконсульт Ассоциации морских торговых портов.
1990—1991 — заместитель начальника юридического управления Ленгорисполкома, затем начальник юридического управления горсовета.
Сентябрь 1994 года — председатель юридического комитета мэрии Санкт-Петербурга, член правительства Санкт-Петербурга
1996 — после поражения Анатолия Собчака на выборах главы города сохранил свой пост и в 1998 году стал вице-губернатором.
Декабрь 1998 — уволился из-за разногласий с губернатором Владимиром Яковлевым.
Январь—август 1999 года — работал в юридической фирме "Группа ЮСТ".
Август 1999 — Первый заместитель руководителя аппарата Правительства Российской Федерации и и.о. руководителя аппарата Правительства Российской Федерации.
1999—2000 — руководитель аппарата Правительства Российской Федерации — Министр Российской федерации.
Июнь 2000 — заместитель Руководителя Администрации Президента Российской Федерации.
Октябрь 2003 — первый заместитель руководителя администрации Президента Российской федерации.
9 марта 2004 — руководитель аппарата Правительства Российской Федерации — Министр Российской федерации.
13 сентября 2004 — 24 сентября 2007 — полномочный представитель Президента Российской Федерации в Южном федеральном округе, глава "особой федеральной комиссии по Северному Кавказу".
24 сентября 2007 года назначен Министром регионального развития Российской Федерации. С 7 по 12 мая 2008 г. — и.о. министра.
С ноября 2007 года — председатель наблюдательного совета Государственной корпорации по строительству олимпийских объектов и развитию города Сочи как горноклиматического курорта
С 12 мая 2008 г. — Министр регионального развития в правительстве В. В. Путина.
С 14 октября 2008 г. — Заместитель Председателя Правительства Российской Федерации, ответственный за проведение зимней Олимпиады 2014 г. в г. Сочи.
Дмитрий Козак считается одной из ключевых фигур в команде президента Путина. В 2004 он возглавлял предвыборный штаб Владимира Путина. Ему же были поручены приведение в соответствие регионального и федерального законодательства, передел полномочий между центром и регионами, реформа местного самоуправления, административная реформа.
В то же время Дмитрий Козак не довел до результативного конца ни одну из начатых им реформ. Владимир Путин всегда выводил его из под удара, назначая на новую должность.
В ноябре 2003 он попытался проявить себя и на внешнеполитической ниве. Предложенный им план урегулирования конфликта и полного воссоединения между Молдавией и Приднестровьем был принят как правительством Приднестровья, так и Президентом Молдовы Ворониным, но под давлением НАТО, Воронин позднее отказался от плана, и он потерпел сокрушительный провал.
На новой должности в Южном федеральном округе Козак становится проводником фактически введённого в округе прямого президентского правления. Его основная задача — резкое изменение социально-экономической обстановки в регионе и прежде всего повышение уровня занятости и материального благосостояния местного населения с целью ликвидации подпитки базы для терроризма.
Козак предлагался многими в качестве преемника Путина, но не был выбран Путиным, предположительно потому, что не получил поддержки от борющихся кланов в окружении Президента.