Анатолий Сердюков родился 8 января 1962 года в поселке Холмский Абинского района Краснодарского края.

В 1984 году окончил Ленинградский институт советской торговли, в 2001 году - Санкт-Петербургский государственный университет. По специальности - экономист, юрист. До 1991 года работал на предприятии "Ленмебельторг".

С 1991 по 1993 год - заместитель директора по коммерческой работе Ленмебельторга. В 1993 году - заместитель директора АО "Мебель-Маркет", с 1993 по 1995 год - директор по маркетингу АО "Мебель-Маркет", с 1995 по 2000 год - генеральный директор АО "Мебель-Маркет" (Санкт-Петербург).

С октября 2000 года - заместитель руководителя Межрайонной инспекции Министерства РФ по налогам и сборам (МНС РФ) по работе с крупнейшими налогоплательщиками Санкт-Петербурга.

С 2000 по 2001 год - заместитель руководителя Инспекции Министерства Российской Федерации по налогам и сборам по работе с крупнейшими налогоплательщиками по Санкт-Петербургу.

С ноября 2003 года - член Правительства Санкт-Петербурга. С середины февраля 2004 года - руководитель Управления МНС РФ по Москве.

С начала марта по вторую половину июля 2004 года - заместитель министра РФ по налогам и сборам - и.о. министра РФ по налогам и сборам.

С 27 июля 2004 года - руководитель Финансовой налоговой службы Министерства финансов РФ.

15 февраля 2007 года Указом Президента России назначен министром обороны РФ.

РИА "Новости", 15.02.2006