Отец, Василий Капитонович Коржаков (1920—1986), участник советско-финской и Великой Отечественной войн, награждён медалью «За отвагу», после войны работал в Москве на Трёхгорной мануфактуре сначала рабочим, а потом мастером цеха.
Мать, Екатерина Никитична Коржакова (07.12.1922 — 05.02.2018), ткачиха «Трёхгорки», происходила из старинного гуслицкого села Молоково, где впоследствии сам А. В. Коржаков построил свой загородный дом.
Александр Коржаков учился в московской школе на Красной Пресне, увлекался спортом.
После школы в 1967—1968 годах работал слесарем механосборочных работ второго разряда на Московском электромеханическом заводе памяти Революции 1905 года. Заочно учился в Московском энергетическом институте, но, не окончив его, был призван на срочную службу в Советскую Армию.
Службу в Советской Армии проходил в 1969—1970 годах в Кремлёвском полку.
С 1970 по 1989 год работал в Девятом управлении КГБ СССР, занимавшемся охраной высших партийных и государственных деятелей. По собственным утверждениям, был неоднократным чемпионом КГБ по стрельбе.
В 1971 году вступил в КПСС. Был членом партбюро подразделения и членом комитета комсомола Девятого управления КГБ.
В 1980 году окончил Всесоюзный юридический заочный институт.
В 1981—1982 годах служил в Афганистане.
В 1985 году стал одним из трёх телохранителей первого секретаря Московского городского комитета КПСС Бориса Ельцина. Поддерживал дружеские отношения с Ельциным и после его отставки, последовавшей в результате решений октябрьского 1987 года пленума ЦК КПСС.
В 1989 году был уволен из рядов КГБ на пенсию «по возрасту и состоянию здоровья» (на самом деле — за поддержку Б. Ельцина, а плохое состояние здоровья он симулировал ради добавки к пенсии). В том же году подал заявление о выходе из КПСС, и был исключён «за неуплату членских взносов».