Владел корейским и английским языками. Имел дипломатический ранг Чрезвычайного и Полномочного Посла, присвоенный в марте 2011 года.
В системе МИД с 1976 года. Обладал большим опытом работы в центральном аппарате МИД СССР\России и за рубежом:
- 2001-2007 — посол Российской Федерации в КНДР
- 2007-2009 — заместитель директора Консульского департамента МИД РФ
- с 2009 года — директор Консульского департамента МИД РФ, член коллегии МИД.
Указом президента Российской Федерации от 12 июля 2013 года назначен послом РФ в Турции.
19 декабря 2016 года на Андрея Карлова было совершено вооруженное нападение в Анкаре. От полученных ран посол скончался.
Остались жена и сын.