Захаров родился в 1950 году в Николаевской области. Окончил Ленинградское музыкальное училище имени Римского-Корсакова, с 1973 года работал в Ленинградском мюзик-холле.
Популярность Захарову принесли съемки в фильме "Небесные ласточки", в котором он сыграл вместе с Людмилой Гурченко и Андреем Мироновым. Он также известен как исполнитель таких песен, как "Три белых коня", "Татьянин день", "Отцвели хризантемы", "Московские окна", "Очи черные" и другим.