경기도 화성군 송상면 쌍정리에서 태어났다. 1968년 고등학교 졸업 후 컨트리 웨스턴 그룹 '애트킨즈'의 기타리스트로 활동하다가 1969년, 미 8군 무대로 데뷔하였다. 1971년 3인조 락그룹 '김트리오'를 결성하였으며, 1974년 쯤에서야 자신의 이름을 쓴 '조용필과 그림자'라는 그룹을 결성하게 되었다. 1975년 솔로로 전향하여 트로트 음악 "돌아와요 부산항에"라는 곡으로 공전의 히트를 기록했다.

1979년 정규 1집 [창밖의 여자]로 가요계에 공식 데뷔하였으며, 이 음반은 대한민국 최초로 100만장 이상 팔린 단일 음반이 되었다. 조용필은 락과 발라드, 트로트 또는 한국 민요를 리메이크하는 등 대중음악의 거의 모든 장르를 소화해 내며 다양한 연령층의 팬을 확보하였다. 1986년에는 일본에 진출하여 발매한 앨범 [추억의 미아1]이 100만장 이상 판매되는 성과를 거두며 그 해 골든디스트상을 수상하였다. 1988년에 발표한 정규 10집 앨범의 수록곡 "서울 서울 서울", "모나리자"로 큰 성공과 명성을 이어갔다.

1994년에 대한민국 최초로 음반 판매량 1,000만장을 기록하였으며, 일본에서도 역시 공식적으로 600만장을 넘어서 한류의 시초로 평가받는다. 2003년 발표한 18집 [Over The Rainbow]까지 총 18장의 정규 앨범을 발표했으며, 10년 만인 2013년 4월 정규 19집 [Hello]를 발매하였다. 앨범 발매 전 선공개된 "Bounce"라는 곡으로 싸이의 "Gentleman"을 밀어내고 음원 차트 1위 달성을 이루어 내며, 대한민국 가요계의 살아있는 전설, 가왕, 국민가수의 명성을 또 다시 이어가고 있다.

CD 1
01. 돌아와요 부산항에
02. 미워 미워 미워
03. 허공
04. 일편단심 민들레야
05. 돌아오지 않는 강
06. 외로워마세요
07. 정
08. 대전블루스
09. 잊혀진 사랑
10. 내 마음 당신 곁으로
11. 정의 마음
12. 산장의 여인
13. 황성옛터
14. 길 잃은 철새
15. 강원도 아리랑
16. 한강
17. 한오백년
18. 간양록
19. 산유화
20. 너무 짧아요

CD 2
01. 비련
02. 자존심
03. 내 이름은 구름이여
04. 여와 남
05. 잊을 수 없는 너
06. 고추잠자리
07. 난 아니야
08. 따오기
09. 오빠생각
10. 못찾겠다 꾀꼬리
11. 슬픈 미소
12. 보고 싶은 여인아
13. 눈물의 파티
14. 님이여
15. 꽃바람
16. 촛불
17. 단발머리
18. 너의 빈자리
19. 물망초
20. 뜻밖의 이별

CD 3
01. 친구여
02. 창밖의 여자
03. 생명
04. 들꽃
05. 나는 너 좋아
06. 눈물로 보이는 그대
07. 어제, 오늘, 그리고
08. 바람이 전하는 말
09. 인물현대사
10. 그대여
11. 세월
12. 여자의 정
13. 비 오는 거리
14. 가랑비
15. 미지의 세계
16. 내 입술에 그대 눈물
17. 무정유정
18. 영원 속으로
19. 정말 모르겠네
20. 선구자

CD 4
01. 킬리만자로의 표범
02. 그 겨울의 찻집
03. 그대 눈물이 마를 때
04. 잊기로 했네
05. 사랑은 아직도 끝나지 않았나
06. 내 청춘의 빈잔
07. 상처
08. 내 가슴에 내리는 비
09. 벌써 잊었나
10. 얄미운 님아
11. 사랑하기 때문에
12. 바람과 갈대 
13. 차라리 학이 되리라
14. 내가 어렸을 적엔
15. 나그네 바람 
16. 나의 노래
17. 이별의 뒤안길
18. 사랑의 만가
19. 프리마돈나
20. 여행을 떠나요