코볼은 고급언어로서는 두번째로 개발된 언어(최초의 고급언어는 FORTRAN 이다)로서 1960년초에 개발되었다. 그렇지만 코볼은 업무용 프로그램을 개발하기 위해 가장 널리 사용된 고급 프로그래밍 언어이다. 지난 35년에 걸쳐 코볼로 작성된 많은 급여, 회계 및 기타 업무용 프로그램은 지금도 여전히 사용되고 있으며, 다른 어떠한 프로그램 언어보다도 코볼로 작성된 프로그램이 현재까지 더 많이 남아 있다.

코볼은 여러 해 동안 지속적으로 개선되어 왔음에도 불구하고 구식 언어로 인식되고 있으며, 코볼로 만들어진 프로그램은 과거의 방식이 많이 남아 있는 프로그램으로 간주되는 것이 일반적인 상황이다. 컴퓨터 2000년 문제(Y2K problem)를 갖고 있는 대부분의 업무용 프로그램들이 코볼로 작성되어 있기 때문에, 많은 회사들이 그 문제를 해결하기 위해 코볼 기술을 갖고 있는 프로그래머들을 찾고 있는 형편이다.

코볼은 작성하기 쉽고, 또 작성한 뒤 이해하기도 쉬운 프로그램 언어(마치 일상적으로 쓰는 언어처럼)를 만들기 위해 쏟은 노력의 산물이다. 따라서, 코볼은 같은 일을 하기위해 다른 언어로 개발된 어떤 프로그램에 비해서도 소스코드가 대체로 긴 편이다. 소스 코드의 량이 많다는 것은 프로그램 개발시 귀찮은 점도 있지만, 프로그램을 이해하기에 더 쉬운 측면이 있다. 이 언어의 최초 버전은 COBOL-60 과 61이며, 뒤이어 CODASYL(Conference on Data Systems Language)이 지원한 COBOL-85로 개선되었다.

그후 Acucobol 과 Micro Focus 등의 회사들이 코볼을 개선시켰고, 최근에는 코볼 프로그래밍과 관계형 데이터베이스 또는 인터넷을 연계시킨 개발도구 등을 판매하는 회사도 있다.