O primeiro homem a imaginar e construir um computador de verdade foi o matemático, filósofo, economista e escritor inglês Charles Babbage (1791-1871). Respeitado pelas imprecisões que encontrou nas tabelas matemáticas de sua época, Babbage (pai do velocímetro, do limpa-trilhos das locomotivas e das primeiras tabelas confiáveis de expectativa de vida) construiu entre 1821 e 1832 um sistema de engrenagens e rodas dentadas denominado "Mecanismo Diferencial número 1", o tataravô dos computadores. Com suas 2 mil peças de aço e bronze, ele podia calcular de maneira rápida e precisa complexos cálculos matemáticos. Babbage conseguiu, no entanto, construir apenas um modelo simples, porque os metalúrgicos da época não eram capazes de produzir as centenas de pecinhas de precisão que o mecanismo requeria. Planejado entre 1847 e 1849, o "Mecanismo Diferencial número 2", com o dobro de peças, só seria construído em 1991, pelo Museu de Ciência de Londres, em homenagem ao bicentenário do nascimento do inventor.
O projeto foi baseado em 20 desenhados deixados por Babbage. Novos experimentos levaram Babbage a projetar em 1834 o ainda mais complexo "Mecanismo Analítico", para desempenhar funções algébricas. Ele apresentava todas as partes essenciais de um computador moderno: circuitos lógicos, memória, armazenagem e recuperação de dados. O mais importante é que ele era programável.

A aliada de Babbage em seu trabalho, a escritora e matemática Augusta Ada King (1815-52), condessa de 
Lovelace e única filha legítima do poeta Lord Byron, foi a primeira programadora de computador da história. Augusta descreveu o primeiro conjunto de instruções de computador para pedir à máquina que computasse uma série (conhecida como os "números de Bernoulli") gerada por uma complexa equação matemática. Ela produziu um programa que deveria ser escrito em cartões perfurados, que haviam sido inventados em 1728 por um tecelão francês, Joseph-Marie Jacquard, para tecer padrões em teares. Permitindo (por uma perfuração) ou bloqueando (pela ausência de perfuração) a passagem de uma agulha, o sistema desses cartões antecipou a linguagem liga-desliga (binária) dos computadores eletrônicos atuais. Babbage já tinha construído um pedaço da máquina quando morreu. Ela nunca chegou a ser finalizada.

O primeiro computador digital eletrônico foi o Eniac, construído pelo engenheiro elétrico John Presper Eckert Jr. (1919-95) e pelo físico John William Mauchly (1907-80), na Escola Moore de Engenharia Elétrica, da Universidade da Pensilvânia, e pelo Laboratório de Pesquisas Balísticas do Exército americano. Apresentado em 15 de fevereiro de 1946, ele ocupava uma área de 93 metros quadrados, tinha a altura de dois andares e pesava 30 toneladas. Em seu interior, 17.468 enormes válvulas piscavam ininterruptamente. Apesar de seu tamanho, o Eniac (sigla, em inglês, para Computador e Integrador Numérico Eletrônico) era na verdade um ignorante. Cometia erros e quebrava repetidamente, porque seus tubos sempre se queimavam. Construído para calcular tabelas de artilharia, o computador de 450 mil dólares podia realizar 5 mil adições e 3.500 multiplicações por segundo. O Pentium Pro, lançado em 1996, é capaz de efetuar 300 milhões de operações por segundo. O Eniac, portanto, seria 85 mil vezes mais lento.

Há uma grande polêmica envolvendo a invenção do computador eletrônico. John Atanasoff (1904-95), professor da Universidade de Iowa, contou que a idéia de inventar um computador lhe ocorreu numa hospedaria em Illinois, em 1937. Seria operado eletronicamente e usaria números binários, em vez dos tradicionais números decimais. Daí a poucos meses, ele e um talentoso ex-aluno (Clifford Berry) haviam criado um tosco protótipo de computador eletrônico, que utilizava válvulas, tambores rotativos e cartões perfurados para a introdução de dados. A execução do projeto custou mil dólares. No ano seguinte, John Mauchly, que conhecera Atanasoff num seminário, foi convidado a conhecer o computador. Depois ficou hospedado vários dias em sua casa, onde soube de detalhes sobre o projeto.

Atanasoff estava para requerer a patente do seu computador, mas foi convocado a Washington no início da Segunda Guerra Mundial para fazer pesquisas de Física para a Marinha. No mesmo período, Mauchly e Eckert construíram o Eniac. No verão de 1944, os dois simplificaram sua invenção usando o esquema binário desenvolvido por Atanasoff. Estava criado assim o Univac, que começou a ser vendido em 1946 e tornou-se o protótipo dos computadores de grande porte atuais.

O primeiro computador brasileiro foi construído na Universidade de São Paulo, em 1972, e era conhecido pelo apelido de "Patinho Feio"