O que é computação em nuvem e por que "nuvem"?

Essa é um pergunta complicada. Em 2008 quando comecei a trabalhar no tema, fizemos uma pesquisa para saber qual definição usar no LRG mas, já na época, existiam mais de 50 definições diferentes e que mudavam bastante entre elas. Um belo exemplo é o seguinte:

“Everything that we already do and that it will have no effect except to change the wording on some of our ads”
Larry Ellison, CEO of Oracle

“É tudo que já fazemos e não vai mudar nada a não ser o vocabulário(algumas palavras) dos nossos anúncios.”
(tradução livre)

Vemos que o sr Ellison tinha uma visão um tanto quanto limitada sobre o futuro de computação em nuvem. Por isso decidimos usar a definição de uma pessoa renomada da área que já possuí experiencia com computação em grade:

“Computação em nuvem é um paradigma de computação em larga escala que possui foco em proporcionar economia de escala,   em que um conjunto abstrato, virtualizado, dinamicamente escalável de poder de processamento, armazenamento, plataformas e serviços são disponibilizados sob demanda para clientes externos através da internet.” Ian Foster

Para sermos mais claros podemos fazer um paralelo com o modelo de entrega de energia elétrica. Quando precisamos usar a energia elétrica o que fazemos? Conectamos o aparelho na tomada e pagamos sobdemanda, isto é, somente aquilo que usamos. O sonho de computação em nuvem é bem parecido, fornecer software, processamento, memória ou o que for necessário sobdemanda no modelo de computação utilitária.

Já a origem do termo vem das redes de telecomunicação. Antigamente quando as linhas de dados e telefone eram dedicadas era fácil de se representar e de entender o caminho que faria um pacote de dados. Depois do compartilhamento destas linhas(o que barateou muito o serviço) ficou, praticamente, impossivel determinar o caminho que o pacote faria e assim se abstraiu toda a rede de caminhos colocando uma nuvem no seu lugar e até hoje se usa nos desenhos de rede para representar essa complexidade ou a internet. Assim a nuvem estaria escondendo a complexidade da infraestrutura, localização, soluções de software e hardware, algo que o cliente final não tem que se preocupar por isso o provedor denomina nuvem(além disso usar termo atraí atenção a agrega valor comercial).

Bom, espero ter esclarecido um pouco, apesar de ser um conceito amplo e não ter só uma resposta.
:)