Graham Green, el director Carol Reed y el productor Alexander Korda cenaron juntos en diciembre de 1947. Durante esa cena hablaron del proyecto terminado de «El ídolo caído» y el productor le propuso a Green trabajar un guión, no basado en ninguna novela, y que lo dirigiera Carol Reed. Green les planteó una vaga idea que había anotado, tiempo atrás, en el reverso de un sobre y que había rescatado para la ocasión: «Había dado mi último adiós a Harry una semana antes cuando su ataúd descendió en la helada tierra de febrero, así que no di crédito cuando le vi pasar, sin una señal de reconocimiento, entre la multitud de extraños en el Strand». El Strand es el Strand Palace, un hotel en Londres. A Alexander Korda le gustó la idea, pero la localización sería en Viena, donde Korda había vivido y trabajado como director de cine cuando era joven.
En febrero de 1948 Greene viajó a Viena dos semanas para inspirarse en la redacción del guión de «El tercer hombre». Sin embargo el escritor no tuvo a las musas de su parte.
Durante su estancia en Viena, recorrió la ciudad de una punta a otra, pero sin dar con la tecla. A dos días de volar de vuelta a Londres, tuvo una comida con un oficial del servicio secreto inglés. Durante esa comida, Greene se enteró de que había un cuerpo especial de policía, «la policía subterránea» porque, en las cloacas de la Viena ocupada por los aliados, no había zonas y sí muchos delincuentes y maleantes. El escritor pidió bajar y Green cuenta que allí metido supo cómo sería la trama de su historia «Tenía mi película».
Greene no contó si llevaba bajo el brazo la novela de Eric Ambler: «La máscara de Dimitrios» (1939), en la que el malo también simula su muerte… Esto daría para otra publicación.