Впервые историю о старике и море Хемингуэй кратко рассказал в очерке «На голубой воде. Гольфстримское письмо», опубликованном в журнале «Эсквайр» ещё в 1936 г. Писатель сам очень любил рыбалку, дружил с кубинскими рыбаками, хорошо знал их законы и обычаи. В основу повествования положен реальный случай из жизни кубинца, который около восьмидесяти дней рыбачил у берегов Гаваны. Ему посчастливилось поймать гигантскую рыбину, но так и не удалось доставить её на берег. Добычу растащили на куски акулы, остался один скелет. Эту историю Хемингуэй насытил новыми деталями, обогатил глубоким жизненным и философским смыслом. В октябре 1951 г. в письме к издателю он писал: «Это проза, над которой я работал всю свою жизнь, которая должна быть лёгкой, простой и лаконичной и в то же время передавать все изменения видимого мира и сферы человеческого духа. Это самая лучшая проза, на которую я сейчас способен». В сентябре 1952 г. повесть «Старик и море» была опубликована в журнале «Лайф». 

Литературоведы хотели выяснить, кто стал прототипом главного героя повести — Сантьяго. Достаточно часто называли знаменитого кубинского рыбака и друга писателя Грегорио Фуэнтоса, который дожил до 104 лет. Однако большинство исследователей склонны думать, что этот образ вобрал в себя черты разных людей, с которыми Хемингуэй общался в рыболовецком посёлке Кохимарэ, расположенном недалеко от Гаваны.