هر چند از زمان ناصرالدین شاه قاجار در مورد احداث راه آهن ایران مذاکراتی و حتی در بعضی مقاطع اقدامات عملی در شمال (خط محمود آباد – آمل) و ایجاد خط آهن و استفاده از قطار تفریحی در مسیر تهران – شهر ری انجام شده بود ولی به علت دوری از اهداف و سیاستهای اقتصادی کشور هیچ یک از این اقدامات را نمی توان به عنوان اولین خط ریلی ایران بشمار آورد.
در مورد ایجاد راه آهن ایران، در اسناد دولتی مدارکی یافت می شود که از جمله می توان به نامه ناپلئون سوم، امپراطور فرانسه در تاریخ 14 آوریل 1858 میلادی مصادف با 1236 شمسی به ناصرالدین شاه اشاره کرد. در نامه مذکور به راه آهنی اشاره شده که انگلیس ها می خواستند از استانبول تا خلیج فارس بکشند و تا هندوستان امتداد دهند. یا بعد از مدتی جهت مقابله با نفوذ روسها بر ایران و از جهت دیگر، مقابله با دخالت روسها بر افغانستان، باز هم انگلیس ها به کمک میرزا حسین خان سپهسالار امتیاز معروف رویتر را از ناصرالدین شاه گرفتند که از جمله مواد آن کشیدن راه آهن از رشت به تهران و از تهران به خلیج فارس بود. وسعت دامنه این امتیاز مانع عملی شدن آن بود و حتی روسها به شدت با آن مخالفت کردند به طوری که به علت عقب نشینی روسها در موضوع دخالت روس بر افغانستان، مذاکره امتیاز راه آهن سراسری ایران از طرف انگلیس از میان رفت، و یا در سفر اول ناصرالدین شاه به اروپا حاج میرزا حسین خان سپهسالار صدر اعظم، یکی از مهندسین بلژیکی به نام بارون دونورمان را، که سال ها در خدمت راه آهن دولتی بلژیک کار کرده بود و در باره راه آهن اطلاعات کافی داشت، استخدام کرد و هدف این بود که در باب طرح راه آهن ایران از او استفاده کنند. و یا در سال های بعد (1874 میلادی مصادف با 1252 شمسی) یکی از افسران عالی رتبه روس به نام «بارون فون فالکن هاگن» که گویا اصلیت آلمانی داشت و در ساختمان راه آهن گرجستان فعالیت می کرد جهت اخذ امتیاز خط آهن جلفا – تبریز اقدام نمود ولی با توجه به این که بعداً معلوم شد این افسر این امتیاز را برای روسها می خواهد بدین جهت مذاکرات این امتیاز به نتیجه نرسید.
همچنین در سال 1978 میلادی مصادف با 1256 شمسی، فرانسوی ها نیز اقداماتی جهت اخذ امتیاز راه آهن انجام دادند ولی در نهایت باز هم همچون مذاکرات قبلی به علت مسائل سیاسی، این مذاکرات به نتیجه نرسید و یا این که درکار عملی نیمه تمام ماند.
آخرین تلاش برای شکستن این بن بست در سال 1261 شمسی انجام گرفت. وقتی ایرانیان به اهميت راه آهن پي بردند، حاج امين الضرب، بازرگان مشهور ايراني، امتياز ساختمان راه آهن محمود آباد كنار درياي خزر به تهران را از راه آمل بدست آورد و پس از آن كه 18 كيلومتر راه آهن از محمود آباد به قسمت آمل را ساخته و مورد استفاده قرارداد مهندسين خارجي آنجا را ترك كردند و سپس با دست ايراني ها بقيه راه تا آمل امتداد داده شد ولي وقتي كه راننده لكوموتيو هم از ايران رفت لكوموتيو خراب و بيكار ماند و در نتيجه كل امورات به هم خورد. و یا در سال 1264 شمسی (1886 میلادی) خط راه آهني از كاخ گلستان تا شهر ري كه براي مدت 99 سال امتياز آن به مهندس «فايبوس بواتال» واگذار شده بود ساخته شد و به اتفاق چند نفر بلژيكي شركتي به نام شركت راه آهن و ترامواي ايران را تشكيل دادند كه بيشتر براي سرگرم كردن ناصرالدين شاه ساخته شده و جنبه تفريحي داشت نه صنعتی و تجاری چون این طرح و خط آهن به هیچ وجه توجیه اقتصادی نداشت و مردم لکوموتیو این خط را ماشین دودی می نامیدند.
با نگاهی گذرا بر چالش های موجود از زمان ناصرالدین شاه بر مسئله ایجاد خط آهن، مشخص می شود دولت هاي خارجي، خط آهن را فقط برای پیشبرد اهداف خود بکار می بردند و نه پیشرفت و ایجاد رفاه بر مردم ایران، لذا تا قبل از سال 1913 میلادی (1291شمسی) دولت های روس و انگلیس هر کدام در رقابتی نزدیک تصمیم داشتند به هر نحوی که شده امتیازات راه آهن آذربایجان را به دست آورند ولی تا سال 1913 این اهداف و سیاست به نتیجه ای نرسید و بالاخره در سفر دوم ناصرالدين شاه به فرنگ به علت اهمیت منطقه آذربایجان برای دولتین روس و انگلیس، قرارداد واگذاري امتياز راههاي ايران و راه آهن از آذربايجان روسيه به تبريز بسته شد ولي به علت سياستهاي انگلستان و روسیه اين كار عملي نگرديده و به اقدامي دست نزدند تا اين كه در تاريخ 24 ژانويه 1913 ميلادي (1291 شمسی) حسن وثوق الدوله وزير خارجه وقت ايران قرارداد امتياز ساختمان راه آهن آذربايجان را طي 19 ماده با بانك استقراضي روسيه امضا نمود و موافقت شد كه راه آهن آذربايجان دنباله راه آهن روسيه با همان عرض و فاصله دو ريل به اندازه 1534 ميليمتر (با استاندارد روسها) احداث گردد. پس از انعقاد قرارداد بانك استقراضي ايران امتياز خود را به شركت راه شوسه جلفا به تبريز واگذار نموده و بدين جهت عنوان شركت اين قرارداد به شركت راه آهن تبريز به جلفا مبدل گرديد.
نقشه برداري اين خط در تابستان 1913 میلادی (1291 شمسی) شروع و در پائيز همان سال خاتمه پذيرفت و در ماه مه 1914 يعني درست دو ماه پيش از شروع جنگ جهاني اول، كارهاي ساختماني و ريل گذاري راه آهن جلفا – تبريز شروع شد. رئيس نقشه برداري و ساختماني اين راه آهن مهندس«آناتول ترسكنيسكي» بود كه بعداً در ايران ماندگار و كارمند راه آهن ايران شد. كل برآورد هزينه جهت اين عمليات مبلغ 109130700 روبل طلا برآورد شده بود كه به علت شروع جنگ جهاني اول مبلغ 1044986 روبل طلا كمتر هزينه شد (هر 10 قران ايران در آن زمان معادل 75/1 روبل طلا قيمت داشت) و به طور كلي براي هر كيلومتر راه آهن مبلغ 75056 روبل طلا هزينه شد. هنگام احداث خط مزبور در حين جنگ جهانی اول اين راه آهن توسط دولتين روس و عثماني چندين نوبت دست به دست گرديد و در ماه اوت 1915 (1293 شمسی) فرماندهي نيروهاي روسيه دستور اكيدي صادر كرد كه راه آهن آذربايجان بايد در مدت كمتر از چهار ماه به ساحل درياچه اروميه برسد، و راه آهن ده روز زودتر از مدت تاكيد شده و در ماه نوامبر به بندر شرفخانه رسيده و سپس ريل گذاري به طرف تبريز آغاز و بالاخره در 21 فوريه سال 1915 (1293 شمسی) اولین قطار وارد ايستگاه تبريز شد و تبریز این شهر پیشگامان برای اولین بار در ایران صاحب خط آهن و قطار رسمی شد. مراسم گشايش راه آهن آذربايجان با تشريفات خاص و مفصل در تاريخ ششم ماه مي 1916 (1294شمسی) به عمل آمد، و بالاخره پس از انقلاب بلشويكي در روسيه طبق قرارداد ماه فوريه 1921 (1299 شمسی) راه آهن و كشتيراني درياچه اروميه با تمام متعلقات به دولت ايران واگذار گرديد.
ساختمان ادارة كل راهآهن آذربايجان در سال 1291 شمسي آغاز و در سال 1294 شمسي خاتمه يافت. مجموع خطوط در زمان احداث 201 كيلومتر (شامل 148 كيلومتر جلفا به تبريز و 53 كيلومتر صوفيان شرفخانه) با عرض 1520 ميليمتر مطابق با عرض خط راهآهن شوروي سابق بوده است كه با اتصال خط راهآهن آذربايجان به خطوط سراسري در سال 1336 شمسی، عرض خطوط از 1520 ميليمتر به 1435 ميليمتر (بينالمللي) تبديل و راهآهن آذربايجان به راهآهن سراسري كشور متصل و با احداث خطوط راهآهن شرفخانه – رازي در سال 1350 ارتباط راهآهن سراسري ايران از طريق راهآهن تركيه با كشورهاي اروپا برقرار گرديد.