اولين شهر مركز شهرستان مغان، شهر گرمی بود، که تا سال 1370 به عنوان مرکز مغان شناخته می شد. شهرستان مغان از سال 1370 به سه شهرستان مستقل گرمی (مغان)، پارس آباد و بیله سوار تقسيم شد.
در باره وجه تسمیه نام گئرمی چندین نظر وجودارد: این شهر بعدها بنا به عللی ویران شده ومجددا" از900سال پیش آبادانی خودرا بدست آورده است برخی آن را از واژه گئرامنه به معنی چند عشیره که دارای چراگاه مشترک می باشند وبه رئیس آنان گئرامنی می گفتند، میدانند. تعداد دیگری اعتقاد دارند این شهر در زمان بابک خرمدین بذ یا بذین داشته است ومحل آنرا بین محله قلعه باشی و روستای اله درق میدانند وقلعه دئیو قالاسی را قلعه بذ می دانند. برخی ازمورخان معتقدند این خطه از قدیم محل زندگی چند زنتو از پارتها بوده و واژه گئرمی در گویش پارتها یک واژه مقدس بوده ووجود گورهای خمره ای را دلیل می آورند. مورخان ومحققان دیگری معتقدند این واژه از واژه های سومری بوده واز دوقسمت ((گئر)) و ((می)) تشکیل شده است گئر به معنی آبادی وجای مشخص ویا خانه و می به معنی قوانین آسمانی پس گئرمی یعنی خانه قوانین ودستورات آسمانی. با توجه به قرارگیری این خطه در منطقه مغان و جایگاه مقدس منطقه مغان نزد مغ ها که دارای چندین آتشکده در منطقه بوده ومغ ها برای برگزاری مراسمات مخصوصی در ایام مشخصی از سال به این منطقه سفر می کردند ووجود کوه چند قلعه در نزدیکی ویا خود این شهر مثل دئیو قالاسی در500متری شهر، اینی قالاسی در7 کیلومتری شهروقلعه برزند در10کیلمتری و قیزقالاسی در فاصله15 کیلومتری این شهر بنظر میرسد دو نظر اخیر به واقعیت نزدیک بوده ونام شهر یکی از دو نظریه آخر این بحث باشد. نامیدن شهر بخاطر قبیله چم که از یمن به این خطه کوچیده اند ودر بین اهالی شهر به حسنلو مشهور هستند ریشه در تعصبات قومی داشته وخالی از واقعیت می باشد چراکه این قبیله 200الی300سال است که به این شهر کوچ کرده اند وپیران آن خودرا متعلق به سرزمین یمن وبعضی هایشان متعلق به اطراف بصره میدانستند.
تاریخچه پیدایش این شهر در عصر جدید حیات آن به حدود سال ۹۰۰ هجری قمری باز میگردد که ۵ طایفه شیعه که ساکن شهرهای امپراطوری عثمانی و برخی نقاط سنی نشین دیگر بودند به دستور و اجازه شاهان صفویه به آن مهاجرت و درآنجا ساکن شدند.