Początki miasta sięgają dalekiej starożytności, osada wzmiankowana była w V w. Później Baku wyrosło na ważny ośrodek handlowy i rzemieślniczy. W okresie rozpadania się kalifatu arabskiego w X-XI w. azerbejdżańscy władcy feudalni, umocnili swoją pozycję na tym obszarze. Państwo Szyrwan ze stolicą w Szemachu (120 km od Baku) było największym i najbogatszym w tym rejonie. Do najcenniejszych obiektów na terenie miasta zalicza się: zespól pałacowy szachów Szyrwanu - miejscowego chanatu o tysiącletniej historii. Wartość artystyczna całego zespołu polega na harmonijnej kompozycji brył i powściągliwym zdobnictwie. Na południe od pałacu szachów Szyrwanu znajduje się minaret Synyk Kała z XI w., fragmenty murów obronnych, zamek i meczety.
W pobliżu miasta znajdują się tzw. Bojkowskie Kamienie z XIII w., leżące w Zatoce Bakijskiej, gdzie fale odsłaniają ruiny tajemniczych murów i wież. Prawdopodobnie był to jeden z pałaców, rezydencji szachów Szyrwanu, pochłonięty przez morze.