自从旧石器时代起，布拉格所在的地方就已经有人类定居。大约公元前500年，凯尔特人的波伊（Boii）部落居住在这一地区，他们将这个地区称为波希米亚。后来，日耳曼人赶走凯尔特人，移居到这一地区。到公元6世纪，日耳曼人部落多数移居到多瑙河流域，一支斯拉夫部落乘机从西面入侵，定居在波希米亚地区，他们就是捷克民族的祖先。

根据传说，布拉格的创建者是莉布丝公主和她的丈夫，农夫培密索尔，并以培密索尔的名字命名，建立了霍什米索王朝（Přemyslid）。传说公主在她位于中波希米亚的莉布新（Libusin）城堡中说了许多预言（得到7世纪以前考古学发现的证实）。其中一个预言说，她预见到了布拉格的荣耀。一天，她在异象中“看见一个伟大的城市，它的荣耀能达到天上的繁星！我看见它在在森林中伏尔塔瓦河畔陡峭的悬崖之上，那里有一个男人，他正在为房屋凿出门槛（prah），在那里要建起一座名叫布拉格（Praha）的城堡。王子和公爵们都要在门槛前弯腰，他们要向城堡和环绕它的城市低头。它将得到尊敬，得到人所共知的荣誉，整个世界都要赞美它。”[1]无论这个传说是真是假，布拉格确实是以9世纪在伏尔塔瓦河右岸居高临下建造的高堡（Vyšehrad）为核心，而逐渐形成的。后来在河对岸建造了另一座城堡，就是今天的布拉格城堡。不久布拉格成为波希米亚的首都，并成为欧洲南北商路上一个重要的贸易中心，吸引了许多犹太人。973年，该市成为一个教区中心。

13世纪，在布拉格城堡周围的3个居民点获得了市镇的特权。1257年，在布拉格城堡以南新建了小城（Malá Strana），这是德意志人居住的地区，拥有自治权。紧邻城堡西面和北面的布拉格城堡区（Hradčany）在1320年获得自治权。伏尔塔瓦河对面的布拉格老城（Staré Mesto）则早在1230年就已获得自治权。