オーストリア・ハンガリー帝国時代のプラハ国民歌劇場の附属オーケストラが前身。1896年1月4日にドヴォルザークが自作を振ったときには、現在の名称が使われていたが、専任オーケストラとして独立するのは、1901年になってからである。1908年には、マーラーの指揮で自作の《交響曲第7番「夜の歌」》の世界初演が行われた。
世界的な名声を得るようになったのは、ヴァーツラフ・ターリヒ時代（1919年～1931年および1933年～1941年）である。ターリヒの後任指揮者にラファエル・クーベリック（1941年～1948年）が就任し1946年にはプラハの春音楽祭がスタートするが、クーベリックは1948年のチェコスロバキア共産党を中心とした政権の成立（1948年のチェコスロバキア政変）を嫌い、西側へ亡命してしまった。後任にはカレル・アンチェル（1950年～1968年）が就任した。
その後ヴァーツラフ・ノイマン（1968年～1989年）の下、地元の作曲家であるスメタナやドヴォルザークの録音や世界各地へのツアーを通じて「東側」の名門オーケストラとしての地位を築いた。チェコの民主化後はイルジー・ビエロフラーヴェク（1990年～1992年）、ゲルト・アルブレヒト（1993年～1996年）と続いた。民主化直後の1990年のプラハの春音楽祭では、帰ってきたクーベリックとの歴史的な再共演を行う。
1998年よりヴラディーミル・アシュケナージが首席指揮者であった。2003年9月1日から2007年9月8日までズデニェク・マーカルが首席指揮者を勤め、2009年よりエリアフ・インバルが首席指揮者に就任。2012年からはイルジー・ビエロフラーヴェクが20年ぶりに首席指揮者に復帰した。