בתחילת שנת 1974 יצא אלבומה השני של הלהקה, "Queen 2", שזכה להצלחה מפתיעה. להצלחה עזרה העובדה שטרם יציאתו הופיעה הלהקה בתוכנית "Top of the Pops". האלבום הגיע למקום החמישי במצעד הבריטי וה-43 במצעד האמריקאי.
בסוף אותה שנה יצא אלבומה השלישי של קווין "Sheer Heart Attack". השיר "Killer Queen" והאלבום, הגיעו שניהם למקום השני במצעדים.
בשנת 1975 יצא האלבום "A Night At the Opera", שנחשב בתקופתו לאלבום הכי יקר אי פעם, במונחי השקעה בהקלטות. הסינגל הראשון מהתקליט, "Bohimian Rhapsody", זכה להצלחה כבירה, והפך לסמל של הלהקה.
השיר היה מעין פארודיה אופראית, ולווה לצד אינספור אוברדאבס ווקאליים, ריפי גיטרת מטאל. השיר, שזכה גם לאחד הקליפים הקונספטואלים הראשונים, שבר את השיא הבריטי, כאשר עמד 9 שבועות בראש המצעד. האלבום והשיר הצליחו גם בארה"ב, ובמהירות עברו את רף מכירות אלבום הפלטינה.