Ансамбль был собран в 1983 году в Ленинграде Николаем Фоменко, Максимом Леонидовым и Дмитрием Рубиным, выпускниками Ленинградского государственного института театра, музыки и кинематографии. 20 апреля 1983 года состоялась первая репетиция группы в составе, ставшим впоследствии «классическим»: Максим Леонидов, Николай Фоменко, Андрей Заблудовский и Алексей Мурашов. Название произошло от одной из песен The Beatles — «Do You Want to Know a Secret».
В 1984 году Бит-квартет «Секрет» стал лауреатом II фестиваля Ленинградского рок-клуба, 25 июля 1985 года триумфально выступил в Ленинградском Дворце Молодёжи, в 1987—1989 гг. участвовал в программах «Утренняя почта» и «Музыкальный ринг», объехал с концертами весь Советский Союз, гастролировал с группой «Машина времени».
В 1990 году из «Секрета» уходит Максим Леонидов, и до 1996 года группа выступает в составе трио. После ухода Николая Фоменко Андрей Заблудовский и Алексей Мурашов организуют коллектив «Секрет-5», который в 1998 году преобразуется в «Секрет-99» под руководством Заблудовского.
За долгую историю своего существования участники группы «Секрет» не только выпустили несколько пластинок, в том числе дважды платиновый альбом «Секрет», но и организовали в 1989 году Рок-театр-студию «Секрет», где поставили спектакль «Король рок-н-ролла» об Элвисе Пресли, приняли участие в десятках телепрограмм, часть из которых сами и придумали. В 1997 году «Секрет» сыграл в оригинальном составе пять концертов в Театре Эстрады в Москве и Мюзик-холле Санкт-Петербурга, в 1999 году объединился для выступления на стадионе «Петровский» в Санкт-Петербурге, в 2003 году с успехом провел серию выступлений в честь 20-летия группы в Кремле и БКЗ «Октябрьский», а также в Киеве. 30 октября 2007 года «Секрет» вновь объединился, дав концерт в питерском БКЗ «Октябрьский». «Секретовцам» в этом концерте помогала группа Максима Леонидова Hippoband. Однако обещанные концерты в честь 25-летия группы в 2008 году так и не состоялись.