Клуб из Казани был основан в 1958 году, и в начале именовался как «Искра». Команда начала свой путь в первой зоне первенства РСФСР класса «Б». В 1959 году, на 12 лет «Искру» возглавил Николай Сентябрёв. Во главе с ним в первом своем сезоне клуб занял 5 место. Несколько лет подряд «Искра» занимала места в на верхушке таблицы, и вот в 1964 году, пополнившись молодыми игроками, команда занимает второе место, что позволяет ей играть в лиге класса «А». После таких успехов руководство решило сменить название клуба на более звучное — «Рубин». До 1971 года «Рубин» продолжал занимать лидирующие позиции, но уже в высшей лиге. После ухода Николая Сентябрёва Рубин занял последнее место в чемпионате.
На долгое время «Рубин» затух, но в 2001 году команду возглавил Курбан Бекиевич Бердыев, на тот момент тренер смоленского «Кристалла». А перед началом следующего сезона клуб пополнили такие игроки как: Давид Чаладзе, Геннадий Сёмин, Михаил Синёв. Одержав 22 победы, казанцы завоевали место в премьер лиге. В 2003 году состоялся дебют команды, которая перед этим сезоном пополнилась большим количеством игроков. Кроме легионеров в клуб пришли россияне: Андрей Фёдоров, Михаил Синёв, Денис Бояринцев, Сергей Козко, Роман Шаронов. В итоге «Рубину» удалось стать бронзовым призером чемпионата России. В 2004 году клуб вновь пополняется игроками. После неудачного сезона 2004 года, команду покинули многие ее лидеры.
Перед сезоном в котором команда получила свое первое золото, ее пополнили несколько игроков высокого уровня. А также вернулся защитник Роман Шаронов. После победы в премьер-лиге руюин пополнили защитники Калешин и Сесар Навас, а также вернулся аргентинский нападающий Домингес. В итоге в следующем сезоне «Рубин» снова получил золото. Попав в Лигу Чемпионов, рубину не повезло с соперниками в групповом этапе, это оказались такие именитые клубы Барселона, Интер и киевское Динамо. В матче против Барсы, рубин реализовал 2 момента из трех, в итоге матч завершился со счетом 2:1.
Рубин на данный момент является одним из ведущих клубов России.
