Фильм начинается как чёрно-белый. Изобретатель Александр Сергеевич Тимофеев (Шурик) создаёт машину времени. Эксперименты по её запуску, периодически приводившие к перегоранию пробок в подъезде, закончились взрывом, перегоранием пробок во всём доме и потерей сознания Шуриком.
С началом видения фильм становится цветным.
Жена Тимофеева, киноактриса Зина, приходит со съёмок в задымлённую квартиру и говорит Шурику, что уходит от него. Её новый возлюбленный — кинорежиссёр Якин, с которым она уезжает в Гагры.
В это время квартирный вор-рецидивист Жорж Милославский проникает в квартиру соседа Тимофеева — стоматолога Антона Семёновича Шпака — и обворовывает её.
В присутствии управдома Ивана Васильевича Бунши Шурик испытывает машину на небольшой мощности, и стена между квартирами Шурика и Шпака исчезает. Удивлённый Жорж Милославский входит в квартиру Шурика, интересуясь машиной, которая может убирать стены. Шурик увеличивает мощность, и через стену открываются царские палаты. На троне сидит Иван Грозный, рядом писарь Феофан. Увидев пришельцев и приняв их за демонов, Феофан убегает за стражей, а Иван Грозный пугается чёрной кошки Шурика и бежит в его квартиру. В палатах начинается переполох, один из бердышей, кинутый стрельцом в Милославского, а затем — наоборот, Милославским в стрельца, попадает в машину времени, и та ломается, оставляя Ивана Грозного в современном мире, а Ивана Васильевича Буншу и Жоржа Милославского — во времени Ивана Грозного.
Спасаясь от стражи, Милославский замечает внешнее сходство Бунши и Ивана Грозного и заставляет управдома переодеться в найденную царскую одежду. Бунша переодевается в Ивана Грозного, а Милославский — в князя.
В XX веке Шурик объясняет царю, что случилось, и просит подождать его, пока он сбегает в магазин за новыми транзисторами. Иван Грозный остаётся в квартире, учится пользоваться современными бытовыми приборами и оказывается вовлечённым в столкновения с разными героями современности.
В царском времени тоже неспокойно. Бунша отдаёт было шведам Кемскую волость, но Милославский не даёт ему сделать это. На обеде Иван Васильевич Бунша заигрывает с миловидной супругой Ивана Грозного Марфой Васильевной и приходит в состояние алкогольного опьянения. Войско прибывает в царские палаты и пытается пленить самозванцев. Но, наконец, срабатывает починенная Шуриком машина времени, и Иван Васильевич Бунша с Жоржем Милославским возвращаются в XX век.
Иван Васильевич Грозный не успевает вернуться — его задерживает милиция. Бунша добровольно сдаётся в руки милиции, так как незаконно временно исполнял обязанности царя. Услышавший это Иван Грозный в ярости нападает на Буншу. Их обоих принимают за душевнобольных с манией величия. Поскольку двойники начинают драку, санитары психиатрической бригады Скорой помощи , прибывшей вместе с нарядом милиции, обездвиживают обоих участников потасовки, связав их в смирительные рубашки, и одного за другим подводят к Ульяне Андреевне для опознания. И в Бунше, и в царе Ульяна Андреевна признаёт своего мужа. Решив, что она, возможно, тоже сошла с ума, Ульяна Андреевна снимает дорогой парик (обнажив при этом короткую стрижку ёжик ) и отправляется вместе с двойниками в психбольницу.
Милославский же берёт белый халат Шурика и пытается скрыться под видом медика. Врачи и переодевшийся медработником Милославский уводят пациентов на улицу, и в этот момент милиционеры, просматривая оставшиеся в оставленной Жоржем Милославским куртке документы, узнают, что у них в руках находился сам вор Жорж Милославский. С балкона они кричат об этом врачам, и далее начинается погоня за Милославским. Воспользовавшись суматохой, Иван Грозный выбегает из машины Скорой помощи и бежит в квартиру к Шурику, который снова запускает свою машину. В это время открывается стена в палаты, и Иван Грозный возвращается в своё время, но при этом снова пугается кошки, бросает в неё шапкой и убегает, забыв забрать эту шапку.
В эпилоге фильм снова становится чёрно-белым. Шурик очнулся, поднялся с пола и не понимает, что же всё-таки произошло. Стук в дверь понемногу приводит его в чувство, он идёт открывать и видит за дверью супругов Буншей, грозящих ему жалобой за обесточивание всего дома. Шурик спрашивает у них: Что, вас уже выпустили из сумасшедшего дома? , приводя Буншей в ярость. Постепенно сознание возвращается к нему, и тут он вспоминает, что его бросила жена .
Вскоре Зина приходит с работы, Шурик спрашивает её о поездке в Гагры и связи с Якиным. Удивлённая Зина говорит, что Шурик совсем сойдёт с ума со своей машиной, и что никакого режиссёра Якина у них нет. Шурик понимает, что ему всё привиделось. Он успокаивается и вдруг замечает обронённую царём цветную шапку, которая тут же превращается в кошку. Супруги в недоумении смотрят на зрителей, пожимают плечами и целуются, а кошка произносит: Чао! …