Леонид Якубович родился 31 июля 1945 года в Москве в еврейской семье. Отец — инженер Аркадий Соломонович Якубович (1913—1983), начальник конструкторского бюро. Участник Великой Отечественной войны, кавалер ордена Красной Звезды. Мать — врач-гинеколог Римма Семёновна Якубович (урождённая Шенкер; 1919—2005). Был исключён из школы. Работал на авиационном заводе токарем, электромехаником. Среднее образование получил в вечерней школе. Поступил в Московский институт электронного машиностроения, где играл в Театре студенческих миниатюр. Затем перешёл учиться в Московский инженерно-строительный институт им. В. В. Куйбышева. Во время учёбы играл в институтской команде КВН. Был активным комсомольцем.
С 1976 по 1977 год работал на Заводе имени Лихачёва, с 1977 — в пусконаладочном управлении ЗИЛа. С 1979 года занимался литературной деятельностью — писал тексты и сценарии для передач «А ну-ка, парни!» и «А ну-ка, девушки!». С 1980 года — член союзного комитета московских драматургов. В 1988 году стал автором сценария и ведущим первого московского конкурса красоты. В 1990 году был автором сценария детского киножурнала «Ералаш» (выпуск № 83, сюжет «Друзья»). С 1984 по 1991 год работал аукционистом. В 1991 году пришёл на пробы нового ведущего «Поля чудес» и удачно смог их пройти. С 1 ноября 1991 года и по сей день является бессменным ведущим телеигры. Является одним из соавторов одного из первых монологов («Монолог старшины»), с которым выступал Владимир Винокур.
В 1995 году баллотировался в депутаты Государственной Думы по списку КЕДРа, но партия не смогла преодолеть 5 % барьер. В июне 1996 года, во время предвыборной молодёжной кампании «Голосуй или проиграешь!» по переизбранию Президента РФ, Якубович и популярный телеведущий Юрий Николаев совершили «Концертно-познавательный перелёт „Ельцин — наш Президент!"». Член партии «Единая Россия» с 2004 года. В феврале 2012 года вошёл в список доверенных лиц кандидата в президенты РФ Владимира Путина. В январе 2018 года был зарегистрирован доверенным лицом Владимира Путина на президентских выборах 18 марта 2018 года.