Основы искусства усвоил в реальном училище Елгавы у учителя рисования К. Виснера. В 1903 году консультировался также у Я. Валтерса и в 1902 – 04 годах в Риге у В. Пурвитиса.
Как активного участника революции 1905 года, его арестовали и заключили в Рижской Центральной тюрьме, в 1907 году художник эмигрировал в Финляндию, потом в Данию и Бельгию.
В 1908 – 13 годах Г. Элиас учился в Королевской академии художеств Брюсселя и короткое время в 1913 – 14 годах дополнялся в мастерской Ж. П. Лорана в Париже.
В 1914 году он вернулся в Латвию. В 1916 – 17 годах жил в Москве. В 1919 году работал в комиссии по защите работ искусства.
В выставках художник участвовал с 1913 года. Его работы были экспонированы в выставках группы Рижских художников. В 1967 году в Риге была организована его персональная выставка, а в Риге (1977) и Елгаве (1977, 1982, 1987) были памятные выставки художника.
1920 – 38 годах Г. Элиас был членом группы Рижских художников. С 1945 года – член Союза художников, с 1962 года – Народный художник ЛССР.
Художник был педагогом Латвийской академии художеств (1925 – 42, 1944 – 53), руководителем Фигуральной мастерской (1925 – 32), руководителем мастерской Станковой живописи (1944 – 53), с 1938 года – профессор (повторно утвержден в 1947 году).
Г. Элиас награжден несколькими премиями и стипендиями Фонда культуры (1922, 1924, 1928, 1929), Бельгийским орденом Леопольда II (1927), степенью выдающийся художника Латвийской Академии художеств (1934), орденом Трех Звезд 4-го разряда (1936), почетным дипломом Союза художников СССР в конкурсной выставке «Тематическая живопись» в Таллинне (1959).
