Родился Глеб Иванович в 1879 году в Тифлисе (Тбилиси) в семье дворянина, действительного статского советника Ивана Дмитриевича Бокия и его супруги Александры Кузьминичны. Деятельность предков Глеба непосредственным образом связана со становлением Российского государства. Так, Федор Бокий-Печихвостский, владимирский подкоморий (третейский судья) в Литве, упоминается в переписке Ивана Грозного с Андреем Курбским. Прадедом Глеба Бокия был известный русский математик Михаил Васильевич Остроградский. Отец Глеба Бокия – Иван Дмитриевич – действительный статский советник, ученый и преподаватель, автор учебника «Основания химии», по которому училось не одно поколение гимназистов. Старший брат и сестра Глеба пошли по стопам отца. Борис Бокий окончил Санкт-Петербургский горный институт, стал квалифицированным инженером, потом преподавал в том же институте. Он считается одним из основоположников отечественного горного дела. Сестра Наталья выбрала специальность историка, она не один год преподавала в Сорбонне.
Казалось бы, такая же блестящая карьера ожидает и юного Глеба. И действительно, поначалу Глеб вел себя вполне подобающим образом. В 1896 году, после окончания реального училища, он, вслед за своим старшим братом, поступил в Горный институт. Но уже в следующем году стал членом петербургского «Союза борьбы за освобождение рабочего класса». Именно участие в делах этого революционного общества определило выбор жизненного пути Глеба Бокия.
Справедливости ради следует сказать, что настоящим революционером Глеб стал всё-таки с подачи своего добропорядочного брата. В 1898 году Борис пригласил его и сестру принять участие в демонстрации студентов. Произошло столкновение с полицией, все трое были арестованы. Глеба к тому же еще и избили. Их освободили по ходатайству отца, но его больное сердце не выдержало позора, и спустя несколько дней отец скончался.
Потрясенные этим горем, братья приняли диаметрально противоположные решения. Если Борис, считая себя виновником смерти отца, совсем отошел от политики, то Глеб, наоборот, окончательно встал на путь профессионального революционера.
С 1900 года он – член Российской социал-демократической рабочей партии (РСДРП). В 1902 году был сослан в Восточную Сибирь за подготовку демонстрации. В 1904 году Бокий введен в состав Петербургского комитета РСДРП как организатор объединенного комитета социал-демократической фракции высших учебных заведений. В апреле 1905 году арестован по делу «Группы вооруженного восстания РСДРП». Амнистирован по октябрьскому манифесту, но в 1906 году вновь арестован по делу «Сорока четырех» (Петербургского комитета и боевых дружин). Всего большевик Бокий двенадцать раз (!) подвергался арестам, провел полтора года в одиночной камере, два с половиной года – в сибирской ссылке, от побоев в тюрьме он получил травматический туберкулез. Но каждый раз, оказавшись на свободе, вновь включался в революционную борьбу. На протяжении 20 лет (с 1897 по 1917 годы) Бокий являлся одним из руководителей петербургского большевистского подполья.
В декабре 1916 года Бокий вошел в состав Русского бюро ЦК РСДРП. А сразу после падения самодержавия он возглавил в Русском бюро отдел сношений с провинцией. В октябре 1917 года он – член петербургского военно-революционного комитета, один из руководителей вооруженного восстания.
Из близких знакомых Бокия раннего периода особо следует отметить Павла Васильевича Мокиевского – известного журналиста и врача, возглавлявшего отдел философии журнала «Русское богатство». В более узком кругу он был известен еще и своими оккультными увлечениями, основанными на теософских доктринах. Кроме того, есть сведения, что он числился членом ложи мартинистов.
Со студентом Бокием Мокиевский познакомился как с одним из товарищей своего сына, также учившегося в Горном институте. На близость отношений Бокия с Мокиевским указывает то, что, когда после одного из арестов Глеб оказался за решеткой, крупный залог в размере трех тысяч рублей за него внес именно Мокиевский.
Возможно, именно этот доморощенный масон повлиял на атеиста Бокия, заставив его впервые усомниться в том, что современная материалистическая наука исчерпывающе описывает окружающий мир. Но до того момента, когда сомнения переросли в уверенность, должны были пройти еще годы и годы.
В феврале—марте 1918 года, в период наступления немецких войск, Бокий становится членом Комитета революционной обороны Петрограда. С марта он – заместитель председателя Петроградской ЧК, а после убийства Моисея Урицкого – председатель. Затем Бокий возглавлял Особые отделы Восточного и Туркестанского фронтов, был членом Турккомиссии ВЦИК и СНК РСФСР и полномочным представителем ВЧК. Однако вскоре Бокию была поручена совершенно новая работа.