И действительно, притязания правителя Газни с каждым днем становились все настойчивее; он зазывал ученых к себе, сулил им подарки… Правда, пока он остерегался звать к себе аль-Бируни, так как понимал, что хорезмшах ни на каких условиях не отпустит своего ближайшего советника. Ученый не только пользовался благосклонностью правителя, но и сам играл довольно значительную роль в политической жизни страны, причем выполнял и дипломатические поручения, требующие при исполнении особой тонкости.
Другие ученые также не польстились на обещания султана и под тем или иным предлогом отказывались от его милостей. Это стало раздражать султана Махмуда, и он потребовал, чтобы хорезмшах прислал ему ученых из Ургенча, дабы он «тоже имел честь воспользоваться их беседой». Но реальную пользу от поэтов правитель Газни видел только тогда, когда они воспевали его подвиги; ученых признавал, если они служили этой же цели… Аль-Бируни не захотел оставить своего правителя в беде, но хорезмшах Мамун вскоре погиб, и султан Махмуд двинул свое огромное войско на Хорезм.
Богатая событиями жизнь аль-Бируни впоследствии поражала своей необычностью и давала повод к возникновению многочисленных легенд, например, об обстоятельствах его переезда в Газни Добровольно ли он отправился в столицу султана Махмуда в поисках хорошего заработка или насильственно был уведен туда под стражей и в кандалах, как опасный преступник? Большинство исследователей склоняется ко второй версии: когда в 1017 году столица хорезмийского княжества была разрушена, великий ученый попал в плен и «в качестве пленника-заложника он вместе с другими видными хорезмийцами был отведен в Газну» и был даже там посажен в тюрьму. Индийский востоковед С. Барани считает, что в Джайпуре великий аль-Бируни находился в качестве узника — под стражей. A. M. Беленицкий отмечает следующее:
Одно время жизнь Бируни висела на волоске. Вероятно, то обстоятельство, что он был автором сочинения по истории карматства, послужило предлогом для обвинения его в неверии и принадлежности этому движению. Махмудом был отдан приказ о казни Бируни и другого близкого к нему ученого из Хорезма — Абд ас-Самада Луваля. Лишь благодаря заступничеству визиря… жизнь Бируни была спасена. Абд ас-Самад же был казнен.
П. Г. Булгаков, исследователь жизни и творчества аль-Бируни, считает, что если эти сведения и не отражают реальных фактов, то все равно имеют косвенные фольклорные свидетельства о недружелюбном отношении к ученому в Газни. Сам аль-Бируни нигде не сообщает об обстоятельствах перемены своего местожительства, но анализ его трудов говорит о подневольном переезде. Правда, некоторые ученые считают, что и в этом случае не надо сгущать краски о кандалах, вооруженной страже, тюрьме и т. д.
В Газни султан поселил знаменитого ученого в одном из дальних закоулков дворцовой крепости — на положении почти пленника, положив ему скудное жалованье и поставив такое условие: «Если хочешь, чтобы при мне счастье твое было с тобой, то говори не о своей науке, а говори то, что соответствует моему желанию». Невыполнение этого условия могло стоить ученому жизни, и некоторое время аль-Бируни жил относительно мирно с султаном Махмудом. Но скрытые, а порой и открытые столкновения между ними продолжались почти все время. Например, однажды аль-Бируни заступился за купцов из далеких северных земель, которых султан Махмуд обвинил во лжи, когда они рассказали ему о полярной ночи и северном сиянии. Неприязненно встретили прославленного ученого и придворные звездочеты, а осведомители сообщали султану о каждом его шаге, каждом произнесенном слове. В Газни ученый вел замкнутый образ жизни, и только работа оставалась его единственной радостью.
Будучи безразличным к материальным благам и пренебрегая обыденными делами, он всецело предавался приобретению знаний, постоянно сгибаясь над составлением книг… Его рука никогда не расставалась с пером, глаза постоянно делали наблюдения, а сердце было устремлено к размышлению. Только в течение двух дней в году — в день Нового года и в праздник Михрджана — он отдавался заботам по приобретению запасов пищи и одежды. В остальные дни года он отгонял от себя эти заботы.
Хотя в своем знаменитом труде «Описание Индии» аль-Бируни с горечью отмечал, что его «время не благоприятствует науке», в Газни он написал задуманную еще в прошлые годы «Историю Хорезма», дошедшую до нас лишь в отрывках, закончил «Тахдид» — работу по геодезии, обширный труд «Обучение началам искусства астрологии». Однако, вопреки названию, астрологии здесь уделено совсем немного места: ученый не верил астрологическим исчислениям и только по обязанности составлял гороскопы для султана Махмуда и его приближенных.