刘询能够登基为帝得益于两个方面，一是皇帝刘贺的无法无道，使得官员外戚都生出了废黜他的决心；二是霍光等人有实力废旧立新。
这次皇位变动经过了以下几个步骤：
大臣提出建议，建议通过诏旨形式被批准。
根据规定的程序颁布命令昭示天下。
那些建议虽以全体高级官员的名义提出，但是并不能指望它们获得即将被废除的皇帝的批准。于是这些建议就被提交给皇太后，皇太后是昭帝的十五岁的遗孀，也就是霍光的外孙女。自然，她对于霍光为首的官员的提议做出了批准，以皇太后的名义颁布批准让位建议之举是沿袭了吕后的做法，虽然这种做法多少有些争议，但是因为前朝有旧例可循，所以就被霍光等人毫不犹豫地采用了。与此同时，朝廷在言辞上对连续性的原则作了允诺，并且采取措施向开国皇帝的宗庙禀告了帝位继承变动的情况。
所以刘询得以继承帝位，不过是西汉“废旧立新”的一项尝试，甚至在霍光死后，霍氏家族还尝试着借此控制新的皇帝刘询，可惜事与愿违。既然霍氏家族与当朝皇帝的利益出现了冲突，宣帝刘询自然要对霍氏一门动手。
宣帝能够成为西汉中兴之君，自然有其非比寻常之处，他虽然身在民间，但对于皇朝内部的事情，却了若指掌，十八年来，他一直在史家的教育下，不断成长着，他要的只是一个机会。可是在他刚刚登基的时候，政府仍牢牢地控制在霍光手中；霍光的至亲和助手控制着禁军；他的儿子霍禹和侄孙霍山是朝廷的领袖。所以宣帝避其锋锐，对霍氏采取了怀柔拉拢的手段。
据传，当时刘询观察宫中局势，了解到自己很有可能会被推上皇帝宝座，然而他最担心的就是自己将来会成为一个傀儡，沦为霍家独掌大权的工具，因此，他才取许平君为妻，以防霍氏一门外戚权力的进一步扩大。许平君之父曾一度侍候武帝，后来又被委派到废帝刘贺的昌邑国任职。在昭帝死前不久，许平君为宣帝生一子，他就是后来的元帝。
宣帝刚即位，围绕皇后大位的问题，就出现了许多争议，大多数人赞成将霍光的一个女儿挑选出来，承继皇后大位、母仪天下。但皇帝坚决不同意，一者是为了防止霍家权力的进一步扩大；二来，他和许平君是结发妻子，感情深厚，不忍叫她受委屈。
因此，宣帝刘询坚持立许平君为后。宣帝把握时机，下了一道莫名其妙的诏书，声言自己在贫微之时曾经有一把旧剑，现在自己十分地想念它，众位爱卿能否为他将其找回来。
“旧剑”就是暗指许平君。群臣揣摩上意，开始一个个请立许平君为皇后。许平君于元平元年（公元前74年）被册立为皇后，不久，皇后怀孕。这就是“故剑情深”的典故。从此，这一浪漫典故开始流传，成为中国历史上一道浪漫的诏书，一个王子对贫女的许诺。
本始三年（公元前71年），许平君生下一女后，霍光的妻子霍显与御用女医淳于衍相勾结在滋补汤药中加入附子，让产后的许平君服用。许平君不久毒发，在痛苦中死去。汉宣帝非常悲痛，追封她为“恭哀皇后”，葬于杜陵南园（也称少陵）。一年后，霍光之女霍成君如愿以偿取代她为后。
此后，宣帝便一直韬光养晦，暗中积蓄实力，但是霍家的人却日渐嚣张。例如，霍光死后，他的埋葬奢侈豪华，随葬的陈设和服饰，如玉衣等，都是只有皇帝才能用的。而在霍光的葬礼上，霍氏一门的族人行为傲慢无礼，大事铺张，炫耀他们认为掌握得非常牢固的权力。不知不觉之间，宣帝仅存的对于霍光拥立自己为帝的感激之心，也在霍氏一门族人的嚣张跋扈之中消磨殆尽。
在霍光死后，皇帝开始培植自己的势力，最为典型的就是：将张安世任命为尚书令；并且任命当时最干练的魏相为相，而霍光死后，丞相的权力和尊严正在迅速地恢复；继而任命丙吉为御史大夫，又委以他的岳父许广汉以重任，逐渐把权力收归己手。