Нашел на просторах "интернетов" интересный файлик frsqrt.hh в котором собраны большинство способов вычисления обратного корня квадратного.
Вот цитата из комментария которая перечисляет присутствующие техники:

Optimisations for/by
    Altivec   : USE_RSQRT_ALTIVEC
    SSE/SSE2  : USE_RSQRT_SSE / USE_RSQRT_SSE2
    Lookup    : Lookup table approach by Ken Turkowski
                USE_RSQRT_LOOKUP
    Magic No. : Magic numbers for initial guess
                USE_RSQRT_MAGIC
    Fallback  : standard implementation via libm
                USE_RSQRT_LIBM

Соббсно ссылочка - http://www.hlnum.org/english/doc/frsqrt/frsqrt.hh

PS. Реализация из исходников Quake 3 здесь тоже присутствует