f(x) = (a*x + b) % m