Matematik, matematisk problemløsning