Entweder du weisst, dass das grösstmögliche Produkt bei der Quadratzahl rauskommt, also halbierst du 123. Das gibt in diesem Fall allerdings 61.5 und als Produkt 3782.25; wenn du ganze Zahlen willst, dann nimm 61 und 62.
Falls du das nicht weisst, dann geht das Ganze auch per Extremwertrechnung. Hauptbedingung wäre P(a,b) = a*b, Nebenbedingung 123 = a + b. Umgeformt ergibt letztere a = 123-b, in die HB eingesetzt kommt man damit zur Zielfunktion P(b) = (123-b)*b = 123b-b^2.
Diese Zielfunktion leitest du ab und setzt sie gleich Null, was P'(b) = 123-2b = 0 ergibt. Nun noch auflösen: 123 = 2b <=> b = 61.5. Daraus folgt, dass auch a = 61.5 sein muss.
Das Resultat ist, wie du sieht, dasselbe wie in der schnelleren Version oben. ;-)