Deine Rechnung (auf den ersten Blatt) ist richtig bis \(2x+3y=0\). Dies muss man in die Nebenbedingung einsetzen:$$\begin{aligned}2x+3y&=0 \implies x = - \frac 32 y \\ x^2 + y^2 &= \frac {13}4 \\ \frac 94 y^2 + y^2 &= \frac {13}4 \implies y_{1,2} = \pm 1\end{aligned}$$Daraus folgen die beiden Lösungen \((-3/2;\, 1)\) und \((3/2;\, -1)\). Setzt Du die beiden Koordinaten in die zu optimierende Funktion \(f\) ein, so siehst Du wo das Maximum und wo das Minimum ist.
Mache Dir das am besten graphisch klar:
~plot~ sqrt(13/4-x^2);-sqrt(13/4-x^2);(3x-5/2)/2;{3/2|-2/2};[[-3|3|-2|2]] ~plot~
Die grüne Gerade ist das 0-Niveau der Funktion \(f\). \(f\) bildet eine Ebene im \(\mathbb R^3\), die in Richtung \((3;\,-2)\) ansteigt (nach rechts unten). Das Maximum liegt also bei \((3/2;\, -1)\)