問題で \( a,b \) は \( 3 \) で割り切れないと定義されているため、少なくとも \( a \equiv \pm1, b \equiv \pm 1 (\mod3)\) とおけます。そこから \( a^3+b^3 \) が \( 81 \) となる条件を探してみましょう。
【解答】
\( a,b \) は \( 3 \) で割り切れないため、\( a \equiv \pm1, b \equiv \pm 1(\mod3)\) とおける。
i) \( a \equiv 1, b \equiv 1 \) のとき
$$ a^3+b^3 \equiv 1^3 + 1^3 = 2 $$
ii) \( a \equiv 1, b \equiv -1 \) のとき
$$ a^3+b^3 \equiv 1^3 + (-1)^3 = 0 $$
iii) \( a \equiv -1, b \equiv 1 \) のとき
$$ a^3+b^3 \equiv (-1)^3 + 1^3 = 0 $$
iv) \( a \equiv -1, b \equiv -1 \) のとき
$$ a^3+b^3 \equiv (-1)^3 + (-1)^3 = -2 \equiv 1 $$
\( a^3+b^3\) が \( 81 \) の倍数となるためには、少なくとも \( 3 \) の倍数でなければならないので、ii)またはiii)でなければならない。ここで、\( a \equiv 1, b \equiv -1 \) としても一般性を失わないので、
\begin{equation}
\left\{
\begin{array}{ll}
a=3m+1 & (mは0以上の整数)\\
b=3n-1 & (nは1以上の整数)\\
\end{array}
\right. \cdots ①
\end{equation}
とおけるので、
\begin{eqnarray}
a^3+b^3 &=& (a+b)(a^2-ab+b^2) \\
&=& \{(3m+1)+(3n-1)\}\{(3m+1)^2-(3m+1)(3n-1)+(3n-1)^2\} \\
&=& 3(m+n)\{9(m^2+m-mn+n^2-n)+3\} \\
&=& 9(m+n)\{3(m^2+m-mn+n^2-n)+1\} \cdots ②
\end{eqnarray}
ここで、②の右辺の \( 2 \) つ目の( )は \( 3 \) の倍数ではない。\( a^3+b^3 \) が \( 81 \) の倍数となるためには、\( m+n \) が \( 9 \) の倍数でなければならない。
$$ a+b = (3m+1) + (3n-1) = 3(m+n) $$
だから、\( a+b \) は\( 27 \) の倍数となる。いま、\( a^2+b^2 \) の最小値を考えるので \( a+b = 27 \) となり、\( b= 27 -a \) だから、
\begin{eqnarray}
a^2+b^2 &=& a^2 + (27-b)^2 \\
&=& 2a^2 -2 \times 27a+27^2 \\
&=& 2 \left( a -\frac{27}{2} \right)^2 + \frac{27^2}{2} \cdots ③
\end{eqnarray}
③は \( a=13または14 \) のとき、最小値 \( 365 \) をとる。
以上より、\( (a,b)=(13,14)または(14,13) \) のとき、\( a^2+b^2 \) は最小値 \( 365 \) となる。