【解説】
まずは実験してみます。\( n^6 \) はちょっと計算がたいへんですね・・・。
\begin{array}{c|ccc|c}
\hline
n & n^2+2 & n^4+2 & n^6+2 & A_n \\
\hline
1 & 3 & 3 & 3 & 3 \\
2 & 6 & 18 & 66 & 6 \\
3 & 11 & 83 & 731 & 1 \\
4 & 18 & 258 & 4098 & 6 \\
5 & 27 & 627 & 15627 & 3 \\
6 & 38 & 1298 & 46658 & 2 \\
\hline
\end{array}
\( A_n \) は \( 6 \) の約数になっていそうです。次に \( \mod6 \) を調べてみます。
\begin{array}{c|ccc}
\hline
n(\mod6) & n^2+2 & n^4+2 & n^6+2 &\\
\hline
0 & 2 & 2 & 2 \\
\pm1 & 3 & 3 & 3 \\
\pm2 & 6\equiv0 & 18\equiv0 & 66\equiv0 \\
\pm3 & 11\equiv5 & 83\equiv5 & 731\equiv5 \\
\hline
\end{array}
\( 6 \) で割った余りが \( n^2+2, n^4+2, n^6+2 \) で同じとなり、\( \mod6 \) で場合分けすればよさそうです。
【解答】
\begin{eqnarray}
n^4+2 &=& (n^2+2)(n^2-2)+6 \cdots ① \\
n^6+2 &=& (n^2+2)(n^4-2n^2+4)-6 \cdots ②
\end{eqnarray}
ユークリッドの互除法から、①より \( n^4+2 \) と \( n^2+2 \) の最大公約数は、\( n^2+2 \) と \( 6 \) の最大公約数と等しくなる。また②より \( n^6+2 \) と \( n^2+2 \) の最大公約数は、\( n^2+2 \) と \( 6 \) の最大公約数と等しくなる。
よって、\( A_n \) は \( n^2+2 \) と \( 6 \) の最大公約数を求めればよい。
ここで、\( n^2+2 \) の \( \mod 6 \) を考える。
i) \( n \equiv 0 ( \mod6 ) \) のとき
$$ n^2+2 \equiv 0+2 = 2 $$
∴求める公約数は、\( 6 \) と \( 2 \) の最大公約数に等しく、\( 2 \) となる。
ii) \( n \equiv \pm1 ( \mod6 ) \) のとき
$$ n^2+2 \equiv 1+2 = 3 $$
∴求める公約数は、\( 6 \) と \( 3 \) の最大公約数に等しく、\( 3 \) となる。
iii) \( n \equiv \pm2 ( \mod6 ) \) のとき
$$ n^2+2 \equiv 4+2 = 6 \equiv 0 $$
∴求める公約数は、\( 6 \) となる。
iv) \( n \equiv 3 ( \mod6 ) \) のとき
$$ n^2+2 \equiv 9+2 = 11 \equiv 5 $$
∴求める公約数は、\( 6 \) と \( 5 \) の最大公約数に等しく、\( 1 \) となる。
i)~iv)より
\begin{equation}
A_n = \left\{
\begin{array}{cl}
2 & (n \equiv 0(\mod6)のとき) \\
3 & (n \equiv \pm1(\mod6)のとき) \\
6 & (n \equiv \pm2(\mod6)のとき) \\
1 & (n \equiv 3(\mod6)のとき) \\
\end{array}
\right. \cdots (答)
\end{equation}