【解説】
\( (x^2+x+1)(x^2-x+1) \) で割ったときの余りは、3次以下の整式となるから、 \( ax^3+bx^2+cx+d \) とおき、 \( x^2+x+1=0、x^2-x+1=0 \) の解を代入して求めることもできますが、計算が結構たいへんです。余りの設定方法を工夫します。
【解答】
題意より、
\begin{equation}
\left\{
\begin{array}{lll}
P(x) & = & (x^2+x+1)Q_1(x)+x+1 \cdots ① \\
P(x) & = & (x^2-x+1)Q_2(x)+x-1 \cdots ② \\
\end{array}
\right.
\end{equation}
ここで、\( Q_1(x) \) を \( x^2-x+1 \) で割った余りを \( ax+b \) とおくと、①より、
\begin{eqnarray}
P(x) & = & (x^2+x+1) \left\{ (x^2-x+1)Q_3(x)+ax+b \right\} +x+1 \\
& = & (x^2+x+1)(x^2-x+1)Q_3(x)+(x^2+x+1)(ax+b)+x+1 \cdots ③
\end{eqnarray}
同様に、 \( Q_2(x) \) を\( x^2+x+1 \) で割った余りを \( cx+d \) とおくと、②より、
\begin{eqnarray}
P(x) & = & (x^2-x+1) \left\{ (x^2+x+1)Q_4(x)+cx+d \right\} +x-1 \\
& = & (x^2-x+1)(x^2+x+1)Q_4(x)+(x^2-x+1)(cx+d)+x-1 \cdots ④
\end{eqnarray}
よって、\( (x^2+x+1)(x^2-x+1) \) で割った余りは、
\begin{equation}
\left\{
\begin{array}{ll}
(x^2+x+1)(ax+b)+x+1 & \cdots ⑤ \\
(x^2-x+1)(cx+d)+x-1 & \cdots ⑥
\end{array}
\right.
\end{equation}
となり、⑤⑥は等しくなるので、
\begin{equation}
(x^2+x+1)(ax+b)+x+1 = (x^2-x+1)(cx+d)+x-1 \\
ax^3+(a+b)x^2+(a+b)x+b+1 = cx^3 + (-c+d)x^2+(c-d)x+d-1
\end{equation}
係数を比較して、
\begin{equation}
\left\{
\begin{array}{l}
a = c \\
a+b = -c+d \\
a+b = c-d \\
b+1 = d-1
\end{array}
\right.
\end{equation}
これらを解くと、\( (a,b,c,d)=(1,-1,1,1) \) となる。よって⑤より求める余りは、
\begin{eqnarray}
(x^2+x+1)(x-1)+x+1 & = & x^3-1+x+1 \\
& = & x^3+x\cdots (答)
\end{eqnarray}