【解説】
因数分解で積の形にする典型的な整数問題です。整数問題では、そのほかに「とりうる範囲を絞る」「余りを考える」といった方法があります。
【解答】
\begin{eqnarray}
p &=& a^2-a+2ab+b^2-b \\
&=& (a^2+2ab+b^2) – (a+b) \\
&=& (a+b)^2 – (a+b) \\
&=& (a+b)(a+b-1) \cdots ①
\end{eqnarray}
ここで \( p \) は素数だから①の右辺は \( p,1 \) のいずれかとなる。\( a+b > a+b-1 \) だから、
\begin{equation}
\left\{
\begin{array}{cccc}
a+b & = & p & \cdots ② \\
a+b-1 & = & 1 & \cdots ③
\end{array}
\right.
\end{equation}
③より \( a+b=2 \) となる。ここで \( a\ge1, b\ge1 \) だから、 \( a=b=1 \) のみが解となる。このとき②より \( p=2 \)。
よって求める \( a,b \) は、
$$ (a,b)=(1,1) \cdots (答)$$