Solving A2,
⇒A2=[2a−3b]×[2a−3b]⇒[2×2+(−3)×aa×2+b×a2×(−3)+(−3)×ba×(−3)+b×b]⇒[4−3a2a+ab−6−3b−3a+b2].
Given,
A2 = I,
[4−3a2a+ab−6−3b−3a+b2]=[1001].
∴ 4 - 3a = 1,
⇒ -3a = -3
⇒ a = 1.
∴ -6 - 3b = 0,
⇒ -3b = 6
⇒ b = -2.
Hence, a = 1 and b = -2.