В сборной России Аршавин дебютировал в 20-летнем возрасте 17 мая 2002 года в игре Россия — Белоруссия на турнире «Кубок LG» в Москве, в рамках подготовки сборной России к чемпионату мира 2002 года. В течение следующих двух лет он сыграл за национальную команду только в двух матчах, во втором из которых (13 февраля 2003, Румыния — Россия, 2:4) открыл счёт своим забитым мячам за сборную. В 2003 году Аршавин выступал в молодёжной сборной России, сыграл 5 матчей, забил 1 гол.
В рамках подготовки к чемпионату Европы 2004 года в Португалии Аршавин сыграл свой четвёртый матч за сборную (28 апреля 2004, Норвегия — Россия, 3:2), но в заявку на турнир включён не был. После Евро-2004 нападающий «Зенита» стал постоянно вызываться в команду и быстро закрепился в её основном составе. В 2005 и 2006 годах Аршавин становился лучшим бомбардиром сборной, был капитан команды в 2006—2007 годах. Всего за сборную России сыграл 41 матч, забил 15 голов.
Из-за того, что сборная России не смогла завоевать право выступления на чемпионате мира 2006 года в Германии, первым крупным турниром, в котором Аршавин смог принять участие в составе национальной команды, стал чемпионат Европы 2008 года.