Você pode acessar o site PagSeguro com o seu CPF apenas através do site. Faça o seguinte:

1. Acesse a página de login
2. Digite o número do CPF (sem traços e sem pontos)
3. Em seguida digite a senha e conclua em Entrar

Caso tenha mais de uma conta com esse CPF no PagSeguro só será possível fazer o login com e-mail.