Cuando descargas una aplicación en Google Play, utilizas el sistema de pago de Google por defecto. Incluso si el pago actual ha sido realizado con PayPal, SMS, u otra forma de pago, queda registrado en los sistemas de Google, y no hay forma evitar esto.
Cuando te registras en Google Play, se crea automáticamente una cuenta similar en payments.google.com. Esta cuenta contiene toda la información al respecto de las compras que se han hecho con ella. Tu dirección de Gmail te sirve como inicio de sesión, mientras que tu contraseña es la misma que tu cuenta de Google.