Nilai-p adalah probabilitas — dengan asumsi bahwa hipotesis nol benar — untuk mengamati data yang setidaknya sepadan ekstremnya dengan sampel aktual. Nilai-p kecil berarti data yang diamati tidak mungkin terjadi jika benar, memberikan bukti menentang .
Konvensi: tolak jika (umumnya ). Ambang batas adalah tingkat galat Tipe I yang Anda terima.
Kesalahpahaman umum (yang ditekankan oleh setiap profesor statistika):
- bukan "probabilitas bahwa benar."
- bukan "probabilitas bahwa hasil tersebut disebabkan oleh kebetulan."
- Nilai kecil tidak berarti efek besar — hanya efek yang tidak mungkin di bawah . Dengan sampel besar, efek yang sangat kecil sekalipun menjadi "signifikan secara statistik."
- bukan bukti bahwa benar — hanya bukti yang tidak cukup untuk menolaknya.
American Statistical Association (2016) secara eksplisit memperingatkan agar tidak memperlakukan nilai-p sebagai keputusan biner "signifikan / tidak"; laporkan ukuran efek dan selang kepercayaan bersamanya.