The small impact of p-hacking marginally significant results on the meta-analytic estimation of effect size

Botella, Juan; Suero, Manuel; Durán, Juan I.; Blázquez, Desirée

Publication:
The small impact of p-hacking marginally significant results on the meta-analytic estimation of effect size

dc.contributor.author	Botella, Juan
dc.contributor.author	Suero, Manuel
dc.contributor.author	Durán, Juan I.
dc.contributor.author	Blázquez, Desirée
dc.date.accessioned	2022-07-05T07:13:45Z
dc.date.available	2022-07-05T07:13:45Z
dc.date.issued	2021
dc.description.abstract	La etiqueta p-hacking (pH) se refiere a un conjunto de prácticas oportunistas destinadas a hacer que sean significativos algunos valores p que deberían ser no significativos. Algunos han argumentado que debemos prevenir y luchar contra el pH por varias razones, especialmente debido a sus posibles efectos nocivos en la evaluación de los resultados de la investigación primaria y su síntesis meta-analítica. Nos focalizamos aquí en el efecto de un tipo específico de pH, centrado en estudios marginalmente significativos, en la estimación combinada del tamaño del efecto en el meta-análisis. Queremos saber cuánto deberíamos preocuparnos por su efecto de sesgo al evaluar los resultados de un meta-análisis. Hemos calculado el sesgo en una variedad de situaciones que parecen realistas en términos de prevalencia y de la definición operativa del pH. Los resultados muestran que en la mayoría de las situaciones analizadas el sesgo es inferior a una centésima (± 0.01), en términos de d o r. Para alcanzar un nivel de sesgo de cinco centésimas (± 0.05), tendría que haber una presencia masiva de este tipo de pH, lo que parece poco realista. Hay muchas buenas razones para luchar contra el pH, pero nuestra conclusión principal es que entre esas razones no se incluye que tenga un gran impacto en la estimación meta-analítica del tamaño del efecto.	es
dc.description.abstract	The label p-hacking (pH) refers to a set of opportunistic practices aimed at making statistically significant p values that should be non-significant. Some have argued that we should prevent and fight pH for several reasons, especially because of its potential harmful effects on the assessment of both primary research results and their meta-analytical synthesis. We focus here on the effect of a specific type of pH, focused on marginally significant studies, on the combined estimation of effect size in meta-analysis. We want to know how much we should be concerned with its biasing effect when assessing the results of a meta-analysis. We have calculated the bias in a range of situations that seem realistic in terms of the prevalence and the operational definition of pH. The results show that in most of the situations analyzed the bias is less than one hundredth (± 0.01), in terms of d or r. To reach a level of bias of five-hundredths (± 0.05), there would have to be a massive presence of this type of pH, which seems rather unrealistic. We must continue to fight pH for many good reasons, but our main conclusion is that among them is not that it has a big impact on the meta-analytical estimation of effect size.	es
dc.format	application/pdf	es
dc.format.extent	11	es
dc.identifier.citation	anales de psicología / annals of psychology, 2021, vol. 37, nº 1
dc.identifier.doi	https://doi.org/10.6018/analesps.433051
dc.identifier.issn	0212-9728
dc.identifier.issn	1695-2294
dc.identifier.uri	http://hdl.handle.net/10201/122125
dc.language	eng	es
dc.publisher	Universidad de Murcia. Servicio de Publicaciones	es
dc.relation	Sin financiación externa a la Universidad	es
dc.rights	info:eu-repo/semantics/openAccess	es
dc.rights	Attribution-NonCommercial-NoDerivatives 4.0 Internacional	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/4.0/	*
dc.subject	p-hacking	es
dc.subject	Tamaño del efecto	es
dc.subject	Meta-análisis	es
dc.subject	Effect size	es
dc.subject	Meta-analysis	es
dc.subject.other	CDU::1 - Filosofía y psicología::159.9 - Psicología	es
dc.title	The small impact of p-hacking marginally significant results on the meta-analytic estimation of effect size	es
dc.title.alternative	El pequeño impacto del “haqueo” de resultados marginalmente significativos sobre la estimación meta-analítica del tamaño del efecto	es
dc.type	info:eu-repo/semantics/article	es
dspace.entity.type	Publication	es