Data from natural sources show counter-intuitive distribution patterns for the leading digits to the left of the decimal point and the digit 1 is observed more frequently than all other numbers. This pattern, which was first described by Newcomb and later confirmed by Benford, is used in financial and tax auditing to detect fraud. Deviations from the pattern indicate possible falsifications. Anesthesiology journals are affected not only by ghostwriting and plagiarism but also by counterfeiting. In the present study 20 publications in anesthesiology known to be falsified by an author were investigated for irregularities with respect to Benford’s law using the χ2-test and the Z-test. In the 20 retracted publications an average first-digit frequency of 243.1 (standard deviation SD ±118.2, range: 30–592) and an average second-digit frequency of 132.3 (SD ±72.2, range: 15–383) were found. The observed distribution of the first and second digits to the left of the decimal point differed significantly (p< 0.01) from the expected distribution described by Benford. Only the observed absolute frequencies for digits 3, 4 and 5 did not differ significantly from the expected values. In an analysis of each paper 17 out of 20 studies differed significantly from the expected value for the first digit and 18 out of 20 studies varied significantly from the expected value of the second digit. Only one paper did not vary significantly from expected values for the digits to the left of the decimal. For comparison, a meta-analysis using complex mathematical procedures was chosen as a control. The analysis showed a first-digit distribution consistent with the Benford distribution. Thus, the method used in the present study seems to be sensitive for detecting fraud. Additional statements of specificity cannot yet be made as this requires further analysis of data that is definitely not falsified. Future studies exploring conformity might help prevent falsified studies from being published.ZusammenfassungIn natürlichen Datensätzen weisen die Anfangsziffern links des Dezimalzeichens ein kontraintuitives Verteilungsmuster auf; die Ziffer 1 taucht deutlich häufiger auf als alle anderen. Erstbeschreiber dieser Gesetzmäßigkeit war Newcomb; bestätigt wurde sie später von Benford. Im Financial Auditing wird sie zur Aufdeckung von Betrug verwendet, denn Abweichungen von dem Verteilungsmuster weisen auf mögliche Fälschungen hin. Anästhesiezeitschriften sind nicht nur von Ghostwriting und Plagiaten, sondern auch von Manuskripten mit gefälschten Datensätzen betroffen. In der vorgestellten Untersuchung wurden 20 als gefälscht bekannte Publikationen mit dem χ2- und dem Z-Test im Hinblick auf das Benford-Gesetz untersucht. In diesen Veröffentlichungen wurden die durchschnittlichen Anfangszifferhäufigkeiten mit 243,1 [Standardabweichung (SD) 118,2, „range“ 30–592] für die erste und 132,3 (SD 72,2, Range 15–383) für die zweite Ziffer ermittelt. Die beobachteten Häufigkeiten der ersten und zweiten Ziffern links des Dezimalzeichens wich signifikant (p < 0,01) von der nach Benford erwarteten ab. Lediglich die beobachteten absoluten Häufigkeiten der Ziffern 3, 4 und 5 unterschieden sich nicht signifikant von den erwarteten Werten. Nach der Einzelanalyse jeder Publikation wich in 17 von 20 Studien die beobachtete Häufigkeit der ersten Ziffer signifikant von der erwarteten ab; in 18 von 20 traf dies auf die Häufigkeit der zweiten Ziffer zu. Nur in einer Veröffentlichung zeigten sich keine signifikanten Unterschiede zwischen beobachteten und erwarteten Werten für die Ziffern links des Dezimalzeichens. Die Anfangsziffernverteilung in einer zu Kontrollzwecken herangezogenen Metaanalyse mit komplexen mathematischen Verfahren entsprach der Benford-Verteilung. Damit scheint die Methode, die in der hier vorgestellten Untersuchung verwendet wurde, sensitiv für die Aufdeckung von Datenbetrug zu sein. Weitergehende Aussagen zur Spezifität sind noch nicht möglich; dazu sind mehr definitiv nichtgefälschte Datensätzen zu untersuchen. Künftige Konformitätsstudien können möglicherweise dazu beitragen, dass gefälschte Studien nicht veröffentlicht werden.
[1]
R. Steen.
Misinformation in the medical literature: What role do error and fraud play?
,
2011,
Journal of Medical Ethics.
[2]
Ben Jann,et al.
Benford’s Law and Fraud Detection: Facts and Legends
,
2010
.
[3]
D. Fanelli.
How Many Scientists Fabricate and Falsify Research? A Systematic Review and Meta-Analysis of Survey Data
,
2009,
PloS one.
[4]
S. Yentis.
Lies, damn lies, and statistics *
,
2012,
Anaesthesia.
[5]
Steven L Shafer,et al.
Tattered threads.
,
2009,
Anesthesia and analgesia.
[6]
S. Yentis.
Another kind of ethics: from corrections to retractions
,
2010,
Anaesthesia.
[7]
黄亚明.
MedScape
,
2009
.
[8]
Mark J. Nigrini.
Digital Analysis Using Benford's Law: Tests and Statistics for Auditors
,
2001
.
[9]
David J. Hand,et al.
Statistical fraud detection: A review
,
2002
.
[10]
Simon Newcomb,et al.
Note on the Frequency of Use of the Different Digits in Natural Numbers
,
1881
.
[11]
T. Hill.
A Statistical Derivation of the Significant-Digit Law
,
1995
.
[12]
J. Pandit.
On statistical methods to test if sampling in trials is genuinely random
,
2012,
Anaesthesia.
[13]
T. Hill.
The Significant-Digit Phenomenon
,
1995
.
[14]
J. Carlisle,et al.
The analysis of 168 randomised controlled trials to test data integrity
,
2012,
Anaesthesia.
[15]
R. Epstein,et al.
Statistical Modeling of Average and Variability of Time to Extubation for Meta-Analysis Comparing Desflurane to Sevoflurane
,
2010,
Anesthesia and analgesia.
[16]
Stefan Günnel,et al.
Does Benford’s Law hold in economic research and forecasting?
,
2009
.
[17]
G. Schüpfer,et al.
Vom Finanz- zum Wissenschaftsbetrug
,
2012,
Der Anaesthesist.
[18]
Caroline White,et al.
Suspected research fraud: difficulties of getting at the truth
,
2005,
BMJ : British Medical Journal.
[19]
Tom Fearn,et al.
Chemometric Space: Sensitivity and specificity
,
2009
.
[20]
H. Dominic Covvey,et al.
Adaptive Fraud Detection Using Benford's Law
,
2006,
Canadian Conference on AI.
[21]
Toby Walsh,et al.
Benford's Law
,
2001
.
[22]
Cindy Durtschi,et al.
The effective use of Benford's Law to assist in detecting fraud in accounting data
,
2004
.
[23]
D. Altman,et al.
Statistics Notes: Diagnostic tests 1: sensitivity and specificity
,
1994
.
[24]
C. Smith.
Diagnostic tests (1) – sensitivity and specificity
,
2012,
Phlebology.