Heute wurde vom Finanzministerium eine Studie freigegeben auf die das Land schon lange gewartet hat: Die Auftragsforschung aus dem Jahr 2017 schlägt Wellen und musste im Zuge von Aktenlieferungen an den Untersuchungsausschuss des Parlamentes veröffentlicht werden. Zugänglich ist dieses Konvolut an Sonderlichkeiten über die Homepage des österreichischen Finanzministeriums: Link zur Studie. Hier auf dem Sociokommunikativ-Scienceblog ist wieder Zeit für eine kleine Studienanalyse. Beinschab ist die Markt- und Meinungsforscherin, deren Firma dieses Dokument produziert hat.

Die wissenschaftliche Redlichkeit bei der Beauftragung durch österreichische Institutionen scheint ja nicht immer im Fokus zu stehen und war in der Vergangenheit schon öfter Thema in diesem Scienceblog. Ein weiteres Beispiel wurde heute endlich öffentlich zugänglich. Die Studien wurden, und das ist einer der Skandale an dem sich die österreichische Öffentlichkeit derzeit abarbeiten muss, beauftragt um dem damaligen Noch-Nicht-Kanzler Kurz zu helfen. Dieser hatte damals noch kein Budget via seiner Partei der ÖVP, da er noch nicht deren Obmann war. Vermutet wird – die Prozesse laufen noch und es gilt die Unschuldsvermutung – dass diese Studien im Finanzministerium beauftragt wurden, um die Grundlage für die weiteren politischen Schritte zu schaffen. Kurz war bekanntlich immer sehr an Meinungsumfragen und Ähnlichem interessiert. Und da gerade die Zeit der Beurteilung von Bachelor- und Masterarbeiten ist, passt es gut das etwas genauer anzusehen.

Was sticht ins Auge?

Layout und Format: Die Gestaltung des Konvolutes hat mit einer Studie nichts zu tun. Das “Produkt” besteht hauptsächlich aus zusammengestellten PowerPoint-Folien. Ob die schlechte Kopie Absicht ist oder die Erstversion schon so ausgesehen hat, lässt sich nicht sagen. Der erste Fließtext findet sich auf Seite 39, ist aber nur 2 Seiten lang. Dann beginnen wiederum weitere Folien, dazwischen finden sich Tabellen, dann wiederum weitere Folien.

Inhalte: Das Dokument besteht aus mehreren Teilen. Die ersten 40 Seiten sind die “Ergebnisse qualitative Studie: Wirtschafts- und Budgetpolitik”. Die nächsten 28 Seiten sind mit “Aktuellen Themen” aus dem Jänner und April 2017 gefüllt und bestehen hauptsächlich aus Tabellen ohne jegliche Erklärungen. Die restlichen Inhalte ab Seite 69 sind mit einer weiteren PowerPoint-Präsentation zum Thema “Ergebnisse Antraglose Arbeitnehmerveranlagung” gefüllt. Darauf folgt ab Seite 87 eine sehr kurze PowerPoint mit nur 4 Slides zum Thema “Ergebnisse Zufriedenheit mit der Finanzverwaltung”.

Methodik der quantitativen Anteile: Alle Inhalte ab Seite 28 beziehen sich auf Onlinebefragungen. Die Stichprobengröße ist angegeben. Auffällig ist, dass es keinerlei Texte gibt. Beim Abschnitt ab Seite 69 gibt es zumindest Grafiken, die die Ergebnisse darstellen. Als sehr ungewöhnlich können die Seiten 41 bis 68 bezeichnet werden. Ungewöhnlich ist schon unkommentiert Tabellen mit Zahlenmaterial aus Befragungen zu verwenden und diese auf Folien zu stellen. Dies dann als Studie zu abzugeben entspricht in keinem Fall einer guten, wissenschaftlichen Praxis.

Beispielseite aus dem quantitativen Teil der “Studie” – S. 45

Sämtliche dargestellten Daten in diesen Teilen sind rein deskriptive Übersichten in Tabellenform. Eine weitergehende statistische Auswertung, die Darstellung von Zusammenhängen und die Interpretation der Daten, existieren in den Unterlagen nicht. Diese bräuchte es aber, um eine Einordnung der Ergebnisse transparent zu machen. Um dies zu kontextualisieren: Jede Bachelorarbeit muss sich zumindest inferenzstatistisch mit dem Datenmaterial auseinandersetzen. Dies heißt in Alltagssprache übersetzt, dass Zusammenhänge zwischen Variablen (Korrelationen) berechnet werden müssen und auch geschaut werden muss, ob diese Zusammenhänge zufällig oder aber systematisch (und damit überzufällig, d.h. signifikant) sind. Erst dies lässt tatsächliche Aussagen über das Material und eine Dateninterpretation zu. Reine Deskription kann keine tatsächlichen Aussagen treffen, wird aber zur Darstellung von Stichprobe und Ergebnissen natürlich in Studien gemacht, um an den Auftraggeber:innen einen Eindruck zur Erhebung zu vermitteln. Üblicherweise werden auch Kreuztabellierungen verwendet, um Unterschiede im Datenmaterial sichtbar zu machen.

Die Teile ab S 69 enthalten zwar keine Tabellen sondern diverse Grafiken, bewegen sich aber ebenso rein auf einer deskriptiven Ebene. Dies ist zwar etwas übersichtlicher, und damit für die Auftraggeber:innen besser nachvollziehbar als einfache Tabellen, bringt aber außer Beschreibung auch keine weiteren Einordungen. Hier gilt genau das Gleiche, wie im Absatz zuvor beschrieben.

1 / 2 / 3 / 4 / 5 / Auf einer Seite lesen

Kommentare (10)

  1. #1 Daniel Eckert
    Graz
    Januar 27, 2022

    Man sollte vielleicht ergänzen, dass ein Teil der methodologischen Defizite nachfrageseitig bedingt sind. So interessieren sich Auftraggeber oft nur für einen “Executive summary” und dessen Präsentation, was die Darstellungsform miterklären könnte.

    • #2 Andrea Schaffar
      Januar 27, 2022

      Klar. Aber selbst wenn das so ist – hatte ich auch schon in der Vergangenheit – fügt man die Eckdaten zu Stichprobe bzw. Sampling, Erhebungsmethode, Auswertungsmethode etc. an. Kommt aber in den Seiten alles nicht vor.

  2. #3 Markus R.
    Wien
    Januar 27, 2022

    Also wenn diese Bewertung nach Wissenschaftlichen Kriterien stimmt und davon gehe ich nach dem (sehr gut und verständlich argumentierten) Artikel aus, würde mich interessieren, was in einem üblichen Fall normalerweise weiter passieren würde. Wenn Sie Fr. Schaffar einen solchen Artikel abliefern bei einem Auftaggeber abgeben würden (sehr hypothetisch gefragt, da ich nicht an ihrem Wissenschaftlichen Vorgehen zweifeln möchte), welche Möglichkeiten hat er (der Auftraggeber) hier, wenn an der Wissenschaftlichkeit gezweifelt würde?

    • #4 Andrea Schaffar
      Januar 27, 2022

      Komm darauf an ob es Auftragsforschung ist oder nicht. Bei Auftragsforschung kann natürlich einfach die Leistung zurückgewiesen werden. Entweder eine Überarbeitung verlangt oder nicht bezahlt werden, weil die Leistung nicht erbracht wurde. Gibt ja viel Auftragsforschung, die nie veröffentlicht wird.

      Bei öffentlichen Aufträgen ist das imho noch wichtiger da draufzuschauen. Sprich da muss noch viel genauer geprüft werden, ob das Ergebnis passt. Wenn Auftraggeber:innen dafür nicht die Skills haben – etwas das immer wieder vorkommt – dann kommt man als Wissenschafter:in schon mal schnell in die paradoxe Situation die Auftraggeber:innen belehren zu müssen. (Nix Angenehmenes, auch schon x Mal gehabt leider.) Aber im Endeffekt: Wenn’s so wenig passt, und das auch für Laien eindeutig zu sehen ist, wie in dem Fall, dann darf so eine Arbeit nicht abgenommen werden. Auch um die Institution zu schützen. Ist so wie bei jedem anderen, nicht-wissenschaftlichen Projekt auch. Wenn die Leistung nicht passt, wird nicht bezahlt und nicht abgenommen.

      Bei dem Konvolut liegt ja die Vermutung nahe, dass nie geplant war das zu veröffenltichen. 😉

  3. #5 Bernhard Kleinschmidt
    München
    Januar 27, 2022

    Mir scheint, die Defizite erklären sich daraus, dass dieses Machwerk ohnehin nur als Propagandainstrument (kontra Mitterlehner, pro Kurz) gedacht war. Das heißt, das Ergebnis der Studie sollte von Anfang an den gewünschten Kriterein entsprechen. Ein fundiertes Vorgehen hätte das vermutlich nicht erbracht.

    • #6 Andrea Schaffar
      Januar 27, 2022

      Ganz sicher. Und die Vorstellung, dass jetzt so einige ordentlich schwitzen, hat schon auch was. 😉

  4. #7 Matthias
    SC, USA
    Januar 27, 2022

    Da wird der Florian Freistetter ja bald zu seinem “Aschbacher-Update” noch das “Beinschab-Update” dazunehmen muessen… 🙂

  5. #8 Klaus Klein
    Bogota
    Januar 27, 2022

    Sehr geehrte Frau Schaffar,

    vielen Dank für Ihre Bemühungen und der Aufarbeitung dieses “Prunkstückes” aus der österreichischen Politik.
    Folgender Absatz von Seite 25 gefällt mir besonders:
    Die Quelle allen Geldes sind die Bürger. Daher hat der sorgsame Umgang mit dem Steuergeld für mich oberste Priorität.
    Wäre ich noch Steuerzahler in Österreich, würde ich eine Sammelklage auf Rückzahlung anstreben.

  6. #9 Joseph Kuhn
    Januar 27, 2022

    Im Moment ist die Studienseite nicht aufrufbar, vielleicht überlastet.