Sondajul cu bucluc

Premise:

1. Constat adesea că o mulţime de colegi de breaslă simt nevoia deosebită de a ieşi în prim plan cu rezultate spectaculoase, fără a acorda însă atenţie rigorii. Apoi le furnizează presei, ca „să se vadă la TV”.

2. De câţiva ani, găselniţa agenţiilor de colectare a datelor sociale din România în materie de măsurare a intenţiei de vot la alegerile prezidenţiale este să prezinte date privind încrederea în diverse personalităţi. Fără îndoială este o opţiune utilă: încrederea se poate converti în voturi, şi cum mai este mult până la alegeri şi nu se ştie cine va candida, simpla înregistrare a intenţiilor de vot poate fi neproductivă. Cum însă încrederea nu înseamnă intenţie de vot, după părerea mea neînregistrarea sau neraportarea intenţiei de vot face ca procentele de încredere oferite pe tavă presei să fie doar nişte cifre lipsite de conţinut. Absenţa măsurării intenţiei de vot determină de altfel presa să se arunce orbeşte pe orice cifră, dezinformând populaţia. [aceasta contribuie şi la un efect colateral: vin nişte indivizi cu reflexe totalitare şi interzic sondajele, deocamdată cu o lună înainte de alegeri …]

Faptele:

Cotidianul, Realitatea TV şi alte publicaţii online prezintă în termeni nepoliticoşi un sondaj bizar dat publicităţii de către Data Media. Departe de mine gândul de a fi un susţinător al lui Geoană sau să am aprecieri pozitive la adresa domniei sale, însă titlul comun utilizat de Cotidianul şi Realitatea TV reprezintă o bădărănie: „Geoană îl ajunge pe Băsescu într-un sondaj prostănac”. În plus, aşa cum o să argumentez mai jos, modul de citire a sondajului este profund eronat.

Problema:

1. Sondajul cu pricina nu măsoară încrederea în personalităţi. Întrebarea cu pricina, disponibilă în .pdf-ul către care există un link la sfârşitul articolului din Cotidianul, se referea la părerea pe care respondenţii o aveau despre fiecare dintre personalităţile din listă. Prin urmare cifrele nu pot fi comparate cu cele privind încrederea, altfel decât în scopul de a vedea diferenţele dintre încredere şi imaginea generală a potenţialului candidat.

2. Opinia şefului de la Institutul Pro cum că el nu crede datele este una complet neinformată. Dacă aş avea un astfel de angajat l-aş ruga ca mai întâi să se documenteze, să gândească şi apoi să vorbească.

3. Ziaristul care preia ştirea se vede treaba că nu a citit materialul din care a produs ştirea.

4. Angajatul Data Media explică corect în articol de ce ies rezultatele aşa cum ies. Din păcate Data Media a ales ca strategie de prezentare a datelor utilizarea unui termen preţios prin raritatea sa şi oarecum lipsit de conţinut „topul favorabilităţii”. Mai mult, utilizând cuvântul top, agenţia de colectare a datelor a sugerat exhaustivitatea, ca şi cum respondenţii şi-ar fi dat cu părerea despre toate persoanele din România, indicând dacă au o părere bună sau rea despre ele. Cum însă în listă erau selectate doar câteva nume (opţiune absolut firească de altfel), ierarhia respectivă s-ar fi putut numi, respectând adevărul, „Imaginea publică a unor oameni politici” sau ceva de genul acesta.

Concluzia:

1. Sociologii încă au mari dificultăţi în a transmite presei cifre corecte şi inteligibile, educând-o ca să poată beneficia cu adevărat de rezultatele unor sondaje.

2. Presa mai are mult până să devină, la rându-i, profesionistă.

7 comentarii:

Turambar spunea...

E si o componenta de retorica dezirabila, ca sa zic asa si sa evit termenul manipulare, in datele acelea. E clar un efort de spalare / prezentare pozitiva a lui Geoana si altora din PSD (Ponta imi vine in minte acum). Simplul fapt ca s-a folosit intrebarea cu parerea arata asta.

Cat despre intentia de vot prezidential, argumentul folosit in evitarea masurarii si / sau comunicarii rezultatelor este ca, spre deosebire de situatia de vot parlamentar, nu se cunosc exact candidatii si atunci nu se poate simula suficient de exact contextul concurential.

Asta nu ne impiedica insa sa punem intrebarea, folosind lista de candidati cei mai probabili. Doar ca nu se comunica, as you most probably know.

:)

Bogdan Voicu spunea...

Folosisera intrebarea cu parerea si in martie sau aprilie, nu mai retin exact, asa ca teoretic puteau compara. Problema este insa intr-adevara ca nu prea are rost sa folosesti intrebarea cu parerea :)

La votul pentru prezidentiabili: nu e musai sa ai intrebare inchisa. Argumentele teoretice de a folosi o intrebare deschisa mai ales atunci cand esti la distanta mare de alegeri cred ca sunt mai puternice.

Cristi Parvan spunea...

Mi se pare lamentabil ce se intampla cu masurarea pe zona de politic. In plina "reglementare" care INTERZICE CUNOASTEREA intentiei de vot argumentand ca-s neserioase.

Avem "specialisti" care ies pe piata cu topuri gen cel mai frumos/urat politician, sau acest top de pareri comparat cu incredere.

Evident inteleg si "presiunea clientului" si "acoperirea metodologica", dar totusi lucrurile sunt jenante ... si chiar dau apa la moara "solutiilor radicale".

A existat si in media tendinta de a iesi public cu date care sa "dea senzatia" unei realitati diferite ... dar comunitatea fiind ceva mai compacta ... stabilirea unor norme care sa impuna publicarea detaliilor in zonele care "generau iluzii" (perioade, intervale de timp,targeturi bine alese etc) a temperat tendinta si in plus a creat un soi de "educatie" consumatorului de date de media.

Pt a evita legiferarea "absurda" poate n-ar fi rau ca un organism de autoreglementare (poate SAR-ul)sa emita macar niste recomandari de genul:
In momentul publicarii de astfel de date sa se publice si:
- intrebarea exacta care a generat acele date
- numele persoanei care-si asuma acel "studiu"
- perioada de fieldwork,esantion, univers etc

Altfel riscam ca in loc de "incredere" in masurare sa obtinem ... doar pareri despre masurare :)


PS: Am vazut tarziu postul asta, si apucasem sa-mi dau cu parerea separat. Am evitat sa vorbesc despre masurare sociologica... si am zis ca vorbesc "despre oua" ... evident aparandu-le.

Turambar spunea...

Cam greu, Cristi, cel putzin pentru moment. Mai ales ca acum, daca or sa vina uninominalele, o sa fie o nevoie de sondaje cat casa, si comanditarii nu vor dori sa li se restranga libertatea de fushereala din motive de altzii inventate. Shtiinta? Ce-i aia? Spune-mi cat ma costa...

In privinta intrebarii deschise la votul prezidentzial, parerea mea e ca bulibasheala risca sa fie si mai mare. Obtzii atat de multe nesenereuri incat nu prea ii mai vad rostul. E ca si cum te-ai duce la om sa-l intrebi: Daca tzi s-ar oferi o anumita bautura, de o anumita culoare si de un anumit gust, dar pe care nu pot sa tzi le dezvalui acum, ce-ai alege: aia de pe raftul de sus sau aia de pe raftul din dreapta? Aia din sticla verde sau aia cu eticheta de plastic? Iar omul o sa ridice sictirit din umeri shi o sa intrebe: bine, ma, zi-mi ce-mi dai de baut: vin sau tzuica? Pepsi sau Cola? Ca pe urma itzi spun eu pe care o aleg.

Alegoria, comme d'habitude, are partea ei de naivitate, dar shi partea ei de retorica :)

Iar sondajul Data Media e o facatura dureroasa. Chiar cu o zi inainte de inceperea tam-tamului i-l aratam unei colege de-a noastre , pe post de uceniceala: uite, cucoana, cum nu trebuie facut. L-am luat intrebare cu intrebare shi l-am facut, pe ici pe colea, prin punctele esentiale, harcea-parcea, povestindu-i si de relatia lui Sarbu cu Geoana si de cine s-a ocupat operational (BTL, evenimente) de Geoana in campania la localele din 2004 (Doina Gradea, ex-mana dreapta a lui Sarbu, cu echipa de zgomot shi fum aferenta).

Si, ca un facut :), a doua zi a inceput balacareala. Ishi merita soarta: si Data Media, si Teodorescu... :(

Dar sa nu vorbesc de funie in casa spanzuratului (a mea, I mean) :p

Bogdan Voicu spunea...

@Cristi: e greu sa impui atat de multe reglementari, iar incercarile de pana acum au esuat. Nu exista oricum nici organism care sa o faca (suficient de credibil, independent, capabil etc.). Normal ar fi ca sa piata insasi (i.e. media) sa reglementeze, filtrand aiurelile. Pentru asta insa e nevoie ca cei din media/publicitate sa aiba habar ce cumpara. In Romania insa training-ul in aceasta directie nu se face nici in liceu, nici in facultate (nici macar in alea de profil sau care au de a face cu sondarea: cibernetica, marketig, sociologie, matematica, fiecare facand cate o bucatica, incompleta si adesea prost facuta).

Singurul mod de a impune pietei calitate este in opinia mea sa ii oferi calitate. Iara sta trebuie facut in principal de cele 3-4 agentii mai rasarite de colectare a datelor (IMAS, CURS, MMT, Gallup, si, poate, IRSOP) care ar putea sa gaseasca ragazul sa furnizeze constat date de calitate, prezentate adecavat, neinfluentate de erori grosolane de masurare (cum din pacate vad adesea inca din stadiul de design al intrebarii, iar eroarea celor dela DataMedia este chiar mica in comparatie cu multe din tampeniile de care ne ciocnim aproape zilnic in sondaje facute de indivizi cu ... nume sonore!).


@Mirel: eu tot pe aia deschisa as merge, mai ales acum la 2 ani inainte de alegeri prezidentiale. Argumentele pentru cea inchisa sunt doua: 1. este mai ieftin de aplicat; 2. reproduce situatia reala: individul se afla in fata unei liste si alege din ea.

Daca dam insa un primat atat de mare costurilor (asa cum o fac de altfel agentiile de colectare cand aleg de exemplu random route, respins sistematic in intreaga Europa de Vest ca si metoda valida de selectie a dreselor), atunci nu vad de ce nu si-ar cumpara toata lumea Tico, sau mai degraba ... triciclete.

Al doilea argument nu tine decat dupa ce candidatii la presedintie sunt decisi sau aproape decisi. Altfel, lista este atat de influentabila incat nu mai are nici o importanta cate raspunsuri valide obtii... Poti sa bagi de exemplu in lista un nume, cunoscut, dar la care nimeni nu se gandeste ca presedinte, sa zicem ... o vedeta de TV, cu priza la electoratul consumator de telenovele si Surprize, Surprize! O sa iti iasa pe la un 7-8%. Arunci cu rezultatul pe piata, televiziunile se bat pe ea, apoi se repeta sondajul 2 saptamani mai tarziu, ai ajuns la 10-12% si gata, ai creat un candidat! (exista evident si strategiimult mai parsive, pe care o suspecte ca a fost deja folosita in Romania de unii dintre adeptii intrebarilor inchise: se face valva 2 saptamani in jurul unui potential candidat, altfel nu foarte notoriu, culegerea datelor se produce aproape concomitent, cu o,lista inchisa in care inserez intamplator si acel candidat, care altfel nu ar fi aparut acolo, si ... ghici cine creste repede in sondaje?)

Turambar spunea...

Problema de costuri la deschisa nu este intr-atat de importanta in luarea hotararii finale: deschisa sau inchisa, cat este cea de validitate, dupa parerea mea.

Pe teren, nu e chiar asa mare diferenta sa pui una inchisa sau deschisa. Nu itzi creste intr-atat terenul ca efort / dificultate incat sa fie unbearable (altminteri nu ar mai pune nimeni intrebari deschise, nu?) Intr-adevar, e mai greu pentru respondent sa stea sa gandeasca cu capul lui, creste tentatia pentru operator sa o fusereasca, dar repet: nu dramatic.

Dramatic, dupa mine, este ca pui o intrebare de la care obtii mult mai mult rumegush. Pe de o parte, mult mai multe non-raspunsuri, pe de alta parte masori altceva decat ai vrea sa masori: nu e o situatie explicit concurentiala, precum in fata listei de vot. Intervine si diferenta dintre reproducere si recunoastere.

Bref, eu o evit. Asta nu inseamna ca nu aplic intrebarea inchisa. Doar ca nu o comunic si o folosesc pentru uzul intern al clientilor. Ca in bancul acela, cu Big LeRoy: sa nu creem confuzii... :)

In privinta reglementarii, ai dreptate: va fi dificil. Tot piata va filtra incetul cu incetul, ceea ce, de altfel, se si intampla pe zi ce trece, nu? Dincolo de dificultate, orgolii, lipsa de institutionalizare, temeri de partinire, ce tin de interese pecuniare si de contrele / orgoliile dintre tabere (who watches the watchers?), intervine marea nelamurire, pe care nu ai cum sa o limpezeshti suta la suta never ever: cand sunt erorile albe, inerente, datorate riscului inerent (din cand in cand teoria itzi spune ca esti dincolo de marja de eroare, oricat de bine ai face lucrurile)? Cand sunt erori gri, ce tin de nepriceperea profesionala (for instance, cand futzi eshantionul sau cand operatorii itzi rasolesc chestionarele)? Cand sunt erori negre, marshave, cu interes de manipulare?

Ai, aud? Cum raspundem suta la suta, fara echivoc la asta, si cum va taia institutia fara greseala, sine ira et studio, in acest context probabilistic?

Pana la urma e vorba tot de calibrarea in jurul datelor consensual obtinute de acele institute mari de care spuneai mai adineauri. Numai ca shi ele, in vremuri de restrishte pecuniara shi de isterie electorala, s-ar putea sa ia unele mici note false, din cand in cand. Mici mici mici, cum spune fi-mea a mica, de doi ani...

:) :friends:

Cristi Parvan spunea...

Mai Baieti! Nu-ncercati sa ma faceti din vorbe.

Pai cum sa avem pretentia de "educare" a publicului, si a media(publicitatea n-am inteles ce cauta acolo) sau... a "comanditarilor" daca nu putem sa-i RUGAM pe facatorii de sondaje sa dea informatia completa.

Ca daca ziaristii (sau chiar BogdanT !!) primeau informatia probabil nu se mai aruncau cu capul inainte.
Sau macar ar fi putut sa iasa Melania sa le zica... guys...vedeti ca eu v-am dat alta informatie.

Asa doamna noastra atrebuits-o abureasca in patetica : nu etopdeincredereetop de favorabilitate.

Cine sa dea recomandarea? Oricine care sa poata fi invocat drept autoritate. Pentru cadinpunctul meu devedere orice facator de sondaje ar dormi mai linistit daca ar putea sa invoce acea autoritate si prin asta sa poata sa dea intrebarea intreaga.

Stiu ce-mi spuneti cu "restrangerea libertatii de fushereala" dar ... aia de fapt nu se restrange ... ca la urma urma urmei din orice garsoniera se pot emite cifre "confortabile" (chiar nu vad de ce mai e nevoie de intrebari si fieldwork :))