Poate AI detecta fake news?

Conţinut

• Pentru a prinde un hoț. . .
• Fără bug-uri, fără stres - Ghidul dvs. pas cu pas pentru crearea de programe care schimbă viața fără a vă distruge viața
• Oprirea răspândirii

Sursa: Mast3r / Dreamstime.com

La pachet:

Cercetătorii apelează la AI pentru a combate știrile false. Dar poate ajută într-adevăr sau va înrăutăți lucrurile?

Este de așteptat că fake news-urile vor fi un spor major în ceea ce privește viitoarele alegeri prezidențiale, ca să nu mai vorbim de efectul coroziv general asupra discursului nostru public în general. În societatea conectată de astăzi, faptele discerne din ficțiune au devenit din ce în ce mai dificile, motiv pentru care unii cercetători încep să se concentreze asupra puterii inteligenței artificiale pentru a rezolva această problemă.

Speranța, desigur, este că mașinile, sau algoritmii mai exact, vor fi mai buni decât oamenii la descoperirea minciunilor. Dar aceasta este o așteptare realistă, sau doar un alt caz de aruncare a tehnologiei la o problemă aparent intractabilă?

Pentru a prinde un hoț. . .

Unul dintre modurile în care oamenii de știință intenționează să reducă amploarea AI în acest domeniu este prin a-i permite să genereze știri false. Institutul Allen pentru AI de la Universitatea din Washington a dezvoltat și a lansat public Grover, un motor de procesare a limbajului natural conceput pentru a crea povești false pe o gamă largă de subiecte. Deși acest lucru poate părea contraproductiv la început, aceasta este, de fapt, o tactică destul de comună de formare a AI, în care o mașină analizează producția alteia. În acest fel, partea de analiză poate fi redusă la viteză mult mai rapid decât să te bazezi pe știrile false. Institutul susține că Grover poate funcționa deja cu un grad de precizie de 92%, dar este important de menționat că este doar abil în a face distincția între conținut generat de AI și conținut generat de oameni, ceea ce înseamnă că o persoană inteligentă ar putea totuși să strecoare o poveste falsă. trecut de ea. (Pentru a afla mai multe, consultați The Technologies Around Fighting Fake News.)

În mâinile drepte, bineînțeles, Grover poate avansa rapid înțelegerea noastră despre cum sunt create știrile false și modul în care se răspândesc, iar acest lucru teoretic poate fi folosit pentru a o zădărnici în lumea reală. Dar, după cum a remarcat Futurism.com recent, unii experți care au preluat sistemul pentru o probă de testare sunt alarmați de cât de eficient este să creeze minciuni credibile și chiar imită stilurile de scriere ale unor știri legitime precum Wall Street Journal și New York Times.

Dar, întrucât minciuna este un act inerent intuitiv și condus de emoție, este posibil ca chiar și cele mai inteligente mașini, care sunt încă conduse de o logică rece, tare, să poată atinge vreodată nivelul de înțelegere conuală necesar pentru a observa o minciună? Maria Almeida, de la Unbabel, a menționat recent că, deși unele iterații pot fi destul de bune în acest sens, niciun algoritm nu poate spera să obțină o înțelegere umană deplină. Acest lucru înseamnă că AI ar putea să îmbunătățească dramatic în verificarea faptelor și analiza comparativă, dar apelul final este cel mai bine lăsat experților instruiți.

În mod ironic, această capacitate va fi cea mai utilă în detectarea videoclipurilor false profunde care încep să facă runda pe rețelele de socializare. Având capacitatea AI de a analiza datele vizuale până la pixeli individuali, va fi mult mai priceput să detecteze imagini alterate decât cuvinte și concepte modificate.

Totuși, susține Charles Towers-Clark, de Forbes, problema centrală a unor știri false nu este că câțiva oameni o creează, ci că atât de mulți oameni sunt influențați de aceasta. Oamenii tind să creadă ceea ce vor să creadă, nu ceea ce faptele îi determină să creadă. Deci, chiar dacă un motor AI foarte dezvoltat declară că credința lor este greșită, oamenii vor fi mai capabili să se îndoiască de mașină decât de ei înșiși.

„Punerea în aplicare a învățării automate pentru combaterea răspândirii falselor știri este admirabilă”, spune el, „și este necesar să abordăm această problemă, întrucât este pusă sub semnul întrebării încrederea marilor mijloace de presă. Însă, odată cu răspândirea dezinformării, îngreunată de social media, poate detecta și dezvălui sursele de știri false să depășească instinctul uman de a crede ceea ce ni se spune? "

Fără bug-uri, fără stres - Ghidul dvs. pas cu pas pentru crearea de programe care schimbă viața fără a vă distruge viața

Nu îți poți îmbunătăți abilitățile de programare atunci când nimeni nu îi pasă de calitatea software-ului.

Adevărata provocare, nu este aceea de a identifica și de a dezgropa știri false, ci de a înțelege de ce are tendința de a disemina pe media socială atât de repede decât știrile reale. În parte, aceasta se datorează naturii falselor știri, care tinde să fie captivantă și plină de conținut față de tediul comparativ al realității. În final, este realist să vă așteptați ca tehnologia să corecteze ceea ce este esențial o problemă non-tehnică? (Pentru mai multe detalii despre modul în care AI schimbă media, consultați 5 Avansuri AI în publicare și media.)

Oprirea răspândirii

Acesta este motivul pentru care este important să concentrăm AI pe aspectul tehnic al știrilor false, nu pe aspectul uman, spune Robin Harris, de ZDNet. Și, într-adevăr, majoritatea cercetătorilor pregătesc AI-ul pentru a chema lucrurile cum ar fi distingerea tiparelor de propagare naturală și naturală prin rețelele sociale. Valorile cheie precum ratele arborilor de conversie, sincronizarea retweet-ului și datele generale de răspuns pot fi utilizate pentru a identifica și neutraliza campaniile de dezinformare, chiar dacă sursa sa este ascunsă sub straturi de subterfugii digitale. În același timp, AI poate fi utilizat pentru a gestiona alte tehnologii, cum ar fi blockchain, pentru a menține canale de informații verificabile, urmăribile.

Cert este că fake news nu este un fenomen nou. Din jurnalismul molipsitor de la începutul anilor 20^lea un secol, până la propaganda celor mai vechi civilizații, faptul că publicul este o tradiție de onoare a timpului, atât pentru guvernele ședințe, cât și pentru revoluționari. Diferența de astăzi este că tehnologia digitală a democratizat această capacitate până la punctul în care aproape oricine poate posta o minciună și o poate privi răspândită pe glob peste câteva ore.

Tehnologii precum AI pot ajuta cu siguranță să aducă o oarecare claritate acestei confuzii, dar numai oamenii pot înțelege pe deplin și judecă adevărul.